2026-01-05 18:25:19

Kiến trúc mới nhất GB200 NVL72 của Nvidia thể hiện lợi thế hiệu suất hấp dẫn cho các tác vụ suy luận AI. Khi chạy mô hình DeepSeek's R1, chip đạt tốc độ xử lý 7.707 token mỗi giây—gần 6,5 lần nhanh hơn B200 và vượt xa các giải pháp cạnh tranh như AMD's MI355X, chỉ đạt tối đa khoảng 272 token mỗi giây trên cùng một bài kiểm tra. Hiệu quả throughput này rất quan trọng đối với các hoạt động suy luận quy mô lớn, nơi các chỉ số token-trong-một-giây ảnh hưởng trực tiếp đến kinh tế triển khai. Khoảng cách hiệu suất suy luận còn mở rộng hơn nữa khi so sánh công suất đỉnh, với NVL72 mang lại lợi thế hiệu suất lên tới 28 lần. Đối với các ứng dụng đòi hỏi GPU cao trong lĩnh vực tiền điện tử—dù là để phục vụ mô hình, xử lý dữ liệu hay xác thực tính toán—những cải tiến của chipset này thay đổi đáng kể tỷ lệ chi phí trên khả năng tính toán.

Xem bản gốc

Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.

11 thích

Phần thưởng
11
5
Đăng lại
Retweed

Bình luận

0/400

TokenCreatorOP

· 21giờ trước

ngl lần này nvdia thật sự tuyệt vời, chênh lệch hiệu suất 28 lần, AMD máu mẹ ăn đất rồi DeepSeek chạy nhanh thế này, chi phí suy luận giảm xuống, tiết kiệm được bao nhiêu tiền... Đó là lý do tại sao mọi người đều tranh giành GPU Cuộc đua sức mạnh tính toán trong thị trường tiền mã hóa lại nâng cấp, ai không có chút nvdia thì sẽ tụt lại phía sau 7707 tokens ha, con số này tôi phải lưu lại, để sau này khoe khoang 28 lần đấy các bạn, tôi tm mua cổ phiếu nvidia luôn rồi

Xem bản gốcTrả lời0

HodlTheDoor

· 01-05 18:55

Nvidia lại thắng rồi, AMD thật sự không nổi bật sao? Làm sao để bắt kịp khoảng cách 28 lần đây

Xem bản gốcTrả lời0

DarkPoolWatcher

· 01-05 18:49

Làn sóng GB200 của nvidia thực sự tuyệt vời, deepseek chạy nhanh... Nhưng 28 lần là hơi phóng đại? --- Nhanh hơn 6.5 lần so với B200 thực sự thoải mái, AMD đã bị đánh bại lần này... Người ta ước tính rằng sức mạnh tính toán của vòng tròn tiền tệ sẽ phải thay đổi chip --- Chờ đã, token có thể thực sự quyết định trực tiếp chi phí triển khai? Có cảm giác như nó phụ thuộc vào mức tiêu thụ điện năng --- Sẽ rẻ hơn bao nhiêu nếu vòng tròn tiền tệ sử dụng thứ này để xác minh... Có ai tính toán không? --- Tôi chỉ muốn biết khi nào NVL72 sẽ có sẵn, và bây giờ lấy chip cũng giống như lấy Moutai --- Cách tính công suất đỉnh gấp 28 lần, các điểm chuẩn khác nhau, đúng không, tôi cảm thấy so sánh này hơi chảy nước --- DeepSeek chạy rất nhanh... Tuy nhiên, các thợ đào quan tâm nhất đến tỷ lệ tiêu thụ điện năng và không có gì được nói nếu không có dữ liệu này

Xem bản gốcTrả lời0

AllInDaddy

· 01-05 18:38

NVL72 này chênh lệch hiệu suất, AMD chắc chắn sẽ khóc... Nhưng nói đi cũng phải nói lại, liệu chiếc chip này có thực sự giảm được chi phí triển khai mô hình không? Hay lại chỉ là một chiêu trò thổi phồng?

Xem bản gốcTrả lời0

MidnightSnapHunter

· 01-05 18:26

NVIDIA lần này thực sự mạnh, hơn 7000 token/s trực tiếp vượt mặt AMD, nhưng thành thật mà nói, chi phí triển khai vẫn còn phụ thuộc vào chuỗi cung ứng chip trong thời gian tới.

Xem bản gốcTrả lời0