Nvidia 最新的 GB200 NVL72 架構在 AI 推理工作負載中展現出令人信服的性能優勢。運行 DeepSeek 的 R1 模型時，該晶片的吞吐量達到每秒 7,707 個標記——大約是 B200 的 6.5 倍，並且遠超競爭方案如 AMD 的 MI355X，在相同基準測試中最大約為每秒 272 個標記。這種吞吐效率對於大規模推理操作非常重要，因為每秒標記數的指標直接影響部署經濟性。在峰值容量方面，推理性能差距甚至進一步擴大，NVL72 提供高達 28 倍的性能優勢。對於加密領域中 GPU 密集型應用——無論是模型服務、資料處理還是計算驗證——這些晶片的改進都顯著重塑了成本與計算比率。