Nvidia的最新GB200 NVL72架构在AI推理工作负载方面展现出令人信服的性能优势。运行DeepSeek的R1模型时，芯片的吞吐量达到7707个tokens/秒——大约是B200的6.5倍，并且远远领先于竞争方案如AMD的MI355X，在相同基准测试中最大吞吐量约为272个tokens/秒。这种吞吐效率对于大规模推理操作至关重要，因为tokens每秒的指标直接影响部署经济性。当比较峰值容量时，推理性能差距甚至更大，NVL72的性能优势最高可达28倍。在加密空间中GPU密集型应用——无论是模型服务、数据处理还是计算验证——这些芯片组的改进都显著改变了成本与计算的比例。