Nvidiaの最新GB200 NVL72アーキテクチャは、AI推論ワークロードに対して魅力的なパフォーマンスの優位性を示しています。DeepSeekのR1モデルを実行すると、チップは7,707トークン/秒のスループットに達し、B200より約6.5倍高速であり、同じベンチマークで最大272トークン/秒程度のAMDのMI355Xなどの競合ソリューションを大きく上回っています。このスループット効率は、トークン/秒の指標が展開の経済性に直接影響する大規模推論操作にとって重要です。ピーク容量を比較すると、推論性能のギャップはさらに広がり、NVL72は最大28倍のパフォーマンス優位性を提供します。暗号空間でのGPU集約型アプリケーション—モデルサービング、データ処理、または計算検証のいずれであっても—これらのチップセットの改善はコストと計算能力の比率を大きく変革します。