Последняя архитектура Nvidia GB200 NVL72 демонстрирует убедительные преимущества в производительности для задач AI-рассуждения. Запуская модель DeepSeek R1, чип достигает пропускной способности 7 707 токенов в секунду — примерно в 6,5 раза быстрее, чем B200, и значительно опережает конкурирующие решения, такие как AMD MI355X, который достигает максимум около 272 токенов в секунду на том же бенчмарке. Эта эффективность пропускной способности важна для масштабных операций инференса, где метрики токенов в секунду напрямую влияют на экономику развертывания. Разрыв в производительности рассуждения еще больше увеличивается при сравнении пиковых возможностей, при этом NVL72 обеспечивает до 28-кратного преимущества в производительности. Для GPU-интенсивных приложений в криптопространстве — будь то обслуживание моделей, обработка данных или вычислительная проверка — эти улучшения чипсета значительно меняют соотношение стоимости и вычислений.