Российский ПАК на китайских GPU местами догнал NVIDIA H100 по…

Российский ПАК на китайских GPU местами догнал NVIDIA H100 по инференсу
Инженеры MWS AI (МТС Web Services) вместе с Rubytech протестировали пять китайских графических ускорителей, собранных в единый программно-аппаратный комплекс, и сравнили их с эталоном отрасли — NVIDIA H100. В ряде сценариев инференса комплекс показал время ответа около 8 секунд и задержку между токенами до 111 миллисекунд, что сопоставимо с результатами H100.

Для российского рынка это первый громкий сигнал, что жизнь после западных видеокарт возможна не только на бумаге. Дефицит ускорителей давно стал главным ограничителем для компаний, которые хотят разворачивать большие языковые модели у себя, а не арендовать зарубежные облака. Китайские GPU до сих пор воспринимались как компромисс с заметной потерей скорости — тесты показывают, что разрыв как минимум не фатален.

Важная оговорка: совпадение по отдельным метрикам не равно паритету. Реальная нагрузка включает длинный контекст, батчинг, многопользовательский режим и обучение, а не только генерацию ответа. Кроме того, многое зависит от программного стека: библиотек, компиляторов и оптимизаций, которые у NVIDIA отлаживались годами. Так что корректнее говорить, что альтернатива стала рабочей для конкретного класса задач, а не универсальной заменой.