Мировая ИИ инфраструктура. Рейтинг вычислительных кластеров Суперкомпьютеры становятся всё мощнее…

Мировая ИИ инфраструктура. Рейтинг вычислительных кластеров

Суперкомпьютеры становятся всё мощнее и всё дороже. Ключевые факты о железе на текущий момент:

• Сегодня суперкомпьютер Colossus от xAI оценивается в $7 миллиардов, что почти в 2 раза превышает стоимость инфраструктуры Meta с её 100,000 чипов H100 — около $3 миллиардов.

• За последние годы стоимость самых мощных суперкомпьютеров удваивается каждые 13 месяцев.

• Энергопотребление кластеров ежегодно растёт в 1,9 раза с 2019 года, и местные электросети не всегда могут обеспечить такую выходную мощность для одного объекта.

• xAI сейчас создает крупнейший в мире вычислительный кластер Colossus, расположенный в Мемфисе, штат Теннесси, с примерно 200,000 чипов Nvidia H100.

• Colossus способен достигать 20,6 по логарифмической шкале по числу операций в секунду при несжимаемых вычислениях — это более 400 квинтиллионов вычислений в секунду.

• Для сравнения, Meta, Oracle, Microsoft и OpenAI используют кластеры с эквивалентом 100,000 чипов H100.