Google переводит выпуск чипов на темп выпуска LLM Амин Вахдат,…

Google переводит выпуск чипов на темп выпуска LLM

Амин Вахдат, старший вице-президент Google по ИИ и инфраструктуре, открывал сегодня SEMICON Taiwan в Тайбэе. Компания уходит от двухлетнего цикла на поколение к двум чипам в год, а дальше, возможно, и чаще. Выступлением визит не ограничился: судя по всему, Вахдат ведет закрытые переговоры с тайваньскими подрядчиками о заказах на следующее поколение TPU. Тайп-аут на TSMC ждут во втором полугодии. Заодно Google расширяет площади на острове на 60%, это ее крупнейшая инженерная база по железу за пределами США.

Первый звоночек был, когда в 8 поколении линейку впервые разделили:

▪️TPU 8t для обучения: 121 экзафлопс на связке из 9600 чипов, свыше 2 ПБ общей HBM, нативный FP4 в матричных блоках, хосты Axion на Arm
▪️TPU 8i для инференса и RL (обучения с подкреплением): SRAM на кристалле утроен до 384 МБ, HBM-памяти 288 ГБ, межчиповая шина удвоена до 19,2 Тб/с

Причина спешки в том, что TPU стал продуктом. Во втором квартале Google впервые записала в выручку поставки TPU-систем в чужие дата-центры, основная часть будет в 2027 году. Anthropic законтрактовала до миллиона чипов, Цукерберг и экстремисты обсуждает аренду с возможной покупкой позже. На двухлетнем цикле против годового у NVIDIA железо не продашь.

В том же выступлении Вахдат сказал, что чипы проектируются на два-три года вперед и должны служить пять-восемь лет. При двух поколениях в год это несколько параллельных разработок, и каждая закладывается под типы нагрузок, которых пока нет. Спрос на вычисления, по его оценке, растет вдесятеро год к году. Права на промах почти нет.