Проект Galaxy компании SenseTime нацелен на расширение производства чипов для искусственного интеллекта на внутреннем рынке.

Искусственный интеллект в действии

Проект Galaxy компании SenseTime нацелен на расширение производства чипов для искусственного интеллекта на внутреннем рынке.

Компания SenseTime запустила проект Galaxy, объединив усилия с почти 20 партнерами для масштабирования инфраструктуры чипов для искусственного интеллекта в Китае.

В своем программном докладе под названием «Интеллектуальная трансформация и симбиоз» Ян Фань — соучредитель компании и президент ее подразделения по разработке крупных устройств — изложил концепцию замкнутого цикла, связывающего технологии на уровне чипов, партнерские отношения в экосистеме и коммерческое внедрение вычислительных мощностей для искусственного интеллекта, производимых внутри страны.

В рамках проекта Galaxy компания SenseTime подписала соглашение о космических вычислениях с производителем спутников Guoxing Aerospace и заключила исследовательское партнерство с пятью учреждениями, включая Шанхайскую лабораторию искусственного интеллекта, направленное на разработку научных вычислительных приложений.

Ян обосновал выбор времени тремя сходящимися тенденциями: ростом спроса на токены в корпоративных средах, догоняющим внедрение ИИ в промышленности сценариям использования в потребительском сегменте, и достижением уровня коммерциализации отечественных чипов, позволяющего быстро развертывать центры интеллектуальных вычислений на базе китайских микросхем.

Однако, насколько этот временной промежуток действительно велик, как утверждает SenseTime, во многом зависит от данных, которые компания еще не проверила независимыми экспертами.

Показатели пропускной способности токенов сопровождаются большой звездочкой.

Компания SenseTime заявляет, что ее крупномасштабная платформа для устройств в настоящее время обрабатывает в среднем 2,42 триллиона токенов в день, и прогнозирует, что к четвертому кварталу 2026 года эта цифра вырастет в 25 раз и достигнет 10 триллионов токенов в день. Это прогноз, а не измеренный результат, и корпоративным покупателям, оценивающим инфраструктуру SenseTime, следует рассматривать его именно так до тех пор, пока не начнут поступать квартальные данные.

Заявления об экономической эффективности, связанные с этим ростом, также основаны на собственных отчетах. SenseTime утверждает, что ее гетерогенная гибридная технология вывода данных обеспечивает увеличение использования модельных FLOPs на 85–152 процента на массовых отечественных чипах, а также экономическую эффективность вывода данных, по оценке компании, в 1,25 раза выше, чем у чипов серии H от Nvidia.

По сравнению с отечественными однородными системами обработки данных, SenseTime заявляет об увеличении количества токенов в 2,5 раза при эквивалентной стоимости, что, по их словам, выводит оптимизированные гибридные кластеры обработки данных за пределы того, что ранее считалось минимальным порогом рентабельности для отечественных вычислительных мощностей.

Ни один из этих показателей не подкреплен результатами сторонних сравнительных тестов, и разрыв между оптимизированным тестовым кластером поставщика и производственной средой заказчика — с ее неравномерными конвейерами обработки данных и задержками в обновлении прошивки — обычно является тем моментом, когда такие цифры снижаются.

Заявления о возможности адаптации и проблема многочиповых систем

Исторически сложилось так, что отечественные чипы для искусственного интеллекта сталкивались с проблемой фрагментированного программного обеспечения: модели, обученные для одной архитектуры, часто требуют доработки для работы на другой. Компания SenseTime заявляет, что разработала полнофункциональный адаптационный слой, охватывающий модели, фреймворки, операторы, наборы инструментов и оборудование, чтобы решить эту проблему и позволить клиентам переносить рабочие нагрузки между отечественными производителями чипов без масштабной переработки.

Компания приводит два практических примера. В задаче прогнозирования длинных последовательностей белков с помощью AI4S, SenseTime заявляет, что оптимизация объединенных операторов сократила общее время прогнозирования в три раза. В задаче генерации видео с помощью AIGC компания утверждает, что коэффициент параллельного ускорения на нескольких платах составляет 93 процента для отечественных чипов, работающих с моделями DiT, а также, по ее словам, обеспечивает нулевую стоимость миграции для основных инструментов разработки ИИ.

Эти показатели хорошо читаются в тестовой среде и приобретают гораздо большее значение при стресс-тестировании на реальных клиентских конвейерах, работающих на оборудовании разных поколений.

Показатели энергопотребления получили новое эталонное название.

Компания SenseTime представила показатель, который она называет «токены на ватт» (Tokens Per Watt), позиционируемый как альтернативный критерий для измерения эффективности центров обработки данных, использующих ИИ, а также агента для совместной работы с вычислительной мощностью, который занимается планированием ресурсов, прогнозированием цен на электроэнергию и оптимизацией хранения энергии в рамках, как описывает компания, восьмиуровневой системы данных с пятью цепочками принятия решений.

По утверждению SenseTime, сочетание вычислительных мощностей, ценообразования на электроэнергию и автоматизированного планирования обеспечивает увеличение количества токенов, выдаваемых на единицу стоимости электроэнергии, на 80 процентов снижает средние цены на электроэнергию на 10 процентов по сравнению с аналогичными региональными центрами обработки данных и обеспечивает точность прогнозирования нагрузки на уровне 96 процентов.

За этими утверждениями стоит внимательно следить в течение следующих нескольких кварталов, а не принимать их за чистую монету. Арбитраж цен на электроэнергию и точность прогнозирования нагрузки, как правило, показывают разные результаты, когда система проходит полный сезонный цикл с реальной волатильностью спроса, а не в условиях, в которых поставщик обычно проводит свои пилотные проекты.

Впечатляющий список партнеров включает в себя как производителей микросхем, так и поставщиков компонентов.

В заявленную экосистему проекта Galaxy входят отечественные производители микросхем Cambricon, Muxi, Hygon, Huawei Ascend, Moore Threads, Sunrise и Biren Technology, партнер по компонентам Xizhi Technology, а также инфраструктурные компании, включая Silicon Motion, Qujing Technology, Zhongke Jiahe, Qingcheng Jizhi, Sophon Information и Jiliu Technology.

Компания SenseTime заявляет, что план включает в себя строительство одной «фабрики токенов», пяти вычислительных кластеров в масштабе, который она называет «10 000 калорий», совместную работу по десяти технологическим направлениям и поддержку 200 стартапов в области искусственного интеллекта.

«Отечественное производство — это не просто замена отдельных микросхем, а скорее совместная работа всей цепочки инновационных возможностей Китая, от микросхем и компонентов до инфраструктуры и сценариев применения», — сказал Ян.

Ставки на космические, оптические и квантовые вычисления смотрят в более отдаленную перспективу.

Помимо краткосрочных инфраструктурных проектов, SenseTime рассказала о работе над оптическими вычислениями для повышения эффективности центров обработки данных, применении квантовых вычислений в оптимизации ИИ, а также о партнерстве с Guoxing Aerospace в области космических вычислений для создания того, что обе компании называют космической вычислительной группировкой SenseTime.

План компании SenseTime предусматривает запуск первого спутника в 2026 году, а к 2030 году – создание тысяч вычислительных спутников и увеличение вычислительной мощности до десятков тысяч петабайт.

Ян утверждал, что ценность выходит за рамки чисто технических возможностей, рассматривая космические вычисления как способ расширить охват китайских сервисов ИИ в условиях слабых сетей, таких как морские операции и реагирование на стихийные бедствия, и, как следствие, поддержать экспорт ИИ из Китая на международный рынок.

До достижения этой цели к 2030 году еще пять лет, и развертывание спутниковых вычислительных систем такого масштаба не имеет прецедентов, с которыми можно было бы сравнить этот срок.

Физическая инфраструктура простирается от Шанхая до Эр-Рияда.

На местах компания SenseTime заявляет, что на ее объекте в Шанхае работает первый в стране центр обработки данных, соответствующий уровню интеллектуальных вычислений «5A», обрабатывающий более 20 триллионов токенов ежедневно в более чем 20 отраслях. Запущен еще один объект в Яньчэне с первоначальной мощностью в 3000 петафлопс, ориентированный на энергетику, производство и приложения для низковысотной экономики.

В Гонконге компания SenseTime строит, как она сама описывает, крупнейший в регионе центр интеллектуальных вычислений, планируя достичь производительности в 40 000 петафлопс к 2030 году. Компания также планирует создать в Саудовской Аравии первый в Китае зарубежный кластер внутренних вычислительных мощностей, который будет позиционироваться как полноценная база внутренних вычислительных мощностей для Ближнего Востока.

В исследовательской сфере сотрудничество SenseTime с Шанхайской лабораторией искусственного интеллекта, Пекинской академией Чжунгуаньцунь, Шэньчжэньской академией Хэтао, Шанхайским институтом исследований инновационных алгоритмов и школой искусственного интеллекта Шанхайского университета Цзяотун направлено на создание общей платформы, охватывающей вычислительные ресурсы, инструменты и возможности моделирования для исследований в области биологических наук, материаловедения и производства. Ян назвал ИИ для науки «ключевым рычагом для парадигмальных инноваций в фундаментальных исследованиях», связав эту инициативу с более широкой политикой Китая «Искусственный интеллект+».

Прогноз SenseTime о 10 триллионах токенов в день к четвертому кварталу 2026 года — это показатель, за которым следует следить, сравнивая его с тем, что компания сообщит по завершении этого квартала.

См. также: Открытая модель веса Kimi K3: крупнейший китайский ИИ — это ставка на память, а не на вычислительные мощности.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com