Китайские модели с открытым боем стоят недорого. Вашингтон решает, во сколько это обойдется.

Искусственный интеллект

Китайские модели с открытым боем стоят недорого. Вашингтон решает, во сколько это обойдется.

В этом месяце предприятия, оценивающие китайские модели с открытым весом, сталкиваются с вопросом, не имеющим ничего общего с бенчмарками: останется ли их использование простым через год. Модель Kimi K3 от Moonshot AI, выпущенная 16 июля, стала самой крупной из когда-либо представленных моделей с открытым весом, и уже через несколько дней она возобновила дискуссию в Вашингтоне по поводу политики, которая затихла на год.

Результат повлияет на решения о закупках далеко за пределами Соединенных Штатов, поскольку обсуждаемые механизмы — федеральные правила закупок, экспортные черные списки, рекомендации по безопасности — проходят через тех же облачных провайдеров, которые обслуживают большую часть мира. Непосредственным толчком послужил пост Дина У. Болла, главы отдела стратегического прогнозирования OpenAI и до недавнего времени старшего советника по ИИ в администрации Трампа.

Его оценка модели была в основном положительной: очень хорошая модель, написал он, и его производительность, по его мнению, нельзя объяснить упрощенным подходом. Он также отметил, что она кажется «очень требовательной к токенам» и что ему не очевидно, что ее эксплуатация на самом деле обходится дешево, что является полезным предостережением, учитывая, что K3 запускается только с максимальными усилиями по рассуждению и выставляет счета на вывод средств по цене 15 долларов за миллион токенов.

Затем он предсказал, что администрация Трампа в конечном итоге решит, что лучшей стратегией будет создание регуляторных рисков вокруг китайских моделей с открытыми весами. Не запрет, который он назвал одним из самых глупых мотивов в политике в области ИИ, а мягкие указания от ведомств, предполагающие, что такие модели могут содержать лазейки. «Это не обязательно должно быть хорошо обосновано», — написал он. Достаточно неопределенности, и регулируемые предприятия сами отступят.

Почему китайские модели с открытым весом представляют собой в первую очередь коммерческую проблему

Реакция была резкой, и исходила она скорее от американцев, чем от Пекина. Дэвид Сакс, сопредседатель Президентского совета советников по науке и технологиям, заявил, что не может сказать, признается ли Балл в стратегии захвата регулирования или предсказывает ее, и что в любом случае использование неопределенности в регулировании в качестве конкурентного инструмента должно быть неприемлемым.

Он добавил, что ведущие закрытые лаборатории, уже обладающие монополией на доходы от моделирования, хотят, чтобы правительство устранило их конкурентов, работающих с открытым исходным кодом. Ян Лекун и Мартин Касадо утверждали, что открытая и проприетарная разработка могут сосуществовать. Позже Болл уточнил, что он делал прогнозы, а не давал рекомендации, и отказался от утверждения о том, что открытые весовые коэффициенты обязательно замедляют развитие этой области.

За всеми этими особенностями скрывается арифметическая проблема. Закрытым лабораториям необходим доход с каждого токена, чтобы оправдать инвестиции в центры обработки данных, а более дешевые модели с открытым исходным кодом снижают этот доход, не уменьшая при этом объем использования ИИ, — об этом соучредитель Snorkel AI Брейден Хэнкок рассказал TechCrunch. Данные маршрутизации уже показывают сдвиг: в июне модели с открытым исходным кодом обработали 29% токенов через производственный шлюз Vercel, по сравнению с примерно одной девятой в апреле, при этом на их долю пришлось менее 4% расходов.

Это давление исходит изнутри американского стека технологий. 1 июля GitHub сделал код Kimi K2.7 от Moonshot общедоступным в инструменте выбора моделей Copilot, размещенном на платформе Microsoft Azure. Издание The Information сообщает, что Microsoft сейчас добавляет K3 в Azure и оценивает возможность его запуска с функциями Copilot, которые в настоящее время обрабатываются моделями OpenAI и Anthropic, что потенциально позволит сэкономить до 600 миллионов долларов на выводе данных.

Microsoft не подтвердила ни цифру, ни конкретные характеристики. Это оценка, а не внедрение, но компания является крупнейшим заказчиком обеих американских передовых лабораторий, устанавливая цену на альтернативный вариант.

Аргумент безопасности, воспринятый всерьез

Коммерческая выгода не делает проблему безопасности ложной, и её наиболее серьёзная версия заслуживает отдельного упоминания. Открытые веса нельзя отозвать. После того, как модель загружена и запущена в тысячах организаций, ни один поставщик не может её исправить, отозвать или выпустить исправление, что представляет собой существенно иной профиль риска по сравнению с размещенным API. Поведение модели сложнее проверить, чем её код: тонкая настройка может содержать смещения или режимы сбоев, которые не будут выявлены при проверке лицензии.

Ранее NIST обнаружил уязвимости в открытых моделях DeepSeek, и для регулируемых отраслей вопросы о происхождении обучающих данных и обработке контента остаются актуальными независимо от того, где была создана модель.

Контраргумент касается соразмерности, а не отрицания. Научный сотрудник Джорджтаунского университета Сэм Бресник утверждал, что прекращение продаж Nvidia H200 в Китай замедлит работу Пекина значительно сильнее, чем запрет открытых моделей, которые хотят использовать американцы, поскольку это направлено на входные данные, а не на выходные. И сам Болл признал это в своем втором замечании, объяснив стратегию Китая по использованию открытых вычислительных мощностей отчасти недостатком внутренних вычислительных мощностей для обслуживания клиентов, что делает ее непреднамеренным побочным продуктом американского экспортного контроля.

Что, по всей видимости, действительно произойдёт.

20 июля издание Axios со ссылкой на источники, близкие к администрации, сообщило, что в прошлом году Министерство торговли рассматривало возможность включения китайских лабораторий искусственного интеллекта в санкционный список, что Агентство национальной безопасности и Управление национального директора по кибербезопасности рассматривали возможность выпуска предупреждения об угрозах со стороны китайских лабораторий ИИ, а Белый дом рассматривал возможность издания указа, возлагающего на американские компании ответственность за утечки данных, если они используют китайские модели. Однако опасения чиновников по поводу подавления инноваций сорвали все эти планы.

После ухода советника Шрирама Кришнана и усиления давления со стороны сторонников ужесточения мер безопасности, инициатива возобновилась, но описываемый подход заключается в правилах закупок, угрозах включения в «черные списки» и общественном давлении, а не в запрете. «На самом деле все происходит медленнее и эффективнее», — сообщил один источник Axios. Ни Белый дом, ни Министерство торговли не ответили на запросы Axios о комментариях, а Politico сообщает, что Министерство торговли не собирается предпринимать никаких действий в ближайшее время.

Для покупателей за пределами США риски являются косвенными, но реальными. Правила, разработанные для регулируемых в США отраслей и федеральных закупок, не обязательны для малазийского банка или индонезийской телекоммуникационной компании. Крупные облачные провайдеры выступают в роли связующего звена.

Большинство предприятий в этом регионе получают доступ к Kimi K3 через Azure, AWS или Google Cloud, а не через собственный API Moonshot, и если Вашингтон создаст достаточно неудобные условия для размещения китайских моделей с открытым исходным кодом для этих провайдеров, модель незаметно покинет каталог в Куала-Лумпуре одновременно с тем, как она исчезнет из него в Вирджинии.

Балл предвидел это в своем собственном посте, отметив, что регулирующие органы не захотят оказывать такое сильное давление, чтобы крупные провайдеры полностью прекратили использовать китайские модели, поскольку это только подтолкнет стартапы к менее авторитетным поставщикам. Очевидный способ подстраховаться — сохранить свою копию. Moonshot опубликует весовые коэффициенты K3 27 июля, и с этого момента модель не может быть изъята ни у кого, кто ее скачал.

Но, как уже говорилось ранее, K3 — сложная модель для самостоятельного размещения: Moonshot рекомендует использовать 64 или более ускорителей, а общий вес приложения составляет примерно 1,4 ТБ. Для большинства компаний такой резервный вариант является теоретическим.

Это сводит вопрос к более узкой теме, чем предполагают заголовки. Речь идёт не о том, безопасны ли или разрешены китайские модели с открытым исходным кодом, а о том, останется ли конкретная модель, на которой вы строите свой облачный сервис, в каталоге вашего облачного провайдера через двенадцать месяцев, и во сколько вам обойдётся её перенос, если её там не будет. Это вопрос, требующий тщательной проверки, и на него можно ответить уже сегодня.

См. также: Открытая модель веса Kimi K3: крупнейший китайский ИИ — это ставка на память, а не на вычислительные мощности.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com