Организация Anthropic заявляет, что Alibaba должна быть наказана за крупнейшую атаку с использованием технологии клонирования Claude.

По утверждению следствия, Alibaba использовала 25 000 аккаунтов для майнинга криптовалюты Claude на более чем 28,8 миллионах бирж.

Фото: NurPhoto / Автор | NurPhoto Фото: NurPhoto / Автор | NurPhoto

Компания Anthropic обвинила китайскую фирму Alibaba в проведении крупнейшей на сегодняшний день атаки с целью клонирования Claude, поскольку Китай стремится сравняться по возможностям с ведущей моделью Anthropic после выпуска Mythos и последующего ограничения доступа к зарубежным рынкам.

Издание Ars получило письмо от 10 июня, направленное сенаторам Тиму Скотту (республиканец от Южной Каролины) и Элизабет Уоррен (демократ от Массачусетса) за день до слушаний в сенатском комитете по теме «Искусственный интеллект и американская мечта». В письме компания Anthropic поделилась «новыми конфиденциальными доказательствами крупнейшей кампании по незаконному извлечению данных о возможностях Клода, которые мы когда-либо измеряли».

Атаки произошли в период с 22 апреля по 5 июня, когда, по данным Anthropic, «операторы, связанные с Alibaba и Alibaba Qwen, лабораторией искусственного интеллекта Alibaba», совершили «более 28,8 миллионов транзакций с Claude через почти 25 000 мошеннических аккаунтов». Нарушая условия обслуживания и ограничения доступа Claude, эта кампания «была нацелена на некоторые из наиболее ценных возможностей Claude, такие как агентное мышление, разработка программного обеспечения и задачи с долгосрочным горизонтом».

По данным Anthropic, Alibaba избежала обнаружения, «используя методы обфускации и прокси-сети». Поскольку спрос в Китае на надежные методы обфускации растет, Anthropic предупреждает, что уже сейчас существует «растущая экономика обхода защиты», которая будет подпитывать постоянно расширяющуюся сеть будущих атак с использованием методов дистилляции.

Компания Alibaba якобы проигнорировала предупреждение Трампа.

Как и другие китайские лаборатории, пытающиеся скопировать передовые модели США, цель Alibaba, по утверждению Anthropic, состояла в том, чтобы перенять возможности Claude, «не неся при этом затрат на обучение и НИОКР, необходимых для создания собственной передовой модели». Эти атаки стали «широко распространены» и «превращают сотни миллиардов долларов американских инвестиций и НИОКР в огромную субсидию для наших геополитических конкурентов», — заявили в Anthropic.

Важно отметить, как заявила компания Anthropic, что кампания против Alibaba развернулась после того, как Дональд Трамп предпринял шаги по пресечению подобных незаконных атак с использованием искусственного интеллекта и защите национальной безопасности США. В апреле Трамп обвинил Китай в краже ИИ в «промышленных масштабах» после того, как Anthropic обвинила китайские фирмы DeepSeek, Moonshot и MiniMax в использовании той же тактики, которую, как утверждается, использовала Alibaba для совершения «более 16 миллионов обменов с Клодом через примерно 24 000 мошеннических аккаунтов». По данным Anthropic, OpenAI и Google опубликовали результаты расследований аналогичных атак на свои модели.

Anthropic обвинила Alibaba в «наглом» стремлении создать аналог Claude, по-видимому, невозмутимой перед лицом угроз Трампа принять меры против попыток иностранных компаний копировать американские модели развития, несмотря на зависимость от американских инвесторов.

«Компания Alibaba котируется на Нью-Йоркской фондовой бирже, ведет бизнес в Соединенных Штатах и подотчетна американским инвесторам и регулирующим органам, — отмечается в письме Anthropic, — однако эта деятельность разворачивалась в течение нескольких недель после того, как» в меморандуме Трампа содержалось предупреждение о том, что попытки клонирования «неприемлемы».

Изданию Ars не удалось немедленно связаться с компанией Alibaba для получения комментариев.

Anthropic требует наказания для таких компаний, как Alibaba.

Однако Alibaba уже готовится к конфликту с Трампом. В иске, поданном во вторник, Alibaba обвинила администрацию Трампа в внесении компании в черный список после ложного связывания ее с китайскими военными, сообщает Reuters. Alibaba добивается снятия санкций со стороны Трампа, утверждая, что они «не имеют под собой никаких оснований ни в фактах, ни в законе».

«Alibaba управляется независимым советом директоров, ни один из членов которого не имеет отношения к военным структурам», — заявили в Alibaba. «Ее продукты и услуги созданы для розничной торговли, логистики и корпоративных информационных технологий, а не для вооружения, обороны или разведки».

Однако, похоже, компания Anthropic не убеждена в том, что Alibaba не сотрудничает с китайским правительством. В письме Anthropic предупредила, что без более решительных мер эти атаки с целью получения ценной информации «помогут Китаю быстрее достичь уровня возможностей, сопоставимого с Mythos Preview».

Чтобы США сохранили превосходство над Китаем, организация Anthropic рекомендовала Конгрессу принять закон, преследующий три цели. Во-первых, необходимо обновить антимонопольное законодательство, чтобы позволить компаниям, занимающимся искусственным интеллектом, обмениваться информацией об изменяющейся тактике Китая для сдерживания новых угроз.

Во-вторых, США необходимо усилить экспортный контроль за чипами, чтобы ограничить доступ Китая к передовым вычислительным ресурсам и лишить его возможности обучать модели на основе американских результатов. Это может сделать проведение атак методом дистилляции бессмысленным, предположил Антропик.

Наконец, Конгрессу следует принять законы, предусматривающие наказание за «недобросовестное поведение» китайских лабораторий, чтобы использование методов «дистилляционных атак» для продвижения китайских моделей стало «более сложным и дорогостоящим». В качестве наказания можно было бы ограничить доступ китайских компаний к американским моделям или передовым американским чипам, а также запретить им использовать центры обработки данных за пределами Китая, предложила организация Anthropic.

Компания Anthropic отказалась уточнять, были ли предполагаемые атаки Alibaba достаточно серьезными, чтобы существенно ускорить развитие возможностей Китая в области искусственного интеллекта, а также комментировать какие-либо конкретные шаги, предпринятые для предотвращения атак. Вместо этого представитель компании предоставил изданию Ars заявление, повторяющее позицию, выраженную в письме сенаторам.

«Мы считаем, что борьба с угрозой незаконной дистилляции требует скоординированных действий между правительством и промышленностью, и мы продолжим сотрудничать с Конгрессом и Администрацией для сохранения лидерства США в области искусственного интеллекта», — заявила компания Anthropic.

Китай стремится сравняться с возможностями компании Mythos.

В письме компании Anthropic, занимающейся разработкой искусственного интеллекта, утверждается, что она намерена помочь США сдержать натиск Китая, чтобы тот не смог превзойти американские возможности.

В таком случае, предупреждала компания Anthropic, Китай может застать врасплох беззащитные США, внезапно получив «передовые кибервозможности для противодействия правительству США и американским компаниям, а также для использования уязвимостей быстрее, чем это было возможно ранее».

В письме организации Anthropic говорится, что важно, чтобы США как можно дальше опережали конкурентов, поскольку «чем больше разрыв в возможностях», тем «больше времени будет у правительства США на укрепление киберзащиты и внедрение систем ИИ в сфере национальной безопасности» по мере развития китайского ИИ.

Кроме того, Anthropic предупредила, что если США проигнорируют атаки с использованием методов дистилляции, Китай может выпустить передовые модели ИИ «со слабыми механизмами защиты, которые легко взломать, что позволит другим противникам США использовать эти модели для широкого спектра действий, противоречащих интересам США».

Модели Alibaba были скачаны более 700 миллионов раз и находятся на переднем крае китайской индустрии искусственного интеллекта. Официальная газета Центрального комитета Коммунистической партии Китая (КПК), «Жэньминь жибао», недавно назвала семейство моделей ИИ Qwen от Alibaba «самой популярной в мире системой ИИ с открытым исходным кодом». Компания, занимающаяся ИИ, вероятно, будет занимать оборонительную позицию по мере усиления контроля со стороны США, но рискует подорвать свой бизнес, если конфликт с США затянется. Акции Alibaba упали на 3 процента после того, как обвинения Anthropic стали достоянием общественности, сообщило Yahoo Finance.

Подозрения Anthropic в том, что Китай спешит создать модели, сопоставимые по возможностям с Claude, подтвердил как минимум один крупный китайский технологический стартап. Как сообщила газета South China Morning Post, на конференции по кибербезопасности в Пекине вчера основатель 360 Security Technology Чжоу Хунъи сравнил Mythos от Anthropic с «киберядерным оружием».

Как сообщает SCMP, Чжоу заявил аудитории, что внезапный гигантский скачок в способности Mythos обнаруживать уязвимости в сфере кибербезопасности стал «ужасающим изменением», фактически «демократизировавшим» кибератаки.

По словам Чжоу, для Китая отсутствие доступа к Mythos стало существенным недостатком. Он посетовал на то, что проект Glasswing, предоставивший более чем 40 американским организациям доступ к Mythos Preview для усиления киберзащиты, исключил Китай из числа участников.

«Это означает, что американские организации могут использовать Mythos для сканирования ваших уязвимостей, но у вас даже нет квалификации, чтобы хотя бы мельком увидеть Mythos», — сказал Чжоу.

Единственный путь вперед для Китая — создание собственной модели, подобной Mythos, заявил Чжоу, предупредив, что такое «революционное оружие в кибервойне» не может «находиться исключительно в руках других». По словам Чжоу, Китай должен как можно быстрее скопировать возможности Mythos, чтобы обеспечить взаимное гарантированное уничтожение в случае, если его соперник попытается захватить власть, используя свой передовой искусственный интеллект.

Издание SCMP отметило, что «замечания Чжоу стали первым случаем, когда видный китайский технологический магнат публично предупредил о стратегических рисках, связанных с передовой моделью искусственного интеллекта, используемой в США».

Как сообщает SCMP, Чжоу заявил, что китайские фирмы «значительно отстают от уровня возможностей Mythos». Затем он представил свою компанию как разработчика решения, которое фокусируется «на системах ИИ-агентов, объединяющих существующие базовые модели со специализированными наборами данных по безопасности и базами знаний об уязвимостях», вместо того чтобы «пытаться сравняться с США по возможностям моделирования и вычислительной мощности».

Источник: arstechnica.com