Компания Anthropic закрывает Fable и модели Mythos по указанию администрации Трампа.

Министерство торговли опасается, что «взлом» игры Fable 5 может представлять угрозу национальной безопасности.

Изображение бабочки выглядит немного иронично, учитывая, что модель из Fable 5 от Anthropic не может летать свободно… (Источник: Anthropic )

В пятницу вечером компания Anthropic полностью отключила доступ к своим моделям Mythos 5 и Fable 5, всего через несколько дней после их запуска.

Этот шаг предпринят после того, как в пятницу вечером компания Anthropic получила директиву Министерства торговли США, ограничивающую экспортный контроль новых моделей и их использование за пределами Соединенных Штатов. В сообщении, опубликованном в пятницу вечером, Anthropic заявила, что единственный способ обеспечить соблюдение этого правительственного распоряжения в краткосрочной перспективе — это «резко отключить Fable 5 и Mythos 5 для всех наших клиентов». Доступ к другим моделям Anthropic не затронут.

В отчете Axios со ссылкой на представителя администрации говорится, что администрация обеспокоена сообщениями о взломе системы, который, как утверждается, обходит широкие меры защиты на основе классификаторов, предназначенные для блокировки запросов Fable 5, касающихся кибербезопасности, химии и биологии. По имеющимся данным, администрация запросила приостановку выпуска этих моделей, чтобы дать время «аппарату национальной безопасности» «укрепиться» против подобных угроз. По мнению источника Axios, это укрепление может быть завершено «в ближайшие несколько недель».

В своем сообщении, опубликованном в пятницу вечером, компания Anthropic заявила, что правительство предоставило ей лишь «устные доказательства потенциального узкоспециализированного, не универсального джейлбрейка», который предполагает использование Fable 5 для проверки конкретного кода на наличие программных уязвимостей. Компания утверждает, что видела доказательства использования такого рода джейлбрейка только для обнаружения «незначительных» и «относительно простых» программных уязвимостей, и что другие общедоступные модели, такие как GPT-5.5, обладают аналогичными возможностями в этом отношении.

«Мы выполняем юридическое предписание правительства и прекращаем доступ к Fable 5 и Mythos 5 для всех пользователей», — пишет Anthropic. «Однако мы не согласны с тем, что обнаружение потенциально уязвимого джейлбрейка должно служить основанием для отзыва коммерческой модели, развернутой для сотен миллионов людей. Если бы этот стандарт применялся ко всей отрасли, мы считаем, что это фактически остановило бы развертывание всех новых моделей для всех поставщиков, работающих с новыми моделями».

В начале этого месяца президент Трамп подписал указ, призывающий разработчиков моделей искусственного интеллекта пройти добровольное государственное тестирование на безопасность. Этот указ был издан после того, как запланированная на прошлый месяц церемония подписания была внезапно отложена на фоне сообщений о разногласиях по этому поводу внутри администрации.

Компания Anthropic принесла извинения клиентам за «сбой», который, по ее словам, стал результатом «недоразумения», и заявила, что опубликует более подробную информацию о ситуации в течение следующих 24 часов.

Источник: arstechnica.com