Ветераны кибербезопасности протестуют против «опасного» запрета правительства США на использование самых мощных моделей компании Anthropic.

Группа, состоящая из десятков экспертов по кибербезопасности, включая нескольких известных ветеранов отрасли, опубликовала открытое письмо правительству США с просьбой отменить экспортный контроль в отношении моделей Fable и Mythos компании Anthropic.

Согласно открытому письму, «это действие лишило специалистов по кибербезопасности лучших моделей», которые теперь не могут использовать для поиска уязвимостей и повышения безопасности своего программного обеспечения и продуктов.

«Опасно лишать обороняющихся их лучших возможностей без веской причины, когда наши противники стремительно наступают», — говорится в письме.

В пятницу правительство США обязало компанию Anthropic ограничить экспорт игр Fable и Mythos, сославшись на соображения национальной безопасности, не объяснив при этом конкретных причин этого распоряжения, как сообщила сама компания. В ответ компания приостановила доступ к этим моделям для всех пользователей по всему миру.

На момент написания этой статьи письмо подписали 76 экспертов по кибербезопасности, в том числе Алекс Стамос, бывший руководитель службы безопасности Facebook; Кейси Эллис, основатель платформы для поиска уязвимостей Bugcrowd; Джон Каллас, известный криптограф и бывший менеджер по проектированию и архитектуре безопасности в Apple; Пол Викси, специалист по информатике; Дино Дай Зови, бывший руководитель отдела прикладной инженерии безопасности в Block; Кэти Муссурис, основатель Luta Security; и Рэйчел Тобак, генеральный директор компании SocialProof Security, занимающейся обучением основам информационной безопасности.

Когда в апреле был запущен Mythos в предварительной версии, компания Anthropic заявила, что система настолько эффективна в обнаружении уязвимостей безопасности, что ей пришлось жестко ограничить доступ, чтобы предотвратить использование ее злонамеренными хакерами или иностранными противниками для нанесения ущерба интернету. На практике это означало, что Anthropic предоставила первоначальный доступ к Mythos примерно 50 компаниям, а недавно расширила эту группу до примерно 150 организаций в 15 странах.

На прошлой неделе компания Anthropic выпустила Fable, публичную версию Mythos, которая, по словам компании, имеет строгие ограничения, препятствующие её использованию в областях биологии, химии и кибербезопасности, а также не позволяющие другим лицам копировать модель для её воссоздания. Ограничения в Fable были настолько строгими, что многие эксперты по кибербезопасности обнаружили, что она практически блокирует любые запросы, связанные с кибербезопасностью.

Компания Anthropic заявила, что распоряжение Белого дома о контроле за экспортом, возможно, было основано на сообщении о существовании способа обойти — или взломать — Fable, чтобы разблокировать её мощные возможности уровня мифологии.

Связаться с нами

У вас есть дополнительная информация о статье Amazon, которая привела к запрету? Мы будем рады ее получить. С любого устройства и сети, не связанных с работой, вы можете безопасно связаться с Лоренцо Франчески-Биккьераи через Signal по номеру +1 917 257 1382, или через Telegram и Keybase @lorenzofb, или по электронной почте.

По словам Кэти Муссурис, одной из подписавших открытое письмо, этот метод был продемонстрирован исследователями Amazon в статье, которая не является общедоступной, но которую она изучила.

Однако Муссурис заявила в своем блоге, что в статье на самом деле не был продемонстрирован реальный взлом системы. Вместо этого, написала она, исследователи просто попросили Fable исправить открытый исходный код, содержащий общедоступные и известные уязвимости, а также «намеренно внедренные уязвимости», после того как модель первоначально отказалась «проверить код на наличие проблем безопасности».

«Описанное в статье поведение невозможно эффективно исправить, и любая попытка это сделает модель защиты еще слабее», — написал Муссурис. «Защитники должны иметь возможность попросить ИИ исправить ошибки в файле, объяснить, почему это исправление важно, и написать тесты, подтверждающие работоспособность патча. Это не обход защитных механизмов. Это самое ценное, что может сделать модель ИИ для обеспечения безопасности: выполнить цикл поиска, исправления и тестирования, который защитники выполняют каждый день».

Критика Муссуриса нашла отражение в открытом письме, в котором также говорилось, что группа экспертов считает, что метод, описанный в статье Amazon, «может быть воспроизведен» на GPT-5.5 от OpenAI, на общедоступных моделях Claude Opus 4.8 и Sonnet от Anthropic, «и даже на китайских моделях, таких как Kimi 2.7».

В письме также содержалась просьба о прозрачном и справедливом применении правил, разработанных в рамках «демократического процесса нормотворчества», основанных на научных исследованиях, проведенных отраслевыми и академическими экспертами, и «используемых только в минимальной степени, необходимой для обеспечения безопасности американского населения».

Источник: techcrunch.com