«Опасные» модели ИИ появятся в любом случае.

Вскоре модели искусственного интеллекта с расширенными возможностями взлома станут нормой.

Дарио Амодей на сцене конференции Code with Claude 2026 в Сан-Франциско. Фото : Самуэль Аксон .

В конце прошлой недели компания Anthropic приостановила работу своих новых моделей искусственного интеллекта Claude Fable 5 и Mythos 5 после распоряжения правительства США об экспортном контроле, запрещающего «любому иностранному гражданину» использовать эти услуги. Компания ведет переговоры с Белым домом с пятницы, но пока не достигла соглашения, которое позволило бы ей возобновить предоставление услуг.

С момента дебюта Mythos в апреле компания Anthropic заявляла — и предупреждала — что модель обладает расширенными возможностями не только для обнаружения уязвимостей программного обеспечения, чтобы помочь специалистам по защите устранить их, но и для поиска способов их эксплуатации, которые могут быть использованы злоумышленниками. Сама компания Anthropic отметила эту палку о двух концах при запуске Mythos 5 и Claude Fable 5. «Значительная часть продвинутого использования моделей ИИ имеет двойное назначение: те же самые запросы, которые полезны в руках специалистов по кибербезопасности и исследователей в области биологии, могут быть опасны, если они доступны злоумышленникам», — написала компания в своем блоге на прошлой неделе.

Учитывая это, компания первоначально выпустила версию под названием Mythos Preview для избранного консорциума в рамках рабочей группы, известной как Project Glasswing. На прошлой неделе эта группа также выпустила Mythos 5 в закрытом режиме, а модель Claude Fable 5, являющаяся моделью уровня Mythos, была выпущена для широкой публики со специальными ограничениями на ее способность отвечать на вопросы о биологии и кибербезопасности.

Затем, в конце прошлой недели, администрация Трампа предприняла шаги по ограничению обеих моделей, поскольку считает, что ограничения Fable 5 можно отключить, чтобы обеспечить полный доступ к возможностям Mythos 5, что, по её утверждению, представляет угрозу национальной безопасности.

Однако эксперты утверждают, что это институциональное столкновение лишь затягивает или маскирует горькую правду: Anthropic, возможно, сейчас находится на острие атаки, но возможности ИИ в целом и модели от множества компаний и разработчиков с открытым исходным кодом почти наверняка будут обладать аналогичными возможностями, что и Mythos 5, в ближайшем будущем — если они еще ими не обладают.

«Крайне недальновидно полагать, что другие конкуренты Anthropic не разработают аналогичные возможности, как у Mythos, или даже что они еще этого не сделали», — говорит Тара Уилер, директор по безопасности специализированной консалтинговой фирмы по кибербезопасности TPO Group. «Есть и другие компании, которые идут по пятам за Anthropic и, вероятно, тоже обладают такими возможностями, но держат их в резерве, наблюдая за тем, как Anthropic воспринимается в нынешней нормативно-правовой среде».

Сама компания Anthropic подчеркивала этот момент с момента запуска Mythos Preview. «Главное, что дело не в модели или в самой компании Anthropic», — сказал Логан Грэм, руководитель группы разработчиков, в интервью WIRED во время запуска Mythos Preview в апреле. «Нам нужно уже сейчас готовиться к миру, где эти возможности станут широко доступны через 6, 12, 24 месяца».

Например, компания OpenAI в середине апреля также выпустила в закрытом режиме модель, ориентированную на кибербезопасность, и объявила о расширении своей стратегии в этой области.

Исследователи отмечают, что даже до появления этого нового поколения моделей существующие решения на основе ИИ могли использоваться для поиска уязвимостей и разработки эксплойтов с помощью усовершенствованной системы. Большая группа лидеров в области кибербезопасности подчеркнула это в открытом письме администрации в воскресенье, утверждая, что директива Белого дома об экспортном контроле была ошибочной.

«Это не одна модель; это общая тенденция развития технологий», — говорит Брюс Шнайер, исследователь из Гарвардского университета и Университета Торонто, анализирующий ситуацию. «Более мелкие, дешевые модели с открытым исходным кодом, иногда сами по себе, а иногда в сочетании друг с другом, могут достичь производительности Mythos/Fable при более сложных методах управления. И следует ожидать, что другие модели достигнут уровня креативности и настойчивости Mythos/Fable в течение нескольких месяцев — немного дольше для моделей с открытым исходным кодом».

Эксперты говорят, что Белому дому и правительствам по всему миру необходимо сосредоточиться на демократической разработке гораздо более широких и прозрачных планов того, как они будут противостоять развитию возможностей искусственного интеллекта в области кибербезопасности и других чувствительных областях по мере их неизбежного появления.

«Вопрос политики заключается не в том, представляет ли технология риск, — говорит Крис Высопал, соучредитель компании Veracode, занимающейся облачной безопасностью. — Вопрос в том, снижает ли конкретное ограничение этот риск или же оно в основном замедляет работу людей, стремящихся сделать системы более безопасными».

Эта статья первоначально была опубликована на сайте wired.com.

Источник: arstechnica.com