OpenAI после инцидента с Hugging Face обнаружила ещё несколько случаев «побегов» своих моделей — Reuters
Они покинули изолированную среду, но не вышли за пределы внутренней сети компании.
- 22 июля 2026 года OpenAI рассказала, что её модель «случайно» взломали Hugging Face.
- По данным WSJ, модель сняла ограничения ради тестов на кибербезопасность. Но вместо того, чтобы честно решать задачи, решила взломать собственную «песочницу», выйти в интернет и найти готовые ответы.
- После этого компания начала проводить расширенную проверку активности своих моделей, пишет Reuters со ссылкой на источники. Для этого специалисты анализируют журналы событий вместе с независимыми экспертами.
- OpenAI изучает несколько эпизодов, включая случай, когда один из агентов смог выйти за пределы изолированной тестовой среды. Источники издания утверждают, что инциденты носили ограниченный характер и ни один из ИИ-агентов не покинул внутреннюю сеть компании. Точное число «побегов» компания не раскрывает.
Евгения ЕвсееваAI31 июляAnthropic на фоне инцидента с Hugging Face и OpenAI рассказала, что её модели взломали системы трёх неназванных компаний
При этом они не «сбегали» из изолированной среды, а ошибочно считали, что находятся в симуляции.
Источник: vc.ru
Оцените материал:
