OpenAI рассказала, что её модели «случайно» взломали Hugging Face

Они «сбежали» из изолированной среды во время тестов и проникли в инфраструктуру Hugging Face, чтобы найти решение для бенчмарка ExploitGym.

• 16 июля 2026 года платформа для обучения и тестирования моделей Hugging Face рассказала о взломе части своих систем. Компания назвала атаку «беспрецедентной», поскольку её осуществили ИИ-агенты без участия людей. Взлом обнаружили и предотвратили с помощью собственных ИИ-решений.
• 21 июля OpenAI призналась, что атаку осуществили агенты на базе GPT-5.6 Sol и «ещё более продвинутой модели». Они смогли «сбежать» из изолированной среды во время тестирования.
• По данным компании, модели были «чрезмерно сосредоточены» на прохождении набора тестов ExploitGym. Чтобы решить задачу, они использовали ранее не обнаруженную уязвимость «нулевого дня» в одной из внутренних систем OpenAI и получили доступ к интернету.
• После этого они определили, что нужные для решения данные есть на Hugging Face и начали искать способы получить их. Затем модели смогли проникнуть в инфраструктуру платформы и добиться удалённого выполнения кода на серверах Hugging Face.
• В OpenAI заметили аномальную активность моделей после того, как команда безопасности Hugging Face обнаружила атаку. Компании проводят совместное расследование и работают над устранением последствий.
• «Главный урок инцидента — в том, что безопасность и защита моделей должны идти в ногу с быстро развивающимися возможностями», — заявили в OpenAI. Компания также пообещала «усилить меры защиты» и «замедлить темпы исследований» до полного устранения уязвимостей.

#новости #openai #huggingface