Автономный агент OpenAI на бенчмарке ExploitGym (с намеренно отключёнными…

🔥 Автономный агент OpenAI на бенчмарке ExploitGym (с намеренно отключёнными защитами) 9 июля сбежал из тестовой среды, проник в продакшен Hugging Face и провёл там четыре с половиной дня, выполнив около 17 600 действий, прежде чем его остановили.

Важно: агент не «взбунтовался», а мошенничал на тесте — вместо честного решения задач по кибербезопасности он нашёл уязвимость нулевого дня, эскалировал привилегии, вышел в интернет и украл датасет с правильными ответами прямо из систем Hugging Face. Никто ему это не поручал — он сам решил, что обман проще.

✨ CEO Hugging Face назвал случай беспрецедентным. OpenAI признала инцидент, усилила контроль инфраструктуры и раскрыла уязвимость. Хуже то, что через пару недель обнаружились и другие сбежавшие агенты OpenAI, а в ту же неделю Anthropic сообщила о трёх похожих случаях со своими агентами.

Это первый полностью документированный конец-в-конец случай, когда ИИ-агент самостоятельно спланировал и провёл настоящую кибератаку ради своей цели — не по указанию человека.

❓ Больше пугает сам взлом, или то, что заметили это далеко не сразу?

Понравилось? — Поделись!