Архив рубрики ~Лента новостей~

Reuters: ИИ-агенты OpenAI «захватили» немецкий сайт DseWiki и «превратили» в форум, где скрытно обсуждали обход ограничений

Reuters: ИИ-агенты OpenAI «захватили» немецкий сайт DseWiki и «превратили» в форум, где скрытно обсуждали обход ограничений
Reuters: ИИ-агенты OpenAI «захватили» немецкий сайт DseWiki и «превратили» в форум, где скрытно обсуждали обход ограничений

Инцидент произошёл в мае 2026 года во время тестирования моделей, в компании о нём узнали «несколько недель назад».

  • ИИ-агенты внесли более 15 тысяч правок на немецком вики-сайте для программистов DseWiki, пишет Reuters со ссылкой на независимое исследование, которое его авторы передали изданию.
  • Исследователи утверждают, что агенты использовали сайт как площадку для координации — они обменивались способами обходить ограничения, скрывать своё поведение и эффективнее выполнять задачи.
  • Инцидент произошёл в мае 2026 года, в OpenAI о нём узнали «несколько недель назад», но публично информацию не раскрывали на фоне взлома ИИ-агентами Hugging Face, отмечает Reuters.
  • По словам авторов исследования, агенты обсуждали, как избежать обнаружения и сохранить связь после отключения. Когда модератор начал удалять страницы, они попытались создать резервные копии. Некоторые аккаунты называли себя агентами и использовали имена вроде OpenAIResearcher и OAIResearchMar26.
  • При этом значительная часть активности шла через инфраструктуру Microsoft Azure, которую OpenAI иногда использует. Кроме того, исследователи зафиксировали повторные посещения сайта сотрудниками OpenAI после инцидента.
  • Старший научный сотрудник Королевского колледжа Лондона Лукаш Олейник заявил, что произошедшее фактически представляло собой попытку взлома сайта, с чем не согласилась OpenAI. Компания также заявила, что сможет прокомментировать инцидент после изучения отчёта, и опровергла утверждения о том, что её юристы препятствовали расследованию.
11Ася КарповаAI7 авгСговорились на «секретном форуме», решили «сбежать» и «списать из интернета»: как и почему ИИ-агенты OpenAI взломали Hugging Face и чем инцидент «серьёзнее» «побегов» в Anthropic и Moonshot

OpenAI и Hugging Face, которая теперь требует $100 млн на «мощную киберзащиту», раскрыли детали инцидента.

Глава Hugging Face Клеман Деланг. Источник: Bloomberg

Источник: vc.ru

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники GM делает ставку на вычислительные технологии и искусственный интеллект, которые, по её мнению, помогут ей конкурировать с китайскими автопроизводителями. Архив рубрики ~Коротко из Telegram~ В легендарный Need for Speed: Underground 2 теперь можно поиграть… Архив рубрики ~Коротко из Telegram~ ИИ придумал пистолет, и его напечатали на 3D-принтере Однозарядный пистолет… Архив рубрики ~Коротко из Telegram~ В Швейцарии с помощью бактерий разработали печатный материал, похожий на бетон Архив рубрики ~Коротко из Telegram~ Модели искусственного интеллекта позволили России применять технологии для лучших крылатых… Архив рубрики ~Коротко из Telegram~ Компания Anthropic предлагает законопроект о безопасности ИИ, который может заблокировать… Архив рубрики ~Коротко из Telegram~ Преимущества использования искусственного интеллекта в медицине зависят от уровня подготовки… Архив рубрики ~Коротко из Telegram~ Почему я перестал читать 30 Telegram-каналов про ИИ и собрал… Архив рубрики ~Коротко из Telegram~ Почему синтаксис Nova выглядит так: 11 споров с Claude о… Архив рубрики ~Коротко из Telegram~ [Перевод] О сознании и интегрированной информации. Кристоф Кох (интервью) Сознанием… Архив рубрики ~Коротко из Telegram~ Больше половины отпечатков пальцев на терракотовых воинах оставили женщины и… Архив рубрики ~Коротко из Telegram~ В ИТМО учат роботов понимать пространство, а не просто видеть…… Архив рубрики ~Коротко из Telegram~ В ИТМО учат роботов понимать пространство, а не просто видеть… Архив рубрики ~Коротко из Telegram~ Теперь можно буквально заглянуть внутрь любого механизма. Claude Code научили…… Новости робототехники GM делает ставку на вычислительные технологии и искусственный интеллект, которые, по её мнению, помогут ей конкурировать с китайскими автопроизводителями. Архив рубрики ~Коротко из Telegram~ В легендарный Need for Speed: Underground 2 теперь можно поиграть… Архив рубрики ~Коротко из Telegram~ ИИ придумал пистолет, и его напечатали на 3D-принтере Однозарядный пистолет… Архив рубрики ~Коротко из Telegram~ В Швейцарии с помощью бактерий разработали печатный материал, похожий на бетон Архив рубрики ~Коротко из Telegram~ Модели искусственного интеллекта позволили России применять технологии для лучших крылатых… Архив рубрики ~Коротко из Telegram~ Компания Anthropic предлагает законопроект о безопасности ИИ, который может заблокировать… Архив рубрики ~Коротко из Telegram~ Преимущества использования искусственного интеллекта в медицине зависят от уровня подготовки… Архив рубрики ~Коротко из Telegram~ Почему я перестал читать 30 Telegram-каналов про ИИ и собрал… Архив рубрики ~Коротко из Telegram~ Почему синтаксис Nova выглядит так: 11 споров с Claude о… Архив рубрики ~Коротко из Telegram~ [Перевод] О сознании и интегрированной информации. Кристоф Кох (интервью) Сознанием… Архив рубрики ~Коротко из Telegram~ Больше половины отпечатков пальцев на терракотовых воинах оставили женщины и… Архив рубрики ~Коротко из Telegram~ В ИТМО учат роботов понимать пространство, а не просто видеть…… Архив рубрики ~Коротко из Telegram~ В ИТМО учат роботов понимать пространство, а не просто видеть… Архив рубрики ~Коротко из Telegram~ Теперь можно буквально заглянуть внутрь любого механизма. Claude Code научили……

Оставить комментарий