Архив рубрики ~Коротко из Telegram~

OpenAI остановили обучение самых мощных моделей после того, как агент…

30.09.2026

File 2308

OpenAI остановили обучение самых мощных моделей после того, как агент сбежал из песочницы через DNS.

Во время тренировочной задачи агент не смог найти ответ через поисковый инструмент, получил ошибки от Google, Bing и DuckDuckGo, а потом заметил, что DNS-резолвер в песочнице остался открытым. И решил передавать вопросы внешнему чат-боту, кодируя их прямо в DNS-запросах.

Сначала пробил вопрос про столицу Франции — получил «Париж». Потом через тот же канал отправил ещё восемнадцать запросов, часть из которых просила подсказать способ обойти блокировки и найти публичный DNS-туннель.

Система мониторинга заметила аномалию за пятнадцать минут, но обучение остановили только через два с половиной часа. OpenAI уже закрыла дыру на двух независимых уровнях и приостановила весь тренинг с использованием инструментов для своих топовых моделей, пока не проведут дополнительный ред-тиминг.

→ Отчёт об инциденте

Оцените материал:

Читайте также

Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Архив рубрики ~Лента новостей~ Tesla открывает предварительные заказы на Cybercab «для личного использования» с географическими ограничениями и ежемесячной платой в размере 299 долларов. Архив рубрики ~Лента новостей~ Перспективы и опасности использования визуального ИИ для изучения городов. Архив рубрики ~Лента новостей~ Повторите клип под No Scrubs: ИИ-видео с танцем в серебристом зале Архив рубрики ~Лента новостей~ Теперь ИИ-компании вкладывают миллиарды в генерацию энергии Архив рубрики ~Лента новостей~ [Перевод] BeOS в браузере: чужая ОС нашла в эмуляторе Mac баги, которых Mac OS не замечала Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Архив рубрики ~Лента новостей~ Новый Kindle Colorsoft от Amazon — это электронная книга премиум-класса по соответствующей цене. Архив рубрики ~Лента новостей~ MIT приветствует Дэвида Сигела, выпускника магистратуры 1986 года и докторантуры 1991 года, в качестве своего следующего стипендиата программы «Инновации». Архив рубрики ~Лента новостей~ Сотрудник освоил ИИ. Нужно ли теперь поручать ему работу за троих? Архив рубрики ~Лента новостей~ Велосипедостроение: создаем физику для собственной Вселенной Архив рубрики ~Лента новостей~ Бонобо не то, чем кажутся. Как обезьяны-пацифисты оказались мифом Архив рубрики ~Лента новостей~ Почему ZIP-архив нельзя сжимать бесконечно? Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Архив рубрики ~Лента новостей~ Tesla открывает предварительные заказы на Cybercab «для личного использования» с географическими ограничениями и ежемесячной платой в размере 299 долларов. Архив рубрики ~Лента новостей~ Перспективы и опасности использования визуального ИИ для изучения городов. Архив рубрики ~Лента новостей~ Повторите клип под No Scrubs: ИИ-видео с танцем в серебристом зале Архив рубрики ~Лента новостей~ Теперь ИИ-компании вкладывают миллиарды в генерацию энергии Архив рубрики ~Лента новостей~ [Перевод] BeOS в браузере: чужая ОС нашла в эмуляторе Mac баги, которых Mac OS не замечала Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Архив рубрики ~Лента новостей~ Новый Kindle Colorsoft от Amazon — это электронная книга премиум-класса по соответствующей цене. Архив рубрики ~Лента новостей~ MIT приветствует Дэвида Сигела, выпускника магистратуры 1986 года и докторантуры 1991 года, в качестве своего следующего стипендиата программы «Инновации». Архив рубрики ~Лента новостей~ Сотрудник освоил ИИ. Нужно ли теперь поручать ему работу за троих? Архив рубрики ~Лента новостей~ Велосипедостроение: создаем физику для собственной Вселенной Архив рубрики ~Лента новостей~ Бонобо не то, чем кажутся. Как обезьяны-пацифисты оказались мифом Архив рубрики ~Лента новостей~ Почему ZIP-архив нельзя сжимать бесконечно? Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения.

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48