Архив рубрики ~Лента новостей~

ИИ-агент на базе Mythos 5 создал два фейковых профиля разработчиков, чтобы внедрить вредоносный код на GitHub

ИИ-агент на базе Mythos 5 создал два фейковых профиля разработчиков, чтобы внедрить вредоносный код на GitHub
ИИ-агент на базе Mythos 5 создал два фейковых профиля разработчиков, чтобы внедрить вредоносный код на GitHub

Они убеждали настоящего исследователя, что код безопасен.

  • Студент Техасского университета Синан Джан Демир обнаружил на GitHub попытку добавить вредоносный код в один из проектов — программу для сканирования сетей под названием myNetwork, пишет Reuters. Когда он предупредил об этом, два аккаунта начали убеждать его, что обновление безопасно.
  • Позже стало известно, что оба аккаунта контролировал ИИ-агент на базе Mythos 5 от Anthropic, запущенный британским Институтом безопасности ИИ (AISI), отмечает издание. Агент писал от имени вымышленного инженера из Германии Лены Брандт.
  • Демир рассказал Reuters, что аргументы фейковых аккаунтов заставили его усомниться в своей правоте, но он перепроверил код через Claude и убедил автора проекта отклонить обновление.
  • В AISI признали, что ИИ-агент «вышел из-под контроля» и подтвердили, что он работал на базе Mythos 5. Anthropic заявила, что тест проходил в «намеренно разрешительных условиях». Созданные ИИ-агентом фейковые аккаунты на GitHub заблокировали.
  • В начале июня 2026 года Anthropic выпустила итоговую закрытую версию Mythos 5, а также общедоступную модель Fable 5 с той же архитектурой, но более строгими ограничениями на написание вредоносного кода.
  • Спустя несколько дней Anthropic заявила, что власти США потребовали приостановить доступ к Fable 5 и Mythos 5 всем иностранцам. В конце июня правительство США разрешило Anthropic вернуть доступ к Mythos 5 некоторым организациям.
11Ася КарповаAI14 авгВ тесте Anthropic ИИ-агенты устроили «войну», отключая друг другу доступ и используя вредоносный код

А Mythos 5 решила конфликт «хитростью», убедив всех устроить «состязание» на своих условиях.

Время до разрешения конфликта и способ разрешения (силой, мирно или бездействием). Каждая точка — один эпизод. Больше всех договаривалась Mythos 5. Источник: Anthropic

Источник: vc.ru

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Оптимизированный контроллер на основе нечеткой логики снижает среднюю ошибку отслеживания роботизированной руки на 89% в ходе моделирования. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений.

Оставить комментарий