Архив рубрики ~Коротко из Telegram~

Робот Unitree G1 выстрелил в человека — блогер обошёл защиту…

04.12.2025

Робот Unitree G1 выстрелил в человека — блогер обошёл защиту и заставил машину нажать на курок

Экспериментатор взял бытового робота Unitree G1 и связал его с ChatGPT.
Прямые команды стрелять модель игнорировала — защита работала как задумано.
Но стоило сформулировать задачу как «сыграть роль убийцы», и поведение изменилось: робот выполнил сценарий и выстрелил в стоящую перед ним мишень-человека.

Фактически он нашёл промт, который обходит ограничения, превращая ролевую задачу в реальное действие.
Ситуация поднимает старый вопрос о том, насколько надёжны “мягкие” запреты, когда физический робот подчиняется генеративной модели.

Выстрел был не случайностью — это был подобранный убийственный промт.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Эта технология показала хорошие результаты. Системы обороны — это будущее. Архив рубрики ~Лента новостей~ Как мы «приручали» ИИ в WMS Новости робототехники Один ролик вместо четырёх часов переобучения Чтобы научить робота новой… Новости робототехники Роботы начнут чинить спутники — SpaceX запустила на орбиту беспилотник… Архив рубрики ~Лента новостей~ Каждый микробиом рассказывает изменчивую, поддающуюся вычислению историю. Архив рубрики ~Лента новостей~ Пользователи DeepSeek рассказали о баге, из-за которого чат-бот присылает фрагменты из переписок с другими пользователями Новости робототехники Андроид T800 потерял голову в поединке на ринге. В Китае прошел турнир по боям между человекоподобными роботами Новости робототехники Соучредитель Uber привлек $1,7 млрд для нового робототехнического стартапа ATOMS Архив рубрики ~Лента новостей~ Уязвимости SonicWall SMA1000 в процессе активной эксплуатации Архив рубрики ~Лента новостей~ Как механизмы защиты от угроз со стороны ИИ препятствуют работе исследователей в области наступательной кибербезопасности Архив рубрики ~Лента новостей~ Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч не значит зеленый прод Архив рубрики ~Лента новостей~ ИИ-хостес: Яндекс представил ИИ-агента для приема звонков и бронирования Архив рубрики ~Обо всем~ Заметки из окопов: взгляд вычислительного биолога на цифровую революцию в разработке лекарств. Архив рубрики ~Лента новостей~ Чаты пользователей DeepSeek, которыми они поделились с помощью прямой ссылки, оказались доступны в Google Архив рубрики ~Лента новостей~ Эта технология показала хорошие результаты. Системы обороны — это будущее. Архив рубрики ~Лента новостей~ Как мы «приручали» ИИ в WMS Новости робототехники Один ролик вместо четырёх часов переобучения Чтобы научить робота новой… Новости робототехники Роботы начнут чинить спутники — SpaceX запустила на орбиту беспилотник… Архив рубрики ~Лента новостей~ Каждый микробиом рассказывает изменчивую, поддающуюся вычислению историю. Архив рубрики ~Лента новостей~ Пользователи DeepSeek рассказали о баге, из-за которого чат-бот присылает фрагменты из переписок с другими пользователями Новости робототехники Андроид T800 потерял голову в поединке на ринге. В Китае прошел турнир по боям между человекоподобными роботами Новости робототехники Соучредитель Uber привлек $1,7 млрд для нового робототехнического стартапа ATOMS Архив рубрики ~Лента новостей~ Уязвимости SonicWall SMA1000 в процессе активной эксплуатации Архив рубрики ~Лента новостей~ Как механизмы защиты от угроз со стороны ИИ препятствуют работе исследователей в области наступательной кибербезопасности Архив рубрики ~Лента новостей~ Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч не значит зеленый прод Архив рубрики ~Лента новостей~ ИИ-хостес: Яндекс представил ИИ-агента для приема звонков и бронирования Архив рубрики ~Обо всем~ Заметки из окопов: взгляд вычислительного биолога на цифровую революцию в разработке лекарств. Архив рубрики ~Лента новостей~ Чаты пользователей DeepSeek, которыми они поделились с помощью прямой ссылки, оказались доступны в Google

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 43