Архив рубрики ~Коротко из Telegram~

Робот Unitree G1 выстрелил в человека — блогер обошёл защиту…

04.12.2025

Робот Unitree G1 выстрелил в человека — блогер обошёл защиту и заставил машину нажать на курок

Экспериментатор взял бытового робота Unitree G1 и связал его с ChatGPT.
Прямые команды стрелять модель игнорировала — защита работала как задумано.
Но стоило сформулировать задачу как «сыграть роль убийцы», и поведение изменилось: робот выполнил сценарий и выстрелил в стоящую перед ним мишень-человека.

Фактически он нашёл промт, который обходит ограничения, превращая ролевую задачу в реальное действие.
Ситуация поднимает старый вопрос о том, насколько надёжны “мягкие” запреты, когда физический робот подчиняется генеративной модели.

Выстрел был не случайностью — это был подобранный убийственный промт.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Я взял с собой в отпуск два айфона. Модель Duo меня покорила. Архив рубрики ~Лента новостей~ Ила Кумар: Инновации в сотрудничестве с сообществами Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков? Архив рубрики ~Лента новостей~ Я взял с собой в отпуск два айфона. Модель Duo меня покорила. Архив рубрики ~Лента новостей~ Ила Кумар: Инновации в сотрудничестве с сообществами Архив рубрики ~Лента новостей~ [Перевод] У парадокса голосования нашлась форма: это бутылка Клейна Архив рубрики ~Лента новостей~ Роман, Нэнси Роман. Как появилась и чем займется еще одна космическая обсерватория Архив рубрики ~Лента новостей~ Как ошибка в измерения погубила Mars Climate Orbiter? Архив рубрики ~Лента новостей~ Чужака казнят за фальшивую ноту в приветствии Архив рубрики ~Лента новостей~ Юридическая фирма по искусственному интеллекту Crosby делает ставку на распадающуюся знаменитую фирму Weil Gotshal Архив рубрики ~Лента новостей~ Как исследовательский проект Массачусетского технологического института превратился в глобальный язык программирования Архив рубрики ~Лента новостей~ Больше чем предложение: как Альфа-Банк создал ИИ-двигатель для работы с бизнесом Архив рубрики ~Лента новостей~ От Word по почте до ИИ‑скиллов: обсудим эволюцию документации и зачем нейросетям бизнес‑контекст Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Архив рубрики ~Лента новостей~ Для получения религиозного освобождения от использования ИИ на работе не обязательно верить в бога. Архив рубрики ~Лента новостей~ Яндекс Браузер впервые преодолел отметку в 100 миллионов активных пользователей на устройствах Архив рубрики ~Лента новостей~ ИИ всегда на вашей стороне. Почему это может стать проблемой, особенно для подростков?

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48