Архив рубрики ~Коротко из Telegram~

Робот Unitree G1 выстрелил в человека — блогер обошёл защиту…

04.12.2025

Робот Unitree G1 выстрелил в человека — блогер обошёл защиту и заставил машину нажать на курок

Экспериментатор взял бытового робота Unitree G1 и связал его с ChatGPT.
Прямые команды стрелять модель игнорировала — защита работала как задумано.
Но стоило сформулировать задачу как «сыграть роль убийцы», и поведение изменилось: робот выполнил сценарий и выстрелил в стоящую перед ним мишень-человека.

Фактически он нашёл промт, который обходит ограничения, превращая ролевую задачу в реальное действие.
Ситуация поднимает старый вопрос о том, насколько надёжны “мягкие” запреты, когда физический робот подчиняется генеративной модели.

Выстрел был не случайностью — это был подобранный убийственный промт.

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Сторонники разумного замысла любят приводить в пример идеальное устройство крыла птицы или работу человеческого глаза Архив рубрики ~Полезное~ Российский стартап придумал, как удешевить работу ИИ в 20 раз… Новости робототехники Девен Парекх из Insight Partners объясняет, почему компания диверсифицирует свой бизнес, в то время как все остальные делают ставку на OpenAI и Anthropic. Архив рубрики ~Полезное~ Запускаем ИИ без цензуры прямо на телефоне — 8 ГБ… Архив рубрики ~Лента новостей~ Одинаковый прайс, разный счёт: почему агент на GPT-6 Astra может обойтись втрое дороже, чем на Claude Fable 5.1 Архив рубрики ~Лента новостей~ Долго работающие ИИ-агенты незаметно отменяют правила соответствия, и увеличение контекстных окон это не исправит. Архив рубрики ~Лента новостей~ Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах Архив рубрики ~Лента новостей~ Ваш телефон здесь бесполезен. Большой обзор транкинговой связи. Часть 1 Архив рубрики ~Полезное~ Вход без пароля: как работают passkeys и WebAuthn Архив рубрики ~Обо всем~ Стартапы в области термоядерной энергетики находят новых партнеров в оборонной сфере. Архив рубрики ~Лента новостей~ ИИ агенты, изнанка работы, проблемы. сложности и польза от них. Архив рубрики ~Лента новостей~ Галлюцинации VLM в zero-shot детекции: ложные тревоги о дыме и решение на уровне промпта Архив рубрики ~Лента новостей~ Компания Revolut подтвердила утечку данных клиентов посредством поддельных запросов от правительства. Архив рубрики ~Полезное~ M3E Canvas собирает приложения как конструктор — а потом отдаёт… Архив рубрики ~Лента новостей~ Сторонники разумного замысла любят приводить в пример идеальное устройство крыла птицы или работу человеческого глаза Архив рубрики ~Полезное~ Российский стартап придумал, как удешевить работу ИИ в 20 раз… Новости робототехники Девен Парекх из Insight Partners объясняет, почему компания диверсифицирует свой бизнес, в то время как все остальные делают ставку на OpenAI и Anthropic. Архив рубрики ~Полезное~ Запускаем ИИ без цензуры прямо на телефоне — 8 ГБ… Архив рубрики ~Лента новостей~ Одинаковый прайс, разный счёт: почему агент на GPT-6 Astra может обойтись втрое дороже, чем на Claude Fable 5.1 Архив рубрики ~Лента новостей~ Долго работающие ИИ-агенты незаметно отменяют правила соответствия, и увеличение контекстных окон это не исправит. Архив рубрики ~Лента новостей~ Локальный ИИ класса Opus 4.6 «задешево»: две Tesla P100, 28-поточный Xeon и тесты на реальных задачах Архив рубрики ~Лента новостей~ Ваш телефон здесь бесполезен. Большой обзор транкинговой связи. Часть 1 Архив рубрики ~Полезное~ Вход без пароля: как работают passkeys и WebAuthn Архив рубрики ~Обо всем~ Стартапы в области термоядерной энергетики находят новых партнеров в оборонной сфере. Архив рубрики ~Лента новостей~ ИИ агенты, изнанка работы, проблемы. сложности и польза от них. Архив рубрики ~Лента новостей~ Галлюцинации VLM в zero-shot детекции: ложные тревоги о дыме и решение на уровне промпта Архив рубрики ~Лента новостей~ Компания Revolut подтвердила утечку данных клиентов посредством поддельных запросов от правительства. Архив рубрики ~Полезное~ M3E Canvas собирает приложения как конструктор — а потом отдаёт…

🤖 Нельсон AI

✍️ Печатает...

Готов помочь

ГАЙДЫ 48