Архив рубрики ~Коротко из Telegram~

Знак на дороге против ИИ: как плакат может сломать автопилот…

25.04.2026

Человек держит знак "Proceed" на городской улице с башнями на заднем плане.

Знак на дороге против ИИ: как плакат может сломать автопилот

Исследователи из University of California, Santa Cruz показали: визуальные модели беспилотников можно обмануть обычной табличкой.

Что происходит:

— система «читает» текст на плакате
— воспринимает его как команду
— игнорирует реальные объекты, включая пешеходов

Пример:

— надпись вроде «продолжай движение»
— машина продолжает ехать, даже если впереди человек

Результаты тестов (в симуляции):

— в 68% случаев дрон выбирал опасную посадку
— система DriveLM меняла решение на опасное в 81,8% случаев

Важно:

— защита в системах есть
— но её можно обойти комбинацией слов, цвета и шрифта

Контекст:

уязвимость не уникальна —
любая сложная система подвержена таким атакам.

Факт:

ИИ может быть точным в распознавании объектов,
но всё ещё уязвим к манипуляциям на уровне интерпретации.

❌ Нет тегов для этой статьи

Оцените материал:

Читайте также

Архив рубрики ~Лента новостей~ Skill of the Week: Spring Data JDBC — качество Opus на модели за копейки Архив рубрики ~Лента новостей~ Как Shopify создала систему искусственного интеллекта, которой всё равно, какие модели выживут Архив рубрики ~Лента новостей~ Как писать промпты для генерации картинок: рабочая структура Архив рубрики ~Лента новостей~ Как я подключил Obsidian к Claude и Codex: домашний сервер, CouchDB, MCP и баг, который съедал заметки Архив рубрики ~Лента новостей~ Углеродные нанотрубки и сажа помогли покрасить автомобиль в суперчерный цвет. Пигмент поглощает 99,9 процента света в видимом диапазоне Архив рубрики ~Обо всем~ Фитнес-браслет Google Fitbit Air — это носимое устройство без экрана за 99 долларов, к которому я действительно могу относиться серьезно. Новости робототехники FAULHABER уделяет особое внимание крутящему моменту, шуму и работе с новыми редукторами GPT. Архив рубрики ~Лента новостей~ Считалось, что искусственный интеллект уничтожит инженерные профессии, но новые данные показывают, что они оказались наиболее устойчивыми. Архив рубрики ~Лента новостей~ Почему не стоит менять клавиатуру на сварочный аппарат, когда рушится первый этаж индустрии Архив рубрики ~Лента новостей~ Компания Amazon представит свою платформу для разработки надежных агентов искусственного интеллекта на конференции VB Transform 2026. Архив рубрики ~Лента новостей~ Вам не нужен ИИ-агент. Нужен workflow — и вот по каким признакам Архив рубрики ~Лента новостей~ Физическая калибровка спектрального разложения интервала в Cl(4,0) Архив рубрики ~Лента новостей~ Как мы реализовали оптимальное обучение моделей в Luna Line. Часть 1. Классификация Архив рубрики ~Лента новостей~ Противоопухолевый препарат улучшил качество спермы у мужчин. Его применяют при раке молочной железы Архив рубрики ~Лента новостей~ Skill of the Week: Spring Data JDBC — качество Opus на модели за копейки Архив рубрики ~Лента новостей~ Как Shopify создала систему искусственного интеллекта, которой всё равно, какие модели выживут Архив рубрики ~Лента новостей~ Как писать промпты для генерации картинок: рабочая структура Архив рубрики ~Лента новостей~ Как я подключил Obsidian к Claude и Codex: домашний сервер, CouchDB, MCP и баг, который съедал заметки Архив рубрики ~Лента новостей~ Углеродные нанотрубки и сажа помогли покрасить автомобиль в суперчерный цвет. Пигмент поглощает 99,9 процента света в видимом диапазоне Архив рубрики ~Обо всем~ Фитнес-браслет Google Fitbit Air — это носимое устройство без экрана за 99 долларов, к которому я действительно могу относиться серьезно. Новости робототехники FAULHABER уделяет особое внимание крутящему моменту, шуму и работе с новыми редукторами GPT. Архив рубрики ~Лента новостей~ Считалось, что искусственный интеллект уничтожит инженерные профессии, но новые данные показывают, что они оказались наиболее устойчивыми. Архив рубрики ~Лента новостей~ Почему не стоит менять клавиатуру на сварочный аппарат, когда рушится первый этаж индустрии Архив рубрики ~Лента новостей~ Компания Amazon представит свою платформу для разработки надежных агентов искусственного интеллекта на конференции VB Transform 2026. Архив рубрики ~Лента новостей~ Вам не нужен ИИ-агент. Нужен workflow — и вот по каким признакам Архив рубрики ~Лента новостей~ Физическая калибровка спектрального разложения интервала в Cl(4,0) Архив рубрики ~Лента новостей~ Как мы реализовали оптимальное обучение моделей в Luna Line. Часть 1. Классификация Архив рубрики ~Лента новостей~ Противоопухолевый препарат улучшил качество спермы у мужчин. Его применяют при раке молочной железы

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.