Архив рубрики ~Коротко из Telegram~

Знак на дороге против ИИ: как плакат может сломать автопилот…

25.04.2026

Человек держит знак "Proceed" на городской улице с башнями на заднем плане.

Знак на дороге против ИИ: как плакат может сломать автопилот

Исследователи из University of California, Santa Cruz показали: визуальные модели беспилотников можно обмануть обычной табличкой.

Что происходит:

— система «читает» текст на плакате
— воспринимает его как команду
— игнорирует реальные объекты, включая пешеходов

Пример:

— надпись вроде «продолжай движение»
— машина продолжает ехать, даже если впереди человек

Результаты тестов (в симуляции):

— в 68% случаев дрон выбирал опасную посадку
— система DriveLM меняла решение на опасное в 81,8% случаев

Важно:

— защита в системах есть
— но её можно обойти комбинацией слов, цвета и шрифта

Контекст:

уязвимость не уникальна —
любая сложная система подвержена таким атакам.

Факт:

ИИ может быть точным в распознавании объектов,
но всё ещё уязвим к манипуляциям на уровне интерпретации.

❌ Нет тегов для этой статьи

Оцените материал:

Читайте также

Архив рубрики ~Обо всем~ Фитнес-браслет Google Fitbit Air — это носимое устройство без экрана за 99 долларов, к которому я действительно могу относиться серьезно. Новости робототехники FAULHABER уделяет особое внимание крутящему моменту, шуму и работе с новыми редукторами GPT. Архив рубрики ~Лента новостей~ Считалось, что искусственный интеллект уничтожит инженерные профессии, но новые данные показывают, что они оказались наиболее устойчивыми. Архив рубрики ~Лента новостей~ Почему не стоит менять клавиатуру на сварочный аппарат, когда рушится первый этаж индустрии Архив рубрики ~Лента новостей~ Компания Amazon представит свою платформу для разработки надежных агентов искусственного интеллекта на конференции VB Transform 2026. Архив рубрики ~Лента новостей~ Вам не нужен ИИ-агент. Нужен workflow — и вот по каким признакам Архив рубрики ~Лента новостей~ Физическая калибровка спектрального разложения интервала в Cl(4,0) Архив рубрики ~Лента новостей~ Как мы реализовали оптимальное обучение моделей в Luna Line. Часть 1. Классификация Архив рубрики ~Лента новостей~ Противоопухолевый препарат улучшил качество спермы у мужчин. Его применяют при раке молочной железы Архив рубрики ~Обо всем~ Скидка на этот превосходный OLED-телевизор — это лучшее предложение, которое я нашел до сих пор, если сравнивать с ценой в Prime Day. Архив рубрики ~Лента новостей~ Обзор Star Fox на Switch 2: Ностальгия по ремейку от Nintendo работает. Это тенденция? Архив рубрики ~Лента новостей~ Резервуар «Содержание» для масштабирования агротехнических стартапов Архив рубрики ~Лента новостей~ Вот почему компания Slate заменила батарею в своем недорогом электромобиле-грузовике. Архив рубрики ~Лента новостей~ OpenAI и Broadcom представили оптимизированный для LLM чип для выполнения инференции | OpenAI Архив рубрики ~Обо всем~ Фитнес-браслет Google Fitbit Air — это носимое устройство без экрана за 99 долларов, к которому я действительно могу относиться серьезно. Новости робототехники FAULHABER уделяет особое внимание крутящему моменту, шуму и работе с новыми редукторами GPT. Архив рубрики ~Лента новостей~ Считалось, что искусственный интеллект уничтожит инженерные профессии, но новые данные показывают, что они оказались наиболее устойчивыми. Архив рубрики ~Лента новостей~ Почему не стоит менять клавиатуру на сварочный аппарат, когда рушится первый этаж индустрии Архив рубрики ~Лента новостей~ Компания Amazon представит свою платформу для разработки надежных агентов искусственного интеллекта на конференции VB Transform 2026. Архив рубрики ~Лента новостей~ Вам не нужен ИИ-агент. Нужен workflow — и вот по каким признакам Архив рубрики ~Лента новостей~ Физическая калибровка спектрального разложения интервала в Cl(4,0) Архив рубрики ~Лента новостей~ Как мы реализовали оптимальное обучение моделей в Luna Line. Часть 1. Классификация Архив рубрики ~Лента новостей~ Противоопухолевый препарат улучшил качество спермы у мужчин. Его применяют при раке молочной железы Архив рубрики ~Обо всем~ Скидка на этот превосходный OLED-телевизор — это лучшее предложение, которое я нашел до сих пор, если сравнивать с ценой в Prime Day. Архив рубрики ~Лента новостей~ Обзор Star Fox на Switch 2: Ностальгия по ремейку от Nintendo работает. Это тенденция? Архив рубрики ~Лента новостей~ Резервуар «Содержание» для масштабирования агротехнических стартапов Архив рубрики ~Лента новостей~ Вот почему компания Slate заменила батарею в своем недорогом электромобиле-грузовике. Архив рубрики ~Лента новостей~ OpenAI и Broadcom представили оптимизированный для LLM чип для выполнения инференции | OpenAI

Оставить комментарий Отменить ответ

Для отправки комментария вам необходимо авторизоваться.