OWASP взялась за защиту памяти ИИ-агентов от отравления данными Организация…

OWASP взялась за защиту памяти ИИ-агентов от отравления данными

Организация OWASP, известная своими стандартами веб-безопасности, представила подход к защите долгосрочной памяти ИИ-агентов. Проблема, на которую он нацелен, пока мало обсуждается за пределами узкого круга разработчиков, но выглядит серьёзно.

Суть уязвимости: современные агенты сохраняют информацию между сессиями. Если злоумышленник сумеет подсунуть в память вредоносную инструкцию, она закрепится там надолго и будет влиять на поведение агента при каждом следующем запуске — уже без каких-либо новых атак. Разовая инъекция превращается в постоянный бэкдор.

В качестве примера реализации приводится Agent Memory Guard от Dealer.Ai. Инструмент отслеживает попытки prompt injection, утечки секретов и незаметную подмену ключей внутри памяти агента. Важная деталь: он работает как локальный защитный слой и не обращается к внешним API, то есть сам не становится дополнительным каналом утечки.

По мере того как агенты получают доступ к почте, файлам и корпоративным системам, цена такой уязвимости растёт очень быстро.