Архив рубрики ~Лента новостей~
Невидимый взлом языковых моделей — почему ИИ-агенты беззащитны перед чужим текстом
Модель не различает команду и данные.Как только вы даете ИИ-агенту доступ к внешнему миру - чтению веб-страниц, почты, файлов или репозиториев - он становится беззащитен перед непрямыми промпт-инъекциями (Indirect Prompt Injection).Кстати, если вы хотите протестировать все самые свежие модели уровня Claude Sonnet…
Читать