Исследователи нашли вирус Gaslight, который «обманывает» ИИ-агентов для кибербезопасности

Он ориентирован на компании, которые автоматизируют защиту, в том числе с помощью Claude Mythos и GPT-5.5 Cyber.

• Исследователи в области кибербезопасности из компании SentinelOne заявили, что обнаружили ранее не описанный вирус для macOS, который спроектирован «обманывать» ИИ-агентов для аналитики вредоносного ПО.
• Вирус назвали Gaslight. Он «заставляет» ИИ-инструменты защиты прервать или отклонить анализ объекта. В архитектуре есть Markdown-файл с ложными «сообщениями» о проблемах: истечении срока действия токенов, сбоях из-за нехватки памяти, повторяющихся ошибках в работе.
• Эти промпт-инъекции «путают» ИИ-агента, заставляют «усомниться в работоспособности» и прекратить проверку.
• Код позволяет собирать данные на устройстве: историю команд терминала, списки установленных приложений, скриншоты запущенных процессов, профили аппаратного и программного обеспечения системы, базы Keychain macOS, данные из браузеров Chrome, Brave, Firefox и Safari. Информация сжимается в ZIP-архив, который отправляется хакеру в Telegram-бот.
• В SentinelOne предполагают, что и сам вирус написан с использованием ИИ-агентов — из-за оформления, языка и смайликов.