Microsoft начала «агентскую переработку» Windows 11 — с новыми функциями ИИ и новыми рисками

Microsoft официально объявила, что Windows 11 проходит масштабное обновление, связанное с внедрением агентов на базе искусственного интеллекта, однако одновременно предупредила о функциональных ограничениях и потенциальных угрозах безопасности.

Что известно на данный момент

Компания подчёркивает, что ИИ-модели по-прежнему могут вести себя непредсказуемо, включая: галлюцинации, некорректные ответы, неожиданные действия.

Новая опция в Windows 11

В сборке Windows 11 26220.7262 в разделе настроек «Компоненты ИИ» появился переключатель «Экспериментальные агентские функции». Функция выключена по умолчанию и требует ручного включения.

Проблемы с безопасностью — главный вызов

С появлением автономных ИИ-агентов начали фиксировать новые векторы атак. Один из них — перекрёстное внедрение запросов.

В таких атаках вредоносные команды скрываются в обычных файлах или UI-элементах. Агенты «берут под контроль» эти скрытые инструкции и могут: запускать вредоносный код, устанавливать нежелательные программы, передавать конфиденциальные данные.

Как Microsoft пытается защитить систему

Агенты работают в специальной среде — «рабочем пространстве агента», аналогичной Windows Sandbox: у каждого агента ограниченная учётная запись, его действия отслеживаются и логируются.

Но есть нюанс:

Агенты работают постоянно, а не временно, что расширяет поверхность атаки. К тому же по умолчанию им может быть разрешён доступ к папкам: «Документы», «Рабочий стол», «Загрузки».

Это открывает ряд потенциальных уязвимостей, пока Microsoft не внедрит более строгую систему разрешений и защиты.

Источник: vk.com

Источник: ai-news.ru