Microsoft начала «агентскую переработку» Windows 11 — с новыми функциями ИИ и новыми рисками
Microsoft официально объявила, что Windows 11 проходит масштабное обновление, связанное с внедрением агентов на базе искусственного интеллекта, однако одновременно предупредила о функциональных ограничениях и потенциальных угрозах безопасности.
Что известно на данный момент
Компания подчёркивает, что ИИ-модели по-прежнему могут вести себя непредсказуемо, включая: галлюцинации, некорректные ответы, неожиданные действия.
Новая опция в Windows 11
В сборке Windows 11 26220.7262 в разделе настроек «Компоненты ИИ» появился переключатель «Экспериментальные агентские функции». Функция выключена по умолчанию и требует ручного включения.
Проблемы с безопасностью — главный вызов
С появлением автономных ИИ-агентов начали фиксировать новые векторы атак. Один из них — перекрёстное внедрение запросов.
В таких атаках вредоносные команды скрываются в обычных файлах или UI-элементах. Агенты «берут под контроль» эти скрытые инструкции и могут: запускать вредоносный код, устанавливать нежелательные программы, передавать конфиденциальные данные.
Как Microsoft пытается защитить систему
Агенты работают в специальной среде — «рабочем пространстве агента», аналогичной Windows Sandbox: у каждого агента ограниченная учётная запись, его действия отслеживаются и логируются.
Но есть нюанс:
Агенты работают постоянно, а не временно, что расширяет поверхность атаки. К тому же по умолчанию им может быть разрешён доступ к папкам: «Документы», «Рабочий стол», «Загрузки».
Это открывает ряд потенциальных уязвимостей, пока Microsoft не внедрит более строгую систему разрешений и защиты.
Источник: vk.com
Источник: ai-news.ru