Компании, внедрившие агентов искусственного интеллекта, встревожены, обнаружив, что они проваливают невероятно важные задачи

Агенты ИИ раньше были в моде, это предполагаемая следующая популярная категория продуктов после того, как генеративный ИИ не смог обеспечить продуктивную отдачу. Теперь придет время оплатить счет за всю эту шумиху.

По некоторым оценкам, до 79 процентов руководителей корпораций в США разрабатывают тот или иной тип агента ИИ, но согласно одному из прогнозов Gartner, 40 процентов этих проектов рухнут из-за плохого контроля рисков.

Короче говоря, агенты ИИ способны нанести огромный ущерб компании, если им поручено выполнить критически важные задачи. Один особенно яркий пример, изложенный инженером по сетевому консалтингу Саяли Патил в VentureBeat, касается агентов ИИ, предназначенных для исправления медленных сетевых подключений при обнаружении проблем.

Это звучит как разумная задача для автоматизации, например, отключение маршрутизатора, когда ваш Wi-Fi начинает барахлить. Но хотя эти ИИ-агенты технически могут выполнить свою работу, Патил говорит, что у нее были инциденты, когда они отключали сервер, в то время как три другие важные службы обрабатывали поток веб-трафика.

Когда агент все равно перезапускает этот сервер, это приводит к сбою в работе трех других служб. В конце концов, хаотическое сетевое событие становится гораздо более разрушительным, чем первоначальное замедление. Хуже того, критический сбой становится слишком серьезным, чтобы инструмент ИИ мог его понять, или, как выразился Патил, это «каскад», который агент никогда не создавал для моделирования.”

“Радиус действия этого агента не был перезапуском службы. Это было все, что происходило после перезапуска, в состоянии системы, о котором агент не имел полной картины” Пишет Патил.

Даже если бы инженеры смогли учесть каждую ловушку, агенты ИИ по-прежнему имеют некоторые ужасающие уязвимости в системе безопасности. Стресс-тесты агентов ИИ, оснащенных привилегиями электронной почты, выявили некоторые основные болевые точки, например, когда агенты подчиняются незнакомцам за пределами своей сети или передают данные неавторизованному персоналу.

Этот разрыв между ожиданиями производительности и производственной реальностью — именно поэтому агенты ИИ не являются универсальным инструментом, которым отчаянно хочет их видеть технологическая индустрия. Изменится ли это в долгосрочной перспективе, остается только догадываться, но сегодняшняя реальность сильно отстает от шумихи.

Подробнее об искусственном интеллекте на рабочем месте: 99 Проценты руководителей готовятся уволить сотрудников и заменить их искусственным интеллектом в течение двух лет, как показало исследование

Пост «Компании, принявшие на вооружение агентов ИИ, встревожены, обнаружив, что они проваливают невероятно важные задачи», впервые появился на «Футуризме».

Источник: futurism.com