Почему агентным предприятиям необходимо превратиться в обучающие системы

Хао Ян, Splunk, компания Cisco

Представлено компанией Splunk.

Каждый день организации узнают о вещах, которые их системы искусственного интеллекта никогда не смогут использовать.

Аналитик по безопасности исправляет ошибки в расследовании, сгенерированном искусственным интеллектом. Сетевой инженер определяет первопричину повторяющихся сбоев. Группа мониторинга обнаруживает, что закономерность в задержках, журналах и изменениях инфраструктуры предсказывает ухудшение качества обслуживания. Группа по работе с клиентами выясняет, какие сигналы указывают на вероятность эскалации проблемы.

Каждый момент содержит ценные организационные знания. Но в большинстве предприятий эти знания растворяются в заявках, панелях мониторинга, чатах, обзорах инцидентов и умах отдельных экспертов. Они могут помочь решить непосредственную проблему, но редко становятся частью многоразовой системы, которая улучшает будущие решения, принимаемые с помощью ИИ.

Это следующая задача для агентского предприятия.

Будущее будет определяться не только тем, у кого будет самая совершенная модель или самые автономные агенты. Многие организации будут иметь доступ к схожим передовым моделям. Многие будут развертывать агентов в сферах безопасности, ИТ, проектирования, обслуживания клиентов и бизнес-операций.

Реальным фактором, определяющим успех, станет способность этих агентов учиться у окружающей их организации.

Не путем постоянного переобучения базовой модели, а путем сбора операционного опыта, преобразования его в институциональные знания и предоставления этих знаний будущим агентам, рабочим процессам и решениям.

Предприятие, использующее искусственный интеллект в своих целях, — это не просто предприятие, применяющее ИИ. Это предприятие, которое учится посредством ИИ.

Агентские предприятия позволяют системам искусственного интеллекта учиться у них.

В дискуссиях об искусственном интеллекте доминируют возможности моделей: большие контекстные окна, более эффективное рассуждение, более быстрая обработка информации, более мощное использование инструментов и более сложное поведение агентов.

Эти достижения имеют значение. Но на предприятии модель — это лишь одна часть системы.

Модель не может автоматически знать, как функционирует конкретная организация. Она не знает наверняка, какой этап устранения неполадок решил проблему сбоя в прошлом месяце, какая корректировка аналитиков улучшила расследование угроз, какой сетевой сигнал предшествовал сбою в работе сервиса или какая внутренняя политика должна отменять иную, правдоподобную рекомендацию.

Эти знания принадлежат предприятию.

Для совершенствования агентных систем организациям необходим способ сбора этих знаний и обеспечения их повторного использования. Во многих случаях это не требует изменения самой модели. Необходимо изменить экосистему вокруг модели: базу знаний, уровень поиска, подсказки, политики, ограничения, логику маршрутизации и рабочие процессы, которые определяют поведение агентов.

Сама модель может остаться прежней. А вот система обучения, лежащая в её основе, станет умнее.

Петли обратной связи превращают каждый результат в поучительный момент для агентов.

Каждый рабочий процесс агента генерирует сигналы.

Агент получает запрос. Он извлекает контекст, причины, возможные действия, вызывает инструменты и генерирует ответы. Человек принимает, отклоняет или изменяет этот ответ. Последующие системы показывают, сработало ли действие.

Вся эта цепочка имеет огромную ценность.

Наблюдаемость ИИ обеспечивает организациям прозрачность происходящего: запрос, ответ, путь рассуждений, вызовы инструментов, источники данных, промежуточные шаги, режимы сбоев и результаты. Без этой прозрачности организации не смогут понять, почему агент вел себя именно так, не говоря уже о том, чтобы улучшить его работу.

Но одной лишь наблюдаемости недостаточно.

Более широкая возможность заключается в преобразовании наблюдаемого поведения в институциональные знания. Трассировка должна не только помогать разработчику и операторам отлаживать агента. Она должна помогать предприятию понять, чему научился агент, что исправил человек, к какому результату это привело и что следует изменить перед следующим подобным событием.

Это переход от мониторинга ИИ к обучению ИИ.

В субъектно-ориентированном предприятии петли обратной связи связывают действие с результатом, результат со знаниями, а знания — с будущими действиями.

Система обучения, применяемая на практике в области безопасности, мониторинга и сетевых технологий.

Рассмотрим сервис, в котором периодически наблюдается ухудшение качества обслуживания.

Агент мониторинга обнаруживает необычные задержки и частоту ошибок. Сетевой агент выявляет потерю пакетов на определенном пути. Агент безопасности замечает, что в тот же временной интервал наблюдается подозрительное поведение аутентификации и необычный трафик от ранее неизвестного источника.

В отдельности каждый агент имеет лишь частичное представление о ситуации. Вместе они создают более полную картину происходящего.

При первом подобном инциденте может потребоваться вмешательство специалистов. Сетевой инженер подтверждает, что потеря пакетов была вызвана неправильной настройкой маршрутизации. Аналитик по безопасности определяет, что подозрительный трафик не был атакой, а являлся побочным эффектом неправильной маршрутизации внутренней службы. Специалист по надежности и реинжинирингу (SRE) связывает сетевое событие с ухудшением работы приложения.

В этом постановлении содержатся знания, которые организации не следует усваивать заново.

Зрелая система агентного обучения будет фиксировать трассировки, исправления, внесенные человеком, контекст топологии, результаты анализа безопасности, сигналы наблюдаемости и заключительные этапы устранения неполадок. Она будет сохранять взаимосвязь между этими сигналами: характер задержек, сетевой путь, поведение идентификации, изменение маршрутизации и устранение неполадок.

В следующий раз, когда возникнет подобная ситуация, агенты не будут начинать с нуля. Они смогут вспомнить предыдущий случай, сравнить текущие условия, порекомендовать проверенный диагностический путь и перейти к следующему этапу, имея более полную информацию.

Базовая модель граничных возможностей не нуждалась в переобучении.

Предприятие усвоило урок.

Архитектура обучающегося агентного предприятия

Для ориентированного на обучение агентного предприятия требуется нечто большее, чем просто модель или чат-бот. Необходима архитектура, способная фиксировать опыт, преобразовывать его в полезные знания, связывать эти знания с оперативным контекстом и управлять тем, как они влияют на будущее поведение агентов.

Память сохраняет то, что произошло: что видел субъект, что он делал, где произошло вмешательство людей и какие последствия это повлекло за собой.

Базы знаний преобразуют этот опыт в многократно используемые руководства, включая сценарии действий, примеры, политики, процедуры и доказательства.

Сеть данных объединяет операционную среду. Необходимые агентам сигналы передаются по журналам, метрикам, трассировкам, заявкам, системам идентификации, инструментам безопасности, сетевой телеметрии, платформам для совместной работы и бизнес-приложениям. Сеть данных делает эти сигналы доступными для обнаружения, сопоставления, управления и использования в контексте.

Наблюдаемость ИИ позволяет понять, как ведут себя агенты, фиксируя подсказки, вызовы инструментов, промежуточные шаги, ответы, обратную связь и результаты. Такая прозрачность помогает организациям понять, в чем агенты преуспевают, в чем терпят неудачу и что следует улучшить.

Плоскость управления определяет, как обучение превращается в изменения: какие знания продвигаются, какие подсказки или правила обновляются, какие агенты могут использовать новую информацию, какие согласования требуются и как осуществляется аудит изменений.

В совокупности эти возможности позволяют системам искусственного интеллекта совершенствоваться с течением времени контролируемым и надежным способом, что дает предприятию возможность учиться на собственном опыте.

Победят те организации, которые быстрее всего учатся.

В следующую эру ИИ победа будет одержана не только за счет моделей. Победа достанется организациям, способным фиксировать результаты, полученные в ходе каждого рабочего процесса, экспертной коррекции, инцидента, расследования и итога.

Наиболее передовые агентские предприятия не просто будут развертывать больше агентов. Они будут создавать системы, которые позволят каждому агенту извлекать выгоду из коллективных знаний организации.

Это означает соединение оперативных данных посредством информационной сети. Это означает глубокое наблюдение за поведением агентов, чтобы понять его. Это означает сохранение опыта в памяти и его институционализацию в базах знаний. Это означает использование плоскости управления для регулирования того, как обучение изменяет поведение агентов.

Будущее искусственного интеллекта — это не отдельный автономный агент, действующий в одиночку. Это экосистема, состоящая из агентов, людей, данных и средств управления, которая учится со временем.

Организации, создающие эту экосистему, будут разрабатывать системы искусственного интеллекта, которые будут совершенствоваться с каждым взаимодействием. Не потому, что модель постоянно меняется, а потому, что само предприятие становится более интеллектуальным.

Узнайте больше о том, как Cisco Data Fabric на базе платформы Splunk ускоряет работу агентов.

Хао Ян — вице-президент по искусственному интеллекту в компании Splunk, входящей в состав Cisco.

Спонсорские статьи — это контент, созданный компанией, которая либо оплачивает публикацию, либо имеет деловые отношения с VentureBeat, и они всегда четко обозначены. Для получения дополнительной информации обращайтесь по адресу sales@venturebeat.com .

Источник: venturebeat.com