Deloitte: Масштабирование «автономного интеллекта» для реального роста

Интервью

Deloitte: Масштабирование «автономного интеллекта» для реального роста

Руководителям предприятий необходимо выйти за рамки генеративных приложений и масштабировать «автономный интеллект», чтобы обеспечить реальный рост.

Создание текстовых сообщений или обобщение внутренней переписки обеспечивает локальное повышение производительности, однако эти возможности редко меняют основную структуру затрат или доходов крупной организации. В настоящее время предприятия сосредоточены на внедрении систем, способных к независимому выполнению задач. Руководители требуют приложений, которые могут перемещаться по внутренним сетям, выполнять многоэтапную логику и завершать транзакции без постоянного вмешательства человека.

Пракул Шарма, главный консультант и руководитель практики ИИ и аналитики в Deloitte Consulting LLP, сказал: «В Deloitte мы рассматриваем это как третий этап на кривой зрелости интеллекта, от «вспомогательного интеллекта», в котором ИИ и аналитика помогают людям интерпретировать информацию, через «искусственный интеллект», где машинное обучение дополняет человеческие решения, до «автономного интеллекта», где ИИ принимает решения и выполняет их в определенных рамках».

«Сегодняшние возможности GenAI — такие как чат-боты и разговорный ИИ — находятся посередине этой кривой. Агентный ИИ выступает мостом к автономии, и именно здесь сейчас происходит смена центра тяжести. Разница, которую мы наблюдаем, заключается в субъектности: GenAI выдает ответ, в то время как автономный интеллект стремится к результату, рассуждая о цели, используя инструменты и данные и адаптируясь к меняющимся условиям, при этом люди устанавливают ограничения, а не управляют каждым шагом».

«Мы видим это в различных отраслях, и в каждом случае ключ к успеху кроется не в самом агенте, а в окружающей его архитектуре управления, включающей идентификацию и контрольные точки с участием человека, что делает масштабирование автономности безопасным».

Судебно-бухгалтерские проверки для целенаправленного повышения рентабельности.

Для получения реальной экономической выгоды эти автономные системы должны напрямую интегрироваться в процессы, приносящие доход или требующие значительных затрат.

Рассмотрим сценарий в сфере корпоративных закупок: автоматизированное приложение постоянно сопоставляет данные об остатках на складе в цепочке поставок с актуальными ценами поставщиков в системе планирования ресурсов предприятия. Затем оно может самостоятельно утверждать заказы на закупку в соответствии с заранее определенными финансовыми параметрами, останавливаясь только для утверждения человеком при возникновении отклонений.

Эта же система должна также иметь проверяемую идентификацию в ERP-системе, считывать данные о ценах, достаточно актуальные для того, чтобы иметь обязательную юридическую силу, и работать в рамках пороговых значений утверждения, официально одобренных юридическим и нормативным отделами. Любая из этих зависимостей, оставленная без решения, полностью сводит на нет аргументы в пользу автономного выполнения. Поэтому для достижения такого уровня автоматизации требуется тщательный анализ существующих операций до выделения каких-либо вычислительных ресурсов.

Шарма описывает метод, который Deloitte использует для инициирования этой операционной перестройки и выявления областей, где автономное управление может приносить ощутимый доход:

«Первый шаг, который мы рекомендуем, — это начать с анализа принимаемых решений и процесса. Мы просим руководителей выбрать одну или две цепочки создания ценности, где результаты сдерживаются решениями, а не задачами в этом процессе, и составить карту того, как эти решения принимаются сегодня. Мы задаем такие вопросы, как: у кого есть данные, у кого есть полномочия, где происходит сбой в передаче информации, какие действия необходимы и где применяется экспертная оценка».

«Задавая эти вопросы, мы выявляем рабочие процессы, в которых автономия создаст реальную экономическую ценность, одновременно обнаруживая любые пробелы в данных и управлении, которые могли сорвать пилотный проект. Затем мы помогаем руководителям выстроить последовательность перестройки: создать базовые уровни с использованием ИИ и агентной архитектуры, данных, оценок, идентификации агентов и моделей взаимодействия человека с системой на основе этой первой цепочки создания ценности, доказать ее работоспособность, а затем использовать ее в качестве шаблона для масштабирования».

Интеграция правильной инфраструктуры данных и архитектуры вышестоящего уровня.

После определения операционной цели технологическое выполнение часто останавливается из-за проблем, возникающих на более ранних этапах. Базовые модели от основных поставщиков достаточно быстро развиваются, чтобы справляться со сложными задачами логического вывода, и в значительной степени становятся взаимозаменяемыми. Проблема заключается в подключении этих механизмов логического вывода к устаревшим архитектурам данных.

Шарма отмечает, что настоящие технические барьеры возникают задолго до того, как запрос достигает большой языковой модели:

«Судя по тому, что мы видим, модель редко становится узким местом, поскольку передовые технологии быстро превращаются в товар. Проблемы предприятий на этапе проектирования возникают еще до создания модели. Они выбирают сценарий использования, не сопоставив его с базовым рабочим процессом, в результате чего агент автоматизирует процесс, который уже был неисправен или плохо оснащен».

«Вторая закономерность касается данных: клиенты могут недооценивать тот факт, что автономным системам необходимы данные для принятия решений, а не данные для отчетности, то есть данные о происхождении и доступе, которые большинство корпоративных информационных хранилищ не были рассчитаны поддерживать».

Это различие важно, потому что большинство корпоративных информационных хранилищ созданы для аналитиков-людей, а не для автономных систем. Данные, пригодные для составления отчетов — агрегированные в пакетном режиме каждую ночь или неделю, структурированные для использования на панелях мониторинга и лишенные информации о происхождении значения — достаточны, когда человек принимает решение, прежде чем действовать. У автономного агента такой защиты нет. Когда он получает цену контракта или уровень запасов для совершения транзакции, эта цифра должна иметь метку времени, достаточно актуальную для того, чтобы быть обязательной, отслеживаемое происхождение и средства контроля доступа, подтверждающие, что агент уполномочен читать и использовать эти данные.

Предоставление данных, пригодных для принятия решений, предполагает интеграцию автономных агентов с соответствующими хранилищами событий и базами данных, предназначенными для управления как структурированной, так и неструктурированной корпоративной информацией. Когда агент получает данные для выполнения задачи, предприятие должно гарантировать их актуальность. Опора на устаревшие данные, обработанные пакетами, сопряжена с чрезвычайно высоким риском, потенциально приводящим к тому, что система будет работать с устаревшими ценовыми уровнями или устаревшими системами соответствия.

Финансовая модель масштабирования этих систем также требует прогнозирования переменных вычислительных затрат. Поскольку агентные рабочие процессы включают в себя множество взаимодействий с большими языковыми моделями для достижения единой цели, затраты на API могут непредсказуемо расти. Снижение рисков возникновения ложных срабатываний за счет процессов генерации с расширенными возможностями извлечения информации также увеличивает необходимые вычислительные затраты, что требует строгого финансового контроля перед развертыванием в масштабах предприятия.

Согласование управленческого долга и корпоративных экосистем

Переход от контролируемых тестовых сред к развертыванию в реальных корпоративных условиях — это совершенно иная задача. Небольшое тестирование может пройти идеально с использованием тщательно отобранных наборов данных, но развертывание такой возможности в тысячах сотрудников и на взаимосвязанных программных платформах выявляет уязвимости.

Работа в современных корпоративных средах безопасности предполагает глубокую интеграцию агентной архитектуры с существующими поставщиками идентификации и средствами контроля безопасности облачных решений в гибридных облачных экосистемах.

Шарма указывает на этот провал интеграции и вытекающий из него долг в области управления, который тормозит прогресс:

«Главное препятствие, которое мы видим, — это так называемый производственный разрыв. Пилотный проект может быть успешным благодаря продуманной подсказке, тщательно подобранному набору данных и команде экспертов, управляющей им вручную, но внедрение в корпоративную среду требует постоянной оценки, идентификации и авторизации, работающих в системах, к которым пилотный проект никогда не прикасался, управления изменениями для пользователей и финансовой модели, способной покрывать затраты, зависящие от использования, в масштабе предприятия».

«С этим связан долг в области управления: механизмы контроля, журналы аудита и системы управления рисками, от которых отказываются для ускорения пилотного проекта, часто становятся ограничивающими факторами после того, как юридический и комплаенс-отделы оценивают возможность внедрения в производство. Клиенты, которые добиваются успеха, рассматривают пилотные проекты не как эксперименты, а как первый производственный экземпляр многократно используемой платформы — с теми же оценками, моделью идентификации и управлением. Вместо того чтобы начинать все заново, это позволяет создавать второй и третий варианты использования на основе первого».

Системы обеспечения соответствия требованиям, применяемые на этапе первоначального тестирования, часто оказываются совершенно недостаточными для развертывания в реальных условиях. Команды, стремящиеся доказать эффективность концепции, часто обходят стандартные корпоративные протоколы безопасности, создавая те самые ограничивающие факторы, которые препятствуют дальнейшему масштабированию.

Все три типа сбоев — производственный разрыв, проблемы с управлением и проблемы с данными на начальном этапе — объединены тем, что каждый из них незаметен во время хорошо проведенного пилотного проекта. Команда-лидер с тщательно подобранным набором данных и поддержкой со стороны руководства может на достаточно долгое время скрыть отсутствие средств контроля идентификации, устаревшие данные и отложенные проверки соответствия, чтобы создать убедительную демонстрацию. Только когда система должна работать в масштабах всего предприятия, с реальными пользователями, данными в реальном времени и под юридическим контролем, пробелы становятся структурными препятствиями, а не известными обходными путями.

Создание с самого начала многоразовой платформы, в которой проверка личности, непрерывная оценка моделей и финансовый мониторинг рассматриваются как первостепенные требования, а не как дополнения после запуска, позволяет организациям избежать перестройки этих основ при каждом последующем развертывании.

Интервью с Пракулом Шармой было проведено в преддверии выставки AI & Big Data Expo North America, где компания Deloitte является важным спонсором. Обязательно загляните на стенд Deloitte № 272, чтобы узнать больше непосредственно от экспертов организации. Пракул Шарма поделится своими соображениями во время панельной дискуссии в первый и второй дни этого ведущего отраслевого мероприятия.

(Источник изображения: Pixabay, по лицензии.)

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com