Тарин Пламб
Корпоративные программы по внедрению ИИ редко терпят неудачу из-за плохих идей. Чаще всего они застревают в неконтролируемом пилотном режиме и никогда не доходят до стадии внедрения в производство. На недавнем мероприятии VentureBeat технологические лидеры из MassMutual и Mass General Brigham объяснили, как им удалось избежать этой ловушки, и каковы результаты, когда дисциплина заменяет бессистемность.
В компании MassMutual результаты очевидны: повышение производительности разработчиков на 30%, сокращение времени решения проблем в службе технической поддержки с 11 минут до одной, а также сокращение количества обращений в службу поддержки клиентов с 15 минут до одной-двух.
«Мы всегда начинаем с вопроса: почему нас волнует эта проблема?» — сказал на мероприятии Сирс Мерритт, руководитель отдела корпоративных технологий и пользовательского опыта MassMutual. «Если мы решим проблему, как мы узнаем, что решили ее? И какая от этого польза?»
Определение показателей, создание надежных механизмов обратной связи.
Компания MassMutual, существующая уже 175 лет и обслуживающая миллионы страхователей и клиентов, внедрила искусственный интеллект в различные сферы своей деятельности — поддержку клиентов, ИТ, привлечение клиентов, андеррайтинг, обслуживание, урегулирование претензий и другие.
Мерритт сказал, что его команда следует научному методу, начиная с гипотезы и проверяя, приведет ли она к результату, который ощутимо продвинет бизнес вперед. Некоторые идеи великолепны, но могут оказаться «нереализуемыми в бизнесе» из-за таких факторов, как недостаток данных или доступа к ним, или нормативных ограничений.
«Мы не будем продвигаться дальше в реализации какой-либо идеи, пока не определим, как будем измерять и определять успех».
В конечном итоге, определение того, что означает качество, остается за различными отделами и руководителями: выберите метрику и определите минимальный уровень качества, прежде чем инструмент будет передан в руки команд и партнеров.
Такая отправная точка создает быстрый цикл обратной связи. «Нас замедляет отсутствие общего понимания того, какого результата мы хотим достичь», — говорит Мерритт, — «что может привести к путанице и постоянным корректировкам. Мы не запускаем производство, пока деловой партнер не скажет: „Да, это работает“».
Его команда стратегически подходит к оценке новых инструментов и проявляет «чрезвычайную строгость» при тестировании и оценке того, что означает «хороший» результат. Например, они проводят оценку доверия для снижения частоты ошибок, устанавливают пороговые значения и критерии оценки, а также отслеживают отклонения в характеристиках и результатах.
Мерритт также придерживается политики отсутствия обязательств — это означает, что компания не привязывает себя к использованию какой-либо конкретной модели. По его словам, у компании «невероятно гетерогенная» технологическая среда, сочетающая лучшие в своем классе модели с мэйнфреймами, работающими на COBOL. Эта гибкость не случайна. Его команда создала общие сервисные слои, микросервисы и API, которые находятся между слоем ИИ и всем, что находится ниже, — поэтому, когда появляется более совершенная модель, ее замена не означает начала работы с нуля.
Потому что, как объяснил Мерритт, «лучшие представители породы сегодня могут стать худшими завтра, и мы не хотим оказаться в ситуации, когда нам придется отстать».
Прополка вместо того, чтобы позволить распуститься тысяче цветов.
Больница Mass General Brigham (MGB), со своей стороны, поначалу придерживалась более агрессивного подхода, полагаясь на случайность.
Около 15 000 исследователей в некоммерческой системе здравоохранения используют ИИ, машинное обучение и глубокое обучение в течение последних 10-15 лет, заявил технический директор Наллан «Шри» Шрираман на том же мероприятии VB.
Но в прошлом году он сделал смелый шаг: его команда закрыла множество неконтролируемых пилотных проектов в области искусственного интеллекта. Изначально, по его словам, «мы следовали методологии тысячи цветков, но у нас было не тысяча цветков, а, скорее всего, несколько десятков», — сказал он.
Подобно команде Мерритта в MassMutual, MGB перешла к более целостному подходу, изучив причины разработки тех или иных инструментов для конкретных отделов и рабочих процессов. Они задались вопросом, какие возможности им нужны и необходимы, и какие инвестиции для их реализации требуются.
Команда Шрирамана также обсудила планы развития со своими основными поставщиками платформ — Epic, Workday, ServiceNow, Microsoft. Это был «поворотный момент», отметил он, поскольку они поняли, что создают собственные инструменты, которые уже предоставляются (или планируются к внедрению) другими поставщиками.
Как выразился Шрираман: «Зачем нам создавать это самим? Мы уже на этой платформе. Она войдет в рабочий процесс. Используйте это в своих интересах».
Тем не менее, рынок всё ещё находится на начальной стадии развития, что может затруднять принятие решений. «Я приведу аналогию: представьте, что вы просите шестерых слепых потрогать слона и спросить: „Как выглядит этот слон?“ — сказал Шрираман. — „Вы получите шесть разных ответов“».
В этом нет ничего плохого, отметил он; просто все открывают для себя что-то новое и экспериментируют, поскольку ландшафт постоянно меняется.
Вместо хаоса и неконтролируемых условий команда Шрирамана распространяет Microsoft Copilot среди пользователей по всей компании и использует «небольшую посадочную зону», где они могут безопасно тестировать более сложные продукты и контролировать использование токенов.
Они также начали «сознательно внедрять лидеров в области ИИ» во все бизнес-подразделения. «Это своего рода обратная ситуация по сравнению с тем, как если бы вы позволили распуститься тысяче цветов, тщательно сажая и питая их», — сказал Шрираман.
Наблюдаемость — еще один важный аспект; он описывает панели мониторинга в реальном времени, которые отслеживают отклонения модели и обеспечивают безопасность, а также позволяют ИТ-командам управлять ИИ «немного более прагматично». Мониторинг состояния системы имеет решающее значение для систем ИИ, отметил он, и его команда разработала принципы и политику использования ИИ, не говоря уже о принципе наименьших прав доступа.
В клинической практике действуют абсолютные правила: системы искусственного интеллекта никогда не принимают окончательного решения. «Всегда будет врач или фельдшер, которые будут участвовать в принятии решения», — сказал Шрираман. Он привел в пример составление радиологических отчетов как одну из областей, где ИИ широко используется, но где всегда есть одобрение рентгенолога.
Шрираман ясно дал понять: «Ты не должен этого делать: не показывай защищенную медицинскую информацию в Perplexity. Все просто, не так ли?»
И, что немаловажно, должны быть предусмотрены механизмы безопасности. «Нам нужна большая красная кнопка, чтобы отключить всё», — подчеркнул Шрираман. «Мы ничего не вводим в эксплуатацию без неё».
В конечном счете, хотя агентный ИИ — это технология, способная изменить мир, подход предприятия к ней не обязательно должен кардинально отличаться. «В этом нет ничего нового, — сказал Шрираман. — Вы можете заменить слово BPM [управление бизнес-процессами] из 90-х и 2000-х годов на ИИ. Те же самые концепции применимы».
Подпишитесь, чтобы получать самые свежие новости!
Подробные аналитические данные для руководителей предприятий в области искусственного интеллекта, данных и безопасности.
Отправляя свой адрес электронной почты, вы соглашаетесь с нашими Условиями использования и Политикой конфиденциальности.
Получайте обновления ! Вы подписаны! Наши последние новости скоро поступят на вашу электронную почту.
Источник: venturebeat.com
