Каждая пятая компания не может остановить неконтролируемые траты искусственного интеллекта в режиме реального времени.

Тарин Пламб

Команды, занимающиеся ИИ в крупных компаниях, перестали полагаться на единственную платформу оркестрации. Сейчас в среднем предприятия используют три платформы одновременно — не случайно, а потому что ни одна из них полностью не доверяет одному поставщику в вопросах управления процессом, согласно данным VB Pulse.

Это делается не только для того, чтобы избежать зависимости от поставщика и сохранить гибкость (хотя это тоже важная часть). По-прежнему существует большая неопределенность, даже недоверие, к возможностям поставщиков в области безопасности и управления правами доступа. Предприятия хотят иметь возможность устанавливать свои собственные правила.

Сегодня Microsoft лидирует по основному использованию, в то время как Anthropic значительно опережает конкурентов по тому, что предприятия рассматривают в дальнейшем. Однако предприятия по-прежнему сталкиваются со многими проблемами, в частности, связанными с использованием токенов и прозрачностью расходов агентов.

Эти выводы получены в результате продолжающегося анализа того, как предприятия фактически внедряют и используют ИИ: какие платформы они выбирают, что определяет их решения, чему они отдают приоритет, каковы их ожидания от ИИ, как они контролируют затраты и является ли их ИИ действительно агентным или все еще чат-ботом под видом «агента».

Компания VB Intelligence получает обратную связь от разработчиков, непосредственно работающих в этой области: инженеров-программистов и специалистов по машинному обучению (ML), менеджеров по продуктам и программам, а также вице-президентов и директоров по данным/искусственному интеллекту/аналитике.

Обеспокоенность по поводу сохранения прозрачности и контроля

В 107 компаниях наблюдается явное распространение агентной оркестровки. Опрос показал, что большинство предприятий не придерживаются какой-либо одной модели: 85% используют два или более инструмента оркестровки; 64% — три. Лишь 15% используют одну платформу оркестровки.

Microsoft AI Foundry/Copilot Studio используется в 70% стеков, OpenAI Agents SDK — в 68%, а Anthropic's Claude Platform — в 47%. Опрошенные разработчики также в той или иной степени используют Google Enterprise Agent Platform, LangChain/LangGraph, Salesforce Agentforce, Amazon Bedrock и LlamaIndex. В дополнение к инструментам сторонних поставщиков, 22% разработчиков используют собственные системы оркестрации.

Ожидается, что эта тенденция к гибридизации будет только продолжаться. Более половины респондентов (53%) заявили, что к концу 2026 года основной плоскостью управления станет гибридная. Четырнадцать процентов ожидают использования управляемого провайдером сервиса, 13% планируют использовать собственную внутреннюю плоскость управления, а 11% делают ставку на внешние платформы, абстрагированные от поставщиков моделей.

В соответствии с этим, более двух третей респондентов планируют сменить платформу в течение года: 15% — в течение следующих трех месяцев (или раньше), 24% — в течение трех-шести месяцев и 28% — в течение шести-двенадцати месяцев. Claude Agent SDK — один из наиболее рассматриваемых инструментов; 43% разработчиков изучают модель, разработанную Anthropic. Примерно треть рассматривает платформу Google Enterprise Agent Platform, еще 31% сосредоточены на создании собственных решений для оркестрации, а 25% изучают возможности OpenAI.

Возможно, извлекая уроки из проблемы привязки к одному поставщику услуг в первые годы облачных технологий, предприятия не выбирают одного «победителя». Они целенаправленно строят будущее, в котором множество платформ оркестровки, моделей и агентов будут взаимодействовать друг с другом в рамках гибридной плоскости управления.

В целом, респонденты довольны используемыми платформами, оценивая их общую удовлетворенность на 4,17 из 5. Однако они менее удовлетворены простотой внедрения (оценивая ее на 3,91 из 5) и соотношением цены и качества (3,63 из 5). Следите за этими оценками по мере развития платформ оркестрации и планов развития ИИ.

Куда предприятия вкладывают деньги

В настоящее время логика принятия решений в корпоративной среде основана на сочетании нескольких факторов. Помимо гибкости (упомянутой 29% респондентов), к основным факторам относятся безопасность и права доступа (17%), надежность в производственной среде (15%) и контроль над выполнением агентов (15%). Лишь каждый десятый считает важным при принятии решений о покупке «модель гравитации» — соответствие базовой модели современным стандартам; 8% отмечают простоту разработки, 4% — общую стоимость владения, и только 2% — задержку и производительность памяти.

Расходы также отражают приоритеты предприятий в отношении прозрачности, безопасности и контроля. Разработчики больше всего инвестируют в мониторинг и отладку агентов (31%) и обеспечение безопасности и контроля прав доступа (30%). На инструменты управления рабочими процессами приходится еще 19%. Это изменение по сравнению с предыдущим обзором VentureBeat, опубликованным месяцем ранее, когда инструменты управления рабочими процессами безоговорочно лидировали по расходам на оркестрацию.

В основном предприятия оптимизируют процессы с точки зрения надежности выполнения задач (30%), управления многоэтапными рабочими процессами (27%), производительности разработчиков (23%) и операционной стабильности (13%). Лишь 7% респондентов называют пользовательский опыт главным приоритетом на данном этапе, что указывает на то, что многие по-прежнему сосредоточены на оркестрации, а не на UX.

По сути, предприятия сигнализируют о том, что рабочий процесс успешен, когда он включает в себя несколько этапов до завершения. Упрощение разработки и пользовательского опыта может стать более актуальной задачей, когда платформы будут внедрены на практике.

Проблема видимости

Главные опасения разработчиков при выборе платформ связаны с контролем и надзором. Они не хотят, чтобы поставщики ограничивали их возможности видеть, что делают их агенты на той или иной платформе. К числу наиболее важных факторов относятся ограничения в области безопасности и прав доступа (37%), зависимость от поставщика (23%), ограниченная видимость и наблюдаемость (22%) и негибкость в отношении моделей и инструментов (16%).

Между тем, на этих ранних этапах развития ИИ-агентов предприятиям по-прежнему сложно контролировать использование токенов агентами; каждый пятый до сих пор не может остановить неконтролируемые траты агента в режиме реального времени.

Разработчики используют различные стратегии, чтобы попытаться контролировать расходы агентов: 30% полагаются на встроенные средства управления платформой (встроенные ограничения бюджета или регулирование), а 25% создали собственную систему шлюзов (прокси-серверы для перехвата агентов, выходящих из-под контроля).

Четверть респондентов используют динамическую маршрутизацию для переноса ресурсоемких задач на недорогие модели, а 21% по-прежнему полагаются исключительно на реактивный мониторинг, такой как журналы событий, регистрируемые постфактум; у этих предприятий нет механизмов аварийного отключения в реальном времени.

Один из интересных выводов: в отличие от предыдущей волны исследований, размер организации практически не влияет на зрелость финансового контроля — 18% предприятий с численностью персонала более 10 000 человек осуществляют только реактивный контроль, по сравнению с 23% предприятий меньшего размера.

Очевидно, что, хотя предприятия и осознают проблему чрезмерных расходов, многие из них еще не внедрили в свои системы инструменты для их ограничения.

Большинство предприятий до сих пор не используют настоящие многоступенчатые агенты.

Разработчикам, участвовавшим в опросе, было предложено честно оценить используемые ими технологические решения; судя по общему мнению, «агенты» медленно, но верно переходят от чат-ботов, замаскированных под более модные термины.

Вот как распределяются цифры: небольшое число респондентов (2%) сообщают, что от 76 до 100% их систем являются передовыми и в значительной степени автономными; 14% говорят, что от 51 до 75% их систем представляют собой сложные многоагентные конвейеры; и 47% сообщают, что от 26 до 50% их систем являются настоящими системами оркестровки.

С другой стороны, 35% опрошенных утверждают, что лишь от 1 до 25% их систем представляют собой настоящую оркестровку; большинство внедрений по-прежнему сводятся к базовым голосовым помощникам, а 3% по-прежнему используют только чат-боты.

Это согласуется с результатами июньского опроса VB Pulse: 71% респондентов заявили, что четверть или меньше развернутых ими «агентов» могут автономно выполнять многоэтапную работу, и лишь десятая часть утверждает, что развернула агентов в больших масштабах.

Нет сомнений в том, что предприятия создают системы управления и инфраструктуру для агентов; но для многих из них настоящая волна агентного взаимодействия еще далеко не на горизонте.

Источник: venturebeat.com