Вице-президент Cohere заявил, что для обеспечения суверенитета в сфере корпоративного ИИ необходимо контролировать весь набор агентов на конференции VB Transform 2026.

Карл Франзен

На этой неделе сотни руководителей предприятий и технических экспертов заполнили главный бальный зал роскошного отеля Nia в Менло-Парке на конференции VB Transform 2026, главной конференции года, посвященной использованию генеративных агентов искусственного интеллекта для достижения бизнес-результатов.

Рашад Алао, вице-президент по разработке продуктов в быстрорастущем канадском стартапе Cohere, специализирующемся на корпоративном искусственном интеллекте, присоединился к генеральному директору и главному редактору VentureBeat Мэтту Маршаллу для неформальной беседы о создании агентных систем без передачи конфиденциальных данных, контроля над инфраструктурой или возможности смены поставщиков.

Алао, ранее возглавлявший группы по ответственному использованию ИИ, а также по обеспечению доверия и безопасности в Google и Meta, утверждал, что суверенитет ИИ означает нечто большее, чем просто загрузка открытой модели или запуск приложения за корпоративным брандмауэром.

На вопрос о том, как организация Cohere определяет суверенитет, Алао указал на организации, управляющие критически важными системами, включая банки, больницы и государственные учреждения.

«Важно очень строго контролировать место хранения данных, а также контролировать работу ИИ», — сказал он, добавив, что операции с ИИ должны проводиться в юрисдикциях, которые организация понимает или непосредственно контролирует.

Это включает в себя графические процессоры и инфраструктуру частного облака, системы управления, которые маршрутизируют запросы между моделями, а также коннекторы, инструменты поиска и агентские платформы, работающие с корпоративными данными.

«Вам нужен полный контроль над всей системой», — сказал Алао.

Нагрузка на агентов может опередить падение цен на токены.

Маршалл оспорил один из главных экономических аргументов в пользу более компактных моделей, развертываемых локально: цены на выводы продолжают быстро падать, что потенциально ослабляет аргументы в пользу оптимизации каждого токена.

Алао возразил, что общее потребление растет еще быстрее, поскольку предприятия переходят от относительно простых чат-ботов к агентам, которые анализируют проблемы, обращаются к инструментам, ищут информацию во внутренних системах и выполняют множество шагов, прежде чем выдать ответ.

«Использование ваших токенов растет в геометрической прогрессии, потому что вы имеете дело со все более сложными сценариями использования агентов», — сказал он. По его словам, эти рабочие процессы требуют «много обработки информации, размышлений и взаимодействия инструментов» для достижения своих целей.

Алао также провел различие между поставщиками услуг, которые выставляют счета клиентам в зависимости от потребления токенов, и подходом Cohere.

«Если вы взимаете плату с клиентов исключительно за использование токенов, вам нужно максимизировать их использование», — сказал он. «Мы не продаем наши модели и нашу платформу таким образом».

Вместо этого, по словам Алао, Cohere стремится помочь предприятиям решать самые сложные проблемы конфиденциально и безопасно, одновременно сокращая использование ненужных моделей. Его рекомендация была проста: «Используйте подходящую модель для решения конкретной задачи».

Вместо того чтобы направлять каждый запрос в самую крупную доступную модель, предприятиям следует распределять задачи в соответствии с требуемой информацией и степенью конфиденциальности или нормативной нагрузкой, связанной с задачей.

Алао упомянул неназванный канадский банк, который использует локальные модели Cohere для выполнения задач, требующих строгого регулирования, в то время как менее конфиденциальные задачи, требующие более высокого уровня интеллекта, передаются через платформу Cohere North для более крупных задач, требующих расширенного анализа.

«Таким образом, модель маршрутизации может оказаться чрезвычайно полезной», — сказал он.

Более компактные модели для большинства задач в корпоративной среде.

На вопрос одного из слушателей о том, как выпущенный в прошлом месяце открытый исходный код North Mini Code от Cohere может конкурировать с проприетарными моделями кодирования, Алао признал, что более крупные модели, находящиеся на переднем крае разработки, могут показывать несколько лучшие результаты в решении самых сложных задач.

Однако это преимущество может не оправдывать их без разбора.

«В 80% случаев, когда им требовалось такое решение, оно оказалось гораздо эффективнее и дешевле», — сказал Алао о разработчиках, внедривших эту модель.

Программа Cohere North Mini Code работает на одном графическом процессоре Nvidia H100 и ориентирована на разработку программного обеспечения с использованием агентов, включая работу в терминале, проверку кода и использование инструментов.

Компания также выпустила Command A+, модель, объединяющую 218 миллиардов параметров от разных экспертов, при этом на каждом этапе генерации активными остаются только 25 миллиардов параметров.

Его сжатая четырехбитная версия уменьшает количество оборудования, необходимого для частного развертывания, а лицензия Apache 2.0 предоставляет предприятиям широкую свободу в его использовании и модификации.

Поиск становится частью агента.

Отвечая на вопрос о многолетней работе Cohere в области встраивания данных и корпоративного поиска, Алао сказал, что эта область выходит за рамки простого извлечения текста и его вставки в контекстное окно модели.

«Сегодня передовые технологии сосредоточены на многомодальном поиске, — сказал он. — Речь идёт не только о текстовом поиске».

Поиск по документам, изображениям и другим формам информации становится «неотъемлемой частью вашего агентского рабочего процесса», — добавил Алао, — при этом модель решает, когда и как использовать поиск, как и любой другой инструмент.

На вопрос о том, что могло бы убедить предприятия отказаться от комплексных услуг ИИ от существующих облачных провайдеров, Алао вернулся к теме контроля над данными и их переносимости.

«Если вас интересует суверенитет, вы хотите иметь больший контроль над своими данными», — сказал он. Он добавил, что уровень управления Cohere позволяет клиентам направлять трафик к соответствующим моделям, «решая проблему зависимости от поставщика, которая волнует многих наших клиентов».

Источник: venturebeat.com