Проблема, ограничивающая производительность ИИ-агента, заключается не в производительности модели, а в правах доступа.

Эмилия Давид

Корпоративные ИИ-агенты тормозят — не из-за производительности модели, а из-за ограничений доступа. В конечном итоге каждый рабочий процесс с участием агента сталкивается с одним и тем же препятствием: к чему разрешено прикасаться этому агенту, от чьего имени и как система об этом узнает?

Решение Workday заключается в том, чтобы сделать существующую систему учета уровнем управления для агентов. Геррит Казмайер, президент компании по продуктам и технологиям, в интервью VentureBeat заявил, что клиенты часто сталкиваются с трудностями, когда пытаются самостоятельно разработать решения для своих агентов.

«Sana гарантирует, что целостность системы утверждений и модели безопасности всегда соблюдается», — сказал Казмайер. «Честно говоря, именно здесь мы видим трудности у клиентов, когда они пытаются создать собственный ИИ, просто используя необработанные данные, в результате чего теряется вся полнота модели безопасности, и результаты становятся слишком общими».

Компания Workday, запустившая Sana в марте, расширила свое партнерство с Google, чтобы внедрить свою систему учета агентов Sana в Gemini Enterprise — таким образом, агенты, созданные на основе Sana, также будут доступны и там.

Точность проектирования

Казмайер сказал, что самой большой проблемой, с которой они столкнулись, было обеспечение точности данных, предоставляемых агентами, особенно для пользователей из отделов кадров и финансов.

«Почти правильно — это неприемлемо, — сказал Казмайер. — Подумайте о правильной оплате труда сотрудников, закрытии бухгалтерских книг или надежном управлении рабочими графиками».

Оценить точность здесь сложнее, чем в большинстве контекстов ИИ. Конфигурации политик, безопасность на основе ролей и организационные иерархии тесно взаимосвязаны — даже небольшая ошибка усугубляет ситуацию. И в отличие от большинства результатов работы генеративного ИИ, запросы в сфере управления персоналом и финансов часто не имеют механизма коррекции. К тому моменту, когда обработка платежной ведомости происходит некорректно или собеседование назначается неправильно, ущерб уже нанесен.

Компания Workday решила эту проблему, встроив Gemini в качестве базового уровня логического вывода, а затем добавив поверх него механизм контекста и логику бизнес-процессов. Workday также добавила модели верификации и классификации, которые «запрашивают» результаты перед выполнением.

Как оказалось, точность и идентификация — это один и тот же вопрос: достаточно ли система знает об агенте, лице, дающем разрешение, и текущем состоянии записи, чтобы действовать корректно?

Преимущество Workday заключается в том, что она может определять организационную структуру своих клиентов на основе предоставляемых ими данных. Сторонние поставщики идентификационных данных, такие как Okta, уже проверяют свою информацию, сверяясь с Workday, поэтому для многих предприятий Workday является основной системой учета. Казмайер сказал, что агент самообслуживания Sana использует Gemini в качестве интерактивной платформы для запуска рабочего процесса. Затем пользователь проходит аутентификацию и авторизацию через модель идентификации и безопасности Workday. Агенты Sana будут действовать только от имени этого пользователя и работать в рамках его текущих прав доступа.

Журналы аудита работают по той же логике: Gemini сохраняет только журналы взаимодействий, в то время как основной аудит остается в рамках Workday и его клиента.

Для многих специалистов в сфере управления персоналом и финансов уровень разрешений и управления в системе учета агентов имеет ключевое значение в регулируемых отраслях.

«Данные должны храниться в системе учета, это не предпочтение, это единственный способ, как это работает», — написал Дэн Обендорфер, директор по продуктам компании Würk, в электронном письме VentureBeat. «Если ваши права доступа определены где-то вне того места, где фактически хранятся данные, вы уже проиграли».

Кадан Штадельманн, технический директор и соучредитель Compance.AI, высказал ту же мысль отдельно: «Без контроля над агентами, их производительности, затрат или действий наступает хаос».

Подпишитесь, чтобы получать самые свежие новости!

Подробные аналитические данные для руководителей предприятий в области искусственного интеллекта, данных и безопасности.

VB Daily AI Weekly Еженедельник AGI Еженедельник по безопасности Еженедельник по инфраструктуре данных Мероприятия VB Все они

Отправляя свой адрес электронной почты, вы соглашаетесь с нашими Условиями использования и Политикой конфиденциальности.

Получайте обновления ! Вы подписаны! Наши последние новости скоро поступят на вашу электронную почту.

Источник: venturebeat.com