Компания Amazon представит свою платформу для разработки надежных агентов искусственного интеллекта на конференции VB Transform 2026.
Бриджит Ботельо
Искусственный интеллект все чаще демонстрирует высокую эффективность в автономном выполнении бизнес-задач, однако руководители ИТ-подразделений с осторожностью относятся к предоставлению разрешений на доступ к корпоративным системам.
Одна из проблем заключается в том, как измеряется надежность ИИ. Отраслевые стандарты часто опираются на показатели EVAL, которые представляют собой статичный снимок производительности, а не показатель общей надежности. Эти метрики могут не отражать предсказуемость в зависимости от запросов, среды и типов ввода, — говорит Брайан Сильверторн, директор исследовательской лаборатории AGI Autonomy в Amazon.
Исследовательская лаборатория Amazon по разработке систем автономного управления на основе искусственного интеллекта (AGI) выходит за рамки простых показателей производительности, сосредотачиваясь вместо этого на структурированной системе, основанной на согласованности, надежности, предсказуемости и безопасности, — рассказал Сильверторн изданию VentureBeat в интервью перед своим выступлением на конференции VB Transform 2026.
Вместо того чтобы предполагать, что модели можно использовать для обеспечения безопасности, подход Amazon делает упор на децентрализованные системы, такие как изолированные среды, где агенты предлагают изменения, которые затем проверяются людьми перед внедрением.
Эта стратегия направлена на преодоление разрыва в доверии путем приоритетного внимания к проверяемым взаимодействиям, даже в таких крайне чувствительных областях, как финансы, где потенциальный ущерб, который может нанести агент, значителен.
В ходе опроса VentureBeat Pulse Research, проведенного во втором квартале и охватившего более 100 руководителей высшего звена и покупателей технологических компаний, лишь 4% заявили, что готовы полагаться только на механизмы защиты моделей. На вопрос о том, что больше всего их беспокоит в отношении механизмов защиты моделей, 40% ответили, что это несанкционированный доступ к инструментам или данным, а 27% упомянули быстрое манипулирование или внедрение данных.
На конференции VB Transform Сильверторн поделится подробностями подхода Amazon к созданию надежных агентных ИИ и расскажет о том, как компании могут перейти от одноагентных оболочек к многоинструментальным архитектурам, способным к самокоррекции в процессе выполнения. Его сессия называется «Устранение разрыва между возможностями и надежностью: взгляд изнутри на структуру Amazon для разработки надежных агентов» .
Еще одна сессия, посвященная операциям и оценке агентских систем, на флагманской конференции VentureBeat, которая пройдет 14 и 15 июля в Менло-Парке, называется «Масштабный интеллект: как Waymo создает безопасный и эффективный ИИ для физического мира». Докладчиком выступит Манаси Джоши, директор по системному интеллекту и машинному обучению в Waymo.
Хотите посетить VB Transform 2026? Для руководителей высшего звена в сфере технологий доступно ограниченное количество бесплатных пропусков. Свяжитесь с нами , чтобы получить свой. Билеты также можно приобрести здесь .
Подпишитесь, чтобы получать самые свежие новости!
Подробные аналитические данные для руководителей предприятий в области искусственного интеллекта, данных и безопасности.
Отправляя свой адрес электронной почты, вы соглашаетесь с нашими Условиями использования и Политикой конфиденциальности.
Получайте обновления ! Вы подписаны! Наши последние новости скоро поступят на вашу электронную почту.
Источник: venturebeat.com
Оцените материал:
