Директор Amazon по искусственному интеллекту заявил на конференции VB Transform 2026, что не возможности ИИ-агентств препятствуют их внедрению в корпоративной среде из-за низкой надежности.

Майкл Нуньес

В индустрии корпоративного ИИ существует математическая проблема. Данные Cisco показывают, что 85% предприятий тестируют агентов ИИ, но только 5% внедрили их в производство. На конференции VB Transform 2026 во вторник Брайан Сильверторн, директор по автономному ИИ в Amazon, объяснил, почему этот разрыв сохраняется — и почему решение заключается не в улучшении показателей производительности.

Сильверторн, который пришел в Amazon после приобретения компании Adept AI и теперь руководит обучением мультимодальных агентов в лаборатории AGI компании, утверждал, что надежность необходимо разделить на четыре отдельных измерения: согласованность, устойчивость, предсказуемость и безопасность — концепцию, которую он приписывает исследованиям Принстона.

«В нем анализируются различные факторы, которые я наблюдаю вперемешку почти в каждой оценке, которую когда-либо видел», — сказал он.

Почему агенты ИИ проходят внутреннюю оценку, но подводят реальных клиентов в процессе эксплуатации

Эта структура важна, потому что агенты регулярно блестяще проходят внутренние оценки, а затем дают сбой в реальных условиях. Сильверторн описал клиента, который развернул агента для контроля качества программного обеспечения, занимающегося извлечением серийных номеров с экранов. Он безупречно работал два месяца, а затем начал периодически считывать неправильные номера. Виновник: базовый графический кодировщик вел себя по-разному в зависимости от того, где серийный номер появлялся на экране, и сбой был вызван незаметным для человека изменением программного обеспечения.

По словам Сильверторна, главный урок заключается в измерении, а не только в моделях. «Модели должны быть лучше. Очевидно, мы усердно работаем над их улучшением», — сказал он. Но более глубокий вывод, добавил он, состоит в том, что командам необходимо определить свои изменчивые параметры и соотнести строгость измерений с требованиями приложения. Собственное исследование VentureBeat, представленное перед сессией, подтверждает этот тезис: половина опрошенных компаний выпустила агенты, прошедшие внутреннюю оценку, но не справившиеся с реальными клиентами, а предприятия в подавляющем большинстве случаев отслеживают время безотказной работы, игнорируя точность — проверяя пульс, не проверяя диагноз. Аналогичный вывод подчеркивает, как мало существует защитных механизмов: большинство предприятий по умолчанию полагаются на собственные оценки разработчиков моделей и ни на что другое, оставляя свою стратегию тестирования, как я описал это на сцене, в виде подбрасывания монеты между доверием поставщику и полным отсутствием доверия.

Внутри «интерновой» структуры Amazon для управления автономными агентами искусственного интеллекта

Самый запоминающийся рецепт Сильверторна был культурным, а не техническим. В лаборатории искусственного общего интеллекта Amazon исследователи буквально называют своих агентов «стажерами» — например, «мой стажер поговорит с вашим стажером». Эта шутка несет в себе серьезную операционную философию. Агенты, как и стажеры, обладают большой властью, но иногда бывают совершенно некомпетентны, способны на невероятные результаты и впечатляющие провалы.

По его словам, управление ими требует скорее управленческих навыков, чем навыков работы с программным обеспечением: нужно задаваться вопросом, что может пойти не так, добавлять резервные копии и возможности отмены действий, а также сознательно решать, какой риск вы можете принять. «Вы можете спросить стажера: „Эй, что ты можешь сделать неправильно? Как ты можешь смягчить негативные последствия?“» — сказал он. Лаборатория Amazon приняла этот компромисс, допуская, что агенты иногда проводят неправильные эксперименты в обмен на ускорение исследований — включая одного агента, проводящего эксперименты круглосуточно в рамках собственного высокоуровневого исследовательского плана.

Что должны сделать руководители предприятий, прежде чем развертывать агентов в масштабах предприятия?

Сильверторн откровенно говорил об ограничениях современных технологий. Самосовершенствующийся ИИ остается «термин с неоднозначным подтекстом», — сказал он. — Amazon постоянно использует ИИ для улучшения своих моделей, но полностью автономное самосовершенствование еще далеко. Использование компьютеров остается ключевым направлением работы его лаборатории: один из клиентов, занимающихся коммерческими грузоперевозками, уже использует автоматизацию через браузер для объединения гарантийных заявок в разрозненных системах**, хотя он подчеркнул, что ни один будущий агент не будет полагаться только на использование компьютеров — он будет работать совместно с MCP, API и другими инструментами для выполнения сквозных рабочих процессов**. А методы LLM в качестве судьи, хотя и многообещающие, являются лишь одной из нескольких стратегий для согласования возможностей агента с приемлемым уровнем риска.

Для предприятий, застрявших в «пилотном чистилище», путь вперед начинается со смены мышления: перестаньте спрашивать, может ли ваш агент сделать что-то впечатляющее один раз, и начните спрашивать, может ли он сделать это правильно тысячу раз подряд.

Иными словами, предприятия, которые избегут 85-процентного потолка, будут не те, у кого самые умные сотрудники, а те, у кого лучшие менеджеры.

Источник: venturebeat.com