Старший вице-президент Target утверждает, что настоящая защита компании от угроз со стороны ИИ заключается не в моделях, а во всем, что построено вокруг них.

Тарин Пламб

Вице-президент Target Сиобан Макфини утверждает, что конкурентное преимущество Target обеспечивают не модели искусственного интеллекта, которые использует ее компания, а все, что построено на их основе.

«В этом много смысла. Для нас это и есть конкурентное преимущество», — сказал Макфини на конференции VB Transform 2026. «Модели великолепны и важны. Но их недостаточно, чтобы обеспечить конкурентное преимущество».

Эта дисциплина проявляется уже на ранних этапах принятия компанией Target решения о целесообразности создания собственного ИИ-агента. Макфини была откровенна, даже, по её собственному признанию, «спорна» по поводу нынешней ситуации с ИИ: каждое предприятие хочет иметь ИИ-агентов, но не всему он нужен, сказала она.

По ее словам, агенты зарабатывают свою автономию со временем, а не получают ее по умолчанию, — этот принцип лежит в основе всего, что компания Target построила вокруг них.

Макфини заявила, что цель состоит в том, чтобы агенты были сосредоточены на проблемах, которые приносят наибольшую пользу покупателям Target. «Мы хотим убедиться, что инвестируем в правильные места», — сказала она.

Обдуманный подход к агентам

Агенты становятся частью базовой архитектуры Target, все чаще связывая сигналы, системы и решения в рамках цепочки поставок, пополнения запасов и прогнозирования спроса.

Макфини сформулировал это как старейшее обещание розничной торговли — правильный товар, в правильном месте, в правильное время — в больших масштабах.

Но ее команда целенаправленно подходит к созданию агентов искусственного интеллекта, начиная с самого простого и очевидного вопроса: какую проблему они пытаются решить? Это приводит к нескольким последующим вопросам:

• Для решения этой проблемы нужен агент?

• Если да, то какого типа агент? Координатор? Суперагент? Агент, специализирующийся на определенной области?

• Или то, что вы называете «агентом», на самом деле всего лишь инструмент?

«Вы определяете это заранее, и это может показаться немного сложным процессом, затем вам нужно зарегистрировать и сертифицировать своего агента», — сказал Макфини. Потому что решение может уже существовать, и вы не хотите дублировать работу.

Разработка агента запускает еще один ряд важных вопросов: что побуждает агента к действию? Автоматизация? Инженер? Таймер? Что необходимо предпринять для отслеживания этого процесса?

«Мы стараемся проследить историю от самого начала — от появления этого агента и до самых истоков — потому что, когда однажды утром в 2 часа ночи что-то пойдет не так, мы хотим убедиться, что понимаем все, что произошло», — сказал Макфини.

Уровень автономности — ещё один важный фактор; новые агенты обычно начинают с базового уровня автономности и со временем его повышают. Вопрос в том, к каким данным, системам, таблицам и базам данных имеет доступ агент, — это отдельный вопрос.

Наконец, следует учитывать мониторинг и наблюдаемость; агенты не смогут решать проблемы или совершенствоваться со временем, если их не будут постоянно оценивать.

«Мы измеряем всё: для чего это было задумано, его калибровку, траекторию движения, а не только время работы и задержку», — сказал Макфини. Это обеспечивает полную прозрачность и позволяет корректировать работу агентов с течением времени.

«Речь идет об архитектуре, таксономии и уровне управления данными, который был абсолютно необходим», — сказала она.

В этих «уровнях автономии» заключено многое — именно эта основа позволяет Target масштабироваться и правильно инвестировать в подходящие модели для решения конкретных проблем.

Модели имеют разные «градиенты», которые лучше подходят для разных задач; например, модели с граничными характеристиками превосходно справляются со сложными задачами, требующими обработки миллиардов единиц данных (как в крупных цепочках поставок товаров). Но в некоторых сценариях они могут быть слишком дорогостоящими.

«Поэтому важно всегда обеспечивать соотношение затрат и выгод», — сказал Макфини.

Агенты должны заслужить свою автономию.

Моделирование с помощью цифрового двойника предсказало наличие мужских шорт в трех магазинах Target в Лонг-Бич этим летом — и один магазин показал, что ему требуется в шесть-семь раз больше товара, чем остальным, сказала она. Первая реакция аналитиков по запасам: «Этого не может быть». Но система обнаружила то, что они не учли. Этот магазин находился менее чем в двух милях от пляжа; два других — в 10-12 милях от берега. Аналитики оставили рекомендацию в силе, и товар был распродан.

«Это наука. С математической точки зрения это более значимо и внушает больше доверия, чем результаты, полученные людьми», — сказала Макфини. По ее словам, именно такие результаты позволяют системам управления Target со временем обретать большую автономию.

По словам Макфини, компания Target рассматривает автономность ИИ-агентов как «заслуженную» и выстраивает её в виде четырёхуровневой лестницы: агенты начинают с наблюдений без каких-либо действий, затем переходят к предложению действий в ожидании одобрения, а затем к действиям в рамках заданных ограничений. На самом высоком уровне, на котором сейчас работает Target, агенты выполняют сквозные операции — но при этом человек всё ещё участвует в процессе.

«Уровень автономности агентов чрезвычайно важен, — сказал Макфини. — Они его заслуживают, и могут потерять, если не будут работать так, как ожидается». Модели, которые отклоняются от нормы, будут выведены из эксплуатации.

Как она выразилась, люди обретают автономию, когда со временем доказывают свою способность что-то делать. Никому не дают кучу дополнительных обязанностей просто так; нужно показать, что ты способен с ними справиться.

Аналогичным образом, действия агентов можно научно измерить и количественно оценить: насколько точными они были, насколько сильно отклонялись от заданного курса и насколько близко они приблизились к намеченной цели. Это помогает установить контрольные точки, позволяя строителям работать быстрее и «двигаться быстро бесконечно», поскольку им не приходится постоянно гадать, где находятся эти контрольные точки.

«Если вы соблюдаете эти правила, [следуете] инструкциям по безопасности, регистрируете агента, и все равно что-то идет не так, у нас есть полная история событий с самого начала», — сказал Макфини. «Наша способность восстанавливаться значительно лучше».

В конечном счете, успех агентов — это совокупность факторов, а не один единственный, сказала она: «Речь идет о вашей архитектуре. Речь идет о вашей таксономии. Речь идет об уровне автономии ваших агентов, а также о безопасности и наблюдаемости».

Новый набор навыков для новых рабочих процессов.

Однако даже при высокой степени автономности агентов разработчики все равно должны нести ответственность, если что-то пойдет не так. Макфини отметил, что сейчас команды работают с такой скоростью, которую никто не мог предвидеть, а это значит, что необходимо создавать системы оценки и регистрировать и отслеживать агентов.

Многое зависит от культуры; структура рабочей силы претерпевает изменения, и строителям и инженерам требуются новые навыки для управления как людьми, так и системами искусственного интеллекта. Эти контексты совершенно разные, но карьерная эволюция «чрезвычайно захватывающая».

«Вы — строитель. Вы наблюдаете за тем, как агенты строят, и одновременно обучаете людей, наблюдающих за тем, как агенты строят», — сказал Макфини. «Уровень нюансов здесь довольно высок».

Источник: venturebeat.com