Brex исходит из предположения, что его агенты искусственного интеллекта могут делать что угодно, поэтому он следит за сетью, а не за кодом.

Бен Диксон

На конференции VB Transform 2026 генеральный директор Brex Педро Франчески представил план решения одной из актуальных задач, стоящих сегодня перед предприятиями: безопасное развертывание агентов искусственного интеллекта, таких как OpenClaw с открытым исходным кодом, в производственных средах.

Для раскрытия этого корпоративного потенциала необходима смена мышления. Отрасли нужно отказаться от расплывчатой терминологии и сосредоточиться на конкретных корпоративных ролях.

«Много говорят об агентах, но я думаю, что «агенты» — ужасное название. Это концепция из Силиконовой долины, которая на самом деле ничего не значит», — сказал Франчески.

Вместо этого цель должна заключаться в создании сущностей, которые смогут по-настоящему сотрудничать с людьми. «Мы всегда имели в виду идею виртуального сотрудника — человека в Slack, сущность, у которой есть адрес электронной почты, она может присоединяться к совещаниям, с ней можно отправлять электронные письма, и с ней можно работать», — сказал Франчески.

Для реализации этого видения необходима новая парадигма безопасности. В презентации Франчески подробно рассказывалось о том, как компания Brex указала OpenClaw на внутренние роли, осознала несостоятельность традиционных моделей безопасности и разработала новый уровень сетевой безопасности под названием CrabTrap.

Дилемма безопасности OpenClaw

Путешествие началось после прорыва в декабре, когда модели кодирования достигли уровня зрелости, позволившего выпустить OpenClaw в январе. Это ознаменовало момент, когда агенты наконец-то смогли самостоятельно запускать и поддерживать свои собственные кодовые базы, вместо того чтобы полагаться на жестко закодированные статические инструменты.

Однако, когда Франчески предложил использовать это для автоматизации внутренних функций, команда безопасности Brex категорически отвергла эту идею. «Они сказали: „Черт возьми, нет. Как мы можем доверять агенту, который делает это? У этой штуки есть возможности для выполнения кода. Нет способа это контролировать“», — сказал Франчески. Эта осторожность не уникальна для Brex — предприятия в целом с опаской относятся к предоставлению агентам возможности неконтролируемого выполнения кода в корпоративных сетях.

Для решения этой проблемы компании Brex пришлось изменить периметр безопасности. Франчески противопоставил это подходам, подобным NemoClaw от Nvidia, которые, по его словам, обеспечивают безопасность агентов, ограничивая использование ими инструментов — модель, которая, по его мнению, нивелирует возможности программирования, которые и придают агентам их ценность.

«…мы исходили из предположения, что навыки программирования имеют решающее значение для того, чтобы модель могла выполнять различные задачи», — сказал он.

Решение Brex заключалось в переносе границы безопасности на сетевой уровень. Вместо контроля постоянно меняющегося кода внутри контейнера, необходимо сосредоточиться на мониторинге того, что код фактически пытается отправить или получить из внешнего мира.

CrabTrap и решение, при котором магистр права выступает в роли судьи.

Этот сетецентрический подход привёл к созданию CrabTrap, прокси-сервера HTTP с открытым исходным кодом, разработанного компанией Brex. Механизм работает, исходя из предположения, что OpenClaw может делать всё что угодно и, возможно, уже скомпрометирован. Поэтому CrabTrap отслеживает весь исходящий сетевой трафик между контейнером и интернетом, используя LLM для оценки соответствия этого трафика утверждённой политике агента.

«Вместо того чтобы пытаться контролировать код, работающий в контейнере, предположите, что он может делать что угодно, и отслеживайте сетевой трафик между этим контейнером и интернетом», — сказал Франчески.

Использование большой языковой модели (LLM) для оценки каждого сетевого запроса приводит к неприемлемой задержке, часто увеличивая время ответа на тысячи миллисекунд. Компания Brex решила эту проблему, пропуская трафик через разветвленную систему.

Стандартные действия с низким уровнем риска мгновенно проходят через статические, предварительно утвержденные правила. Если агент по подбору персонала пытается просмотреть профиль в LinkedIn, статическое правило разрешает это. Однако действия с высоким уровнем риска, такие как отправка электронных писем, помечаются и направляются на рассмотрение эксперту LLM. Франчески отметил, что такая архитектура гарантирует, что только около 2% сложных запросов фактически сталкиваются с задержкой при обработке экспертом LLM.

Удивительным результатом проекта стало то, насколько эффективно судья из числа студентов магистратуры с высшим образованием справляется со своей ролью. Франчески объяснил это обучением моделей: студенты магистратуры с высшим образованием просматривают миллиарды веб-страниц и HTTP-запросов, что, по его словам, дает им врожденное семантическое понимание закономерностей сетевого трафика.

«[Модели] очень хорошо умеют различать, что соответствует политике, а что нет», — сказал Франчески, добавив, что эта способность развивается естественным образом в процессе предварительного обучения, без необходимости серьезных подсказок.

Компания Brex протестировала эту инфраструктуру с помощью «Джима», виртуального рекрутера, созданного на платформе OpenClaw. Джим выполняет различные задачи, включая поиск кандидатов, оценку входящих заявок и отправку электронных писем.

Когда Джим пытается совершить действие, выходящее за рамки установленной политики, CrabTrap использует алгоритм обработки запросов с участием человека. Если судья LLM помечает несанкционированное исходящее электронное письмо, CrabTrap отправляет уведомление менеджеру в Slack.

В уведомлении Slack объясняется истинное намерение агента и предлагается изменение политики, которое позволит выполнить это действие. Затем менеджер может просмотреть контекст и нажать «да» или «нет», чтобы динамически обновить правила.

«Мне нравится аналогия с виртуальным сотрудником, потому что многие из этих проблем уже были решены в компании, в контексте человеческих отношений», — сказал Франчески. «Когда сотрудник сталкивается с трудностями, он обращается к своему руководителю».

Цена освоения новых земель

Brex — это финтех-компания, а не поставщик решений в области кибербезопасности. Решение о разработке CrabTrap собственными силами было продиктовано отсутствием зрелых коммерческих решений, которые могли бы удовлетворить потребности их команды специалистов по безопасности.

Франчески признал неизбежные издержки работы на передовом рубеже, отметив, что решения коммерческих поставщиков, скорее всего, со временем догонят.

«Когда мы это создавали, мне было ясно, что существует 70%-ная вероятность того, что мы откажемся от этого через шесть месяцев… Но то, чему мы научились, опередив события на шесть месяцев, оказалось ценным при формировании нашей стратегии внедрения ИИ», — сказал он.

Инвестиции в разработку внутренних инструментов обеспечили компании Brex необходимый опыт для безопасного развертывания агентов на несколько месяцев раньше, чем это сделает более широкий рынок. Для руководителей предприятий, ориентирующихся в сфере ИИ, главный вывод заключается в необходимости развития культурных и технических возможностей для работы в современном мире, где доминируют агенты.

«У нас нет ответов на все вопросы, но решение не в том, чтобы бездействовать», — сказал Франчески.

Источник: venturebeat.com