Новое обновление Claude Tag от Anthropic позволяет агенту в Slack читать всю переписку и присоединяться к ней без подсказки.

Майкл Нуньес

Компания Anthropic делает продуманную ставку на то, что самым большим препятствием для развития корпоративного ИИ является не интеллектуальность моделей, а тот факт, что большинство людей по-прежнему используют ИИ в чистом виде.

В эксклюзивном интервью VentureBeat Скотт Уайт, руководитель отдела корпоративных продуктов Anthropic, изложил основную идею компании в отношении так называемого «многопользовательского ИИ»: переход от парадигмы чат-ботов для одного пользователя к агентам ИИ, которые работают в разных командах, считывают организационный контекст и активно вмешиваются в работу — иногда даже без просьбы.

Стратегия окончательно сформировалась в начале этого месяца, когда Anthropic обновила Claude Tag, своего агента, работающего в каналах Slack, чтобы он считывал контекст целых разговоров, а не оценивал сообщения по одному. По данным компании, это изменение позволяет Claude примерно на 30% лучше определять, когда — и, что особенно важно, когда не следует — вступать в разговор без приглашения.

Это может показаться незначительным обновлением продукта. Однако Уайт утверждает, что это представляет собой нечто более фундаментальное: момент, когда ИИ перестает быть инструментом, к которому обращаются отдельные люди, и начинает быть коллегой, которого внедряют организации.

«Раньше Клод воспринимался как ваш личный руководитель аппарата, — сказал Уайт в интервью VentureBeat. — Теперь же, в контексте организационного распределения, Клод воспринимается как руководитель аппарата компании».

Как корпоративный ИИ эволюционировал от автозаполнения кода до достижения целей компании.

Уайт выделяет три отдельных этапа эволюции отрасли, и его рассказ служит одновременно дорожной картой для определения направления развития корпоративных продуктов компании Anthropic.

По его словам, вначале ИИ выполнял «часть одной задачи» — отвечал на вопрос в чат-боте или писал одну строку кода в IDE. По мере совершенствования моделей они перешли к выполнению целых задач: написанию полноценной функции, созданию исследовательского отчета, составлению документа на основе нескольких источников данных.

«Я думаю, что сейчас мы находимся на траектории, которую я бы назвал проектами или целями», — сказал Уайт. «Модели способны, и возможности их интеграции с системами достаточно велики, чтобы достигать абстрактных целей более высокого порядка — например, обеспечивать отсутствие ошибок в нашем продукте или ускорять процесс юридического оформления соглашения о неразглашении — и модель может работать в основном в фоновом режиме, соединяя различные источники данных и самостоятельно повторяя действия, которые, по ее мнению, являются ее целью».

Уайт утверждает, что именно этот сдвиг заставляет ИИ стать многопользовательским. Цели, в отличие от задач, по своей природе предполагают участие нескольких человек. А интеллектуальный труд — в отличие от разработки программного обеспечения, в которой десятилетиями существовала инфраструктура для совместной работы, построенная вокруг Git и запросов на слияние, — не имеет аналогичной структуры.

«Работа с интеллектуальным капиталом гораздо сложнее, чем разработка программного обеспечения, — сказал Уайт. — Это работа нескольких человек. Это многофункциональная задача. Это многосвязная система с различными правами доступа… Цель или результат также не так легко проверить, как в случае с кодом. Код может пройти тесты и скомпилироваться на вашей машине, и вы можете дорабатывать его до тех пор, пока он не будет работать гарантированно. Работа с интеллектуальным капиталом не обязательно такова. Для того чтобы сказать, соответствует ли что-то стандартам качества, требуется человеческое суждение».

Три технических прорыва, которые сделали возможным появление проактивных агентов искусственного интеллекта.

На вопрос о том, что именно способствовало переходу к многопользовательскому режиму, Уайт указал на три основных фактора, которые объединились за последние два года. Первый — это связь. Протокол контекста модели (MCP) от Anthropic — открытый стандарт, представленный компанией в конце 2024 года, который впоследствии приняли конкуренты OpenAI и Google в 2025 году, — превратился в то, что Уайт назвал «USB-C для коннекторов ИИ», предоставив Клоду управляемый доступ к корпоративным системам обработки данных.

Второй важный аспект — это пороговый уровень интеллектуального анализа моделей, который делает проактивный подход жизнеспособным, а не раздражающим. «Когда вы подключены ко всем этим различным системам, вы должны уметь связывать воедино данные, получаемые из всех этих разных источников, чтобы затем проактивно вмешаться и сказать: „Я думаю, что обнаружил для вас проблему, которую могу исправить“», — сказал Уайт. «Вам действительно нужно выйти на новый уровень интеллектуального анализа моделей, и я думаю, что мы достигли его совсем недавно».

Третий аспект — это форм-фактор: размещение Клода там, где уже происходит совместная работа. Уайт описал интеграцию со Slack как «новаторское партнерство, которое мы заключили, чтобы обеспечить присутствие Клода в качестве агента» — партнерство, которое предоставляет Клоду федеративную идентификацию агента со своими собственными правами доступа, осведомленностью о каналах и контекстом, связанным с MCP.

Обновление Claude Tag демонстрирует, как эти элементы объединяются. Ранее легковесный классификатор оценивал каждое сообщение Slack изолированно и делал бинарный выбор, должен ли Клод ответить. Теперь Anthropic полностью удалил этот классификатор. Клод читает полный контекст канала — плюс его инструкции по запоминанию и статусу — и выбирает один из четырех вариантов: ответить прямо в сообщении, начать более глубокую работу в ветке обсуждения, перенаправить сообщение в существующий рабочий поток или ничего не сказать. В объявлении Anthropic приводится показательный пример: два инженера преследуют одну и ту же ошибку с противоположных сторон, и ни один из них не обращается к Клоду. При индивидуальном прочтении ни одно из сообщений не требует ответа. При совместном прочтении у одного инженера есть теория, а у другого — доказательства, и Клод открывает ветку обсуждения, в которой расследование уже ведется. Примечательно, что компания заложила в систему явный механизм сдерживания. «Назойливый агент хуже, чем бесполезный», — написала Anthropic в своем объявлении, отметив, что Клод переходит в спящий режим в каналах, где ему постоянно нечего добавить.

Почему компания Anthropic утверждает, что совместный ИИ превосходит отдельных выдающихся исполнителей?

Очевидный вопрос скептика заключается в том, действительно ли все это ускоряет работу команд. Высокоэффективные сотрудники часто работают быстрее всего в одиночку, а координация использования ИИ между людьми с разными стилями работы действительно сложна. Когда его попросили привести доказательства, Уайт указал на то, как изменилась его собственная работа в Anthropic.

«Раньше, если у меня возникал вопрос о чем-то, происходящем в бизнесе, я обращался к специалисту по анализу данных, который тратил один-два дня на анализ данных по этой проблеме», — сказал Уайт. «Теперь Клод достаточно хорошо разбирается в анализе данных, и мне больше не нужно передавать ему информацию. Специалисты по анализу данных создали инфраструктуру, которая позволяет Клоду всегда быть правым в своих анализах данных».

В результате, по его словам, время, которое раньше тратилось на ожидание передачи задач, теперь уходит на принятие решений: «Больше времени я провожу со своими коллегами на моем уровне, обсуждая с ними, что нам следует делать и что нужно изменить в нашей стратегии… Множественные передачи задач, которые мы наблюдали для выполнения работы и последующего принятия решения, — все это значительно сократилось».

Уайт назвал проектирование надежности сайтов наиболее убедительным внешним доказательством эффективности этого шаблона: Клод собирает журналы ошибок, связывает их с недавними изменениями кода и соответствующими обсуждениями в Slack, затем представляет результаты анализа и привлекает нужных людей — «решая более масштабные, амбициозные и целенаправленные задачи, где часто необходима совместная работа».

Эти заявления звучат на рынке, который все еще испытывает трудности с преобразованием энтузиазма по поводу ИИ в прибыль. Последнее исследование McKinsey о состоянии ИИ показало, что хотя 88% организаций сообщают об использовании ИИ как минимум в одной функции, а 62% как минимум экспериментируют с агентами ИИ, только 39% связывают какое-либо влияние на прибыль с ИИ, и лишь 6% относятся к категории «высокоэффективных компаний», получающих значительную выгоду.

Компания Deloitte, в свою очередь, прогнозирует, что к 2025 году 25% предприятий, использующих генеративный ИИ, внедрят агентов, а к 2027 году эта цифра удвоится и достигнет 50%. Именно этот разрыв между внедрением и результатами пытается занять Anthropic: если перепроектированные рабочие процессы, а не просто добавленные чат-боты, отличают победителей в области ИИ от остальных, то продукт, который меняет способы координации работы команд, является более надежным инструментом, чем лишь немного улучшенная модель.

Как компания Anthropic защищает постоянно работающих агентов от атак с мгновенным внедрением.

Предоставление агенту ИИ постоянного доступа к каналам Slack, документам и подключенным системам компании поднимает очевидный вопрос о потенциальной уязвимости, особенно в отношении внедрения вредоносных инструкций — метода встраивания вредоносных инструкций в контент, который читает ИИ.

Уайт описал многоуровневую стратегию защиты. «Сами модели обучаются с помощью классификаторов, которые помогают предотвратить такие вещи, как атаки с внедрением prompt», — сказал он, добавив, что Anthropic уже откладывала запуск из-за этой проблемы: «Мы не выпустили наше расширение для Chrome в общий доступ и фактически поставили его в список ожидания… потому что нам нужно лучше понять риск внедрения prompt в контексте Claude в браузере. А затем мы провели обучение нового классификатора, чтобы выяснить, как улучшить это на основе этого набора данных».

Помимо защиты на уровне моделей, Anthropic предоставляет API для обеспечения соответствия требованиям и аналитики, позволяющие предприятиям определять собственные пороговые значения риска, а также сотрудничает со сторонними поставщиками решений в области безопасности через свои интерфейсы и интеграции для предотвращения потери данных. «Мы рассматриваем решение этой проблемы на многих уровнях стека», — сказал Уайт.

Что касается доступа к данным, Уайт подчеркнул, что права доступа в Claude сводятся к наиболее строгому пересечению того, что может видеть агент, и того, что может видеть запрашивающий пользователь. «Для просмотра данных у вас должны быть те же права доступа, которые предоставляет вам само устройство», — сказал он. «Если вы используете Claude в контексте вашей совместной работы, он будет иметь контекст канала, который находится перед вами, но он не будет передавать этот контекст канала в другой канал».

Вопрос ценообразования, на который должен сейчас ответить каждый ИТ-директор.

Одна деталь, затерянная в анонсе Claude Tag, заслуживает внимания покупателей технологий: расширенный контекст канала, который теперь имеет Claude, пока не учитывается в лимитах использования или расходов ни по одному из тарифных планов. На вопрос о том, следует ли предприятиям закладывать в бюджет возможность выставления счетов за этот контекст, Уайт отказался дать однозначный ответ, описав текущий этап как активное экспериментирование и совместную разработку с клиентами.

«Мы находимся на начальном этапе развития того, что я бы назвал проактивными и ориентированными на сотрудничество агентами», — сказал он. «Долгосрочная перспектива в области ИИ очень — очень долгая. Все меняется очень быстро, поэтому тесное партнерство с нашими клиентами так важно, чтобы они могли помочь нам найти правильное решение».

Вместо обещаний по ценам Anthropic делает акцент на контроле: ограничениях бюджета, привязанных к идентификаторам агентов или группам доступа на основе ролей, и моделях прав доступа, позволяющих разным командам использовать разные профили соотношения затрат и производительности. «Если мы сможем предоставить вам полный контроль над тем, как вы проектируете развертывание, чтобы оптимизировать соотношение затрат и производительности для задач, которые вы пытаетесь выполнить, то у вас будет много способов достичь желаемого результата», — сказал Уайт.

Если говорить прямо: экономические показатели постоянно работающих, контекстно-зависимых агентов остаются неопределенными, и Anthropic фактически субсидирует этап обучения. Предприятиям следует проектировать развертывания, исходя из предположения, что в конечном итоге счетчик включится.

Почему предприятия могут предпочесть Anthropic компаниям Microsoft, Google и Salesforce

Вопрос конкуренции стоит очень остро. Salesforce владеет Slack, Microsoft внедряет агентов в Teams и продвигает собственные амбиции в области оркестрации многоагентных систем, а Google делает то же самое в Workspace. Зачем предприятию передавать свои самые конфиденциальные внутренние разговоры третьей стороне?

Ответ Уайта заключается в том, что ценность заключается во связях между системами, а не в какой-либо одной из них. Он отметил, что улучшение продукта на основе отзывов клиентов требует извлечения стенограмм звонков из Salesforce, внутренних обсуждений из Slack, аналитики использования из инструментов продукта и кода из сред разработки — ни один поставщик не обладает всей этой полной картиной.

«Не существует какого-то одного решения, которое могло бы решить все ваши проблемы, — сказал Уайт. — Важно умение и структура, позволяющие объединить все это для достижения желаемого результата, а именно — создания чего-то лучшего для ваших клиентов. И мы видим, что наши клиенты любят Клода как организатора».

Это убедительная позиция именно потому, что корпоративные данные по своей природе фрагментированы. Уровень оркестрации, сохраняющий нейтральность по отношению к этим системам — построенный на протоколе, который стандартизировали даже самые яростные конкуренты Anthropic — обладает структурными преимуществами, которых нет у агента, работающего в закрытой экосистеме. Риск также обратный: владельцы платформ могут бесплатно включать свои агенты и контролировать точки интеграции, от которых зависит Anthropic. Anthropic делает ставку на то, что интеллектуальные возможности на передовой и межсистемная нейтральность превосходят распределение — ставка, которая пока работает в программировании, но остается непроверенной в работе с общими знаниями.

Что будет дальше: передача Клоду квартальных целей компании.

На вопрос о том, куда ведет эта траектория, Уайт набросал будущее, в котором делегация будет двигаться в обоих направлениях — и поразительно, насколько буднично он это описывает.

«Сейчас мы даем Клоду проекты для выполнения, — сказал он. — Думаю, скоро мы дадим Клоду цели и ключевые результаты (OKR), и он сам определит, над какими проектами нужно работать и как объединить людей для их выполнения — улучшая себя и окружающих со временем».

Он признал, что эта концепция «несколько абстрактна» и поднимает вопросы управления, которые существующие сегодня механизмы контроля лишь начинают решать. Искусственный интеллект, который решает, какие проекты организация будет реализовывать, и, по словам Уайта, делегирует эти задачи людям «только тогда, когда они необходимы для улучшения его способности принимать решения», переворачивает традиционные отношения между работниками и их инструментами таким образом, что большинство предприятий едва начали осознавать это.

Уайт указал на публичные заявления Anthropic о мерах по предотвращению катастрофических рисков в таких областях, как кибербезопасность и биобезопасность, как на доказательство того, что компания взвешивает риски, хотя повседневные вопросы, касающиеся свободы действий на рабочем месте, по-прежнему в значительной степени находятся в руках клиентов, регулируемых системами разрешений и бюджетным контролем, которые Anthropic предоставляет вместе с амбициозными планами.

На данный момент наиболее очевидные изменения уже наблюдаются в каналах Slack: искусственный интеллект, который слушает всех участников обсуждения, самостоятельно решает, когда говорить, и все чаще берет на себя связующую работу, которая раньше ложилась на плечи менеджеров, аналитиков и руководителей проектов. Уайт наблюдал, как этот сдвиг сводит его собственную работу к ее наиболее человеческим элементам — суждениям, обсуждениям, решениям — и он ожидает, что такое же сжатие произойдет повсюду.

Два года назад любимой метафорой в индустрии для ИИ был стажер. Компания Anthropic только что повысила его до должности руководителя аппарата — и теперь он подчиняется всей компании.

Источник: venturebeat.com