Трекер Secret Claude шокировал пользователей после заявления компании Anthropic о недопустимости слежки.

Антрополога обвинили в слежке за пользователями; инженер заявил, что «эксперимент» завершен.

Источник: SOPA Images / Contributor | LightRocket Источник: SOPA Images / Contributor | LightRocket

Компания Anthropic оперативно удалила программу отслеживания, тайно следившую за пользователями Claude Code в Китае, после того как исследователь в области безопасности раскрыл скрытый код и осудил это шпионское отслеживание как «серьезное нарушение доверия пользователей».

На прошлой неделе веб-разработчик, известный как «Thereallo», изучал проблемы конфиденциальности в компании Claude Code и с удивлением обнаружил, что эта фирма, занимающаяся искусственным интеллектом, использует «стеганографию подсказок» для сокрытия кода, отслеживающего китайских пользователей, «на виду». Этот код не был вредоносным, но он отправлял в Anthropic информацию, которую большинство пользователей не смогли бы обнаружить, используя сокращенные маркеры для незаметной маркировки часового пояса пользователей, прокси-сервера и потенциальной связи с китайскими лабораториями ИИ, которые Anthropic обвиняет в дистилляционных атаках.

На сайте X инженер компании Anthropic Тарик Шихипар подтвердил, что трекер был добавлен в Claude Code в качестве «эксперимента» в марте. По словам Шихипара, код «был предназначен для предотвращения злоупотребления учетными записями со стороны неавторизованных реселлеров и защиты от дистилляции». Что касается первого пункта, The Washington Post обнаружила, что неавторизованные продавцы продавали доступ к бесплатным моделям за 1 доллар в месяц, а профессиональные подписки, которые могут стоить 100 долларов в месяц, продаются «всего за 12 долларов».

По словам Шихипара, компания Anthropic «на самом деле собиралась удалить этот скрытый код уже давно», поскольку инженеры «с тех пор разработали более эффективные меры по его устранению».

Однако защитники конфиденциальности остались недовольны этим объяснением, предупреждая, что код свидетельствует о готовности Anthropic переступить черту и следить за пользователями. Это особенно удивительно, учитывая, что Anthropic вызвала недовольство администрации Трампа, отказавшись разрешить правительству США использовать Claude для слежки за американскими пользователями. После этого компания, занимающаяся искусственным интеллектом, подала в суд на Белый дом из-за этого конфликта.

Компания Anthropic хочет, чтобы дистилляция была признана незаконной.

Издание The Post предположило, что инцидент с трекером свидетельствует о том, что американские фирмы, такие как Anthropic, принимают «все более агрессивные меры», чтобы помешать китайским компаниям, занимающимся искусственным интеллектом, копировать их модели.

По всей видимости, более оборонительная позиция стала критически важной. За последний год китайские фирмы «стабильно сравнялись» с возможностями моделей американских компаний «в течение нескольких месяцев», сообщила газета Post. Совсем недавно, как сообщила Post, «новая бесплатная модель ИИ от китайской компании Zhipu AI оказалась лучше в обнаружении компьютерных уязвимостей, чем модель Claude Opus 4.8 от Anthropic, выпущенная в мае».

Чтобы обеспечить США преимущество в 12, а возможно, и 24 месяца, организация Anthropic заявила, что США должны усилить меры вмешательства, используя ряд возможных санкций для борьбы с атаками с использованием дистиллятов, включая блокировку доступа к передовым моделям, чипам и центрам обработки данных в США.

Хотя дистилляция сама по себе не является незаконной (ведущие американские компании тоже этим занимаются), многократное использование моделей, подобных модели Клода, с целью быстрого продвижения китайских моделей, нарушает условия использования Anthropic.

Чтобы положить конец бесконечному копированию, Anthropic присоединилась к OpenAI, призывая США рассматривать атаки с использованием дистилляции как форму кражи интеллектуальной собственности. На недавних слушаниях в Сенате сенатор Тим Скотт (от Республиканской партии Южной Каролины) согласился с необходимостью юридического вмешательства, заявив, что США должны «тщательно разработать четкую и лаконичную политику экспортного контроля», чтобы остановить использование Китаем подобных атак для «получения технологического преимущества», сообщает Post.

Секретный код спровоцировал блокировку Alibaba Claude.

Как сообщила газета Post, очевидно, что китайские фирмы копируют американские модели. В феврале китайские исследователи из Пекинского университета и финансируемой государством Китайской академии наук «разработали методы обнаружения признаков копирования в ведущих крупных языковых моделях» и обнаружили, что большинство китайских моделей «продемонстрировали существенные признаки копирования», в основном американских моделей. Одна из моделей Qwen AI компании Alibaba, которую Anthropic впоследствии назвала усовершенствованной после крупнейшей в истории атаки на модель Claude в июне, «неоднократно имитировала» Claude в феврале. В некоторых интенсивных тестах модель даже иногда ошибалась и идентифицировала себя как Claude, обнаружили исследователи.

Компания Alibaba пока не прокомментировала обвинения Anthropic, но на фоне продолжающегося пристального внимания со стороны общественности дистанцировалась от моделей Anthropic.

В прошлую пятницу Alibaba запретила своим сотрудникам использовать Claude Code на работе, сообщила газета South China Morning Post. Согласно служебной записке, с которой ознакомилась SCMP, Alibaba сообщила сотрудникам, что запрет стал прямой реакцией на тревожные новости о трекере, который Anthropic использует для слежки за китайскими пользователями.

«Поскольку недавно было обнаружено, что Claude Code содержит уязвимости типа «бэкдор», после всесторонней оценки Claude Code был добавлен в список программного обеспечения высокого риска с уязвимостями в системе безопасности», — говорится в служебной записке.

Для Alibaba игнорирование стремления Anthropic выявлять пользователей, связанных с ведущими китайскими лабораториями искусственного интеллекта, является рискованным шагом.

В отличие от отдельных пользователей, которые могут легко приобрести дешевые технологии обхода блокировщиков местоположения Anthropic, не опасаясь серьезных последствий, Alibaba может столкнуться с юридическими и нормативными рисками, если будет уличен в нарушении условий Anthropic, сообщил Reuters источник, пожелавший остаться анонимным, чтобы обсудить запрет Alibaba в соответствии с законом Клода.

Для компании Anthropic продолжение атак может нанести ущерб бизнесу. Как сообщает Post, некоторые китайские модели с открытым исходным кодом более популярны, чем их американские аналоги, и руководители компаний из списка Fortune 500 ясно дали понять, что ищут более дешевые решения в области ИИ. Для США блокирование китайского копирования американских моделей будет не только сложной задачей, но и может оказаться непопулярным — это лишит американцев возможности воспользоваться более дешевыми альтернативами ИИ из Китая, предполагает Post.

Антропологическое слежение пересекло «пугающую границу».

В нынешних условиях, когда лояльность пользователей чат-ботов зависит от анализа соотношения затрат и выгод, сопоставляющего стоимость доступа к моделям с их возможностями, Anthropic, вероятно, не может позволить себе потерять доверие пользователей, борясь за то, чтобы передовые модели оставались впереди китайских.

Как отметил веб-разработчик, сообщивший о скрытом трекере, «странно», что Anthropic предпочла действовать втайне, когда компания могла бы вместо этого прозрачно уведомить пользователей о нарушении авторских прав, связанном с отслеживанием пользователей.

«Это не вредоносная функция, но это странное решение для инструмента разработчика, который требует доверия», — говорится в блоге Thereallo. В блоге отмечается, что «если клиент хочет обнаруживать пользовательские API-шлюзы, он может прямо указать на это. Он может отправить явное поле телеметрии с документацией. Он может сделать политику видимой. Он может указать это поведение в примечаниях к выпуску».

Исследователь подчеркнул, что «агентные программы уже находятся по ту сторону пугающей границы. Они могут проверять код, случайно раскрывать секреты, выполнять команды, устанавливать пакеты, редактировать файлы и отправлять коммиты на ваш локальный компьютер».

Хотя большинство пользователей, вероятно, не пострадали от отслеживания, Тералло предупредил, что «правильной реакцией» было бы более тщательное изучение потенциальной возможности слежки за пользователями со стороны Клода, поскольку «эта функция в основном наказывает именно тех, кого легче отследить: обычных разработчиков, делающих странные, но законные вещи».

«Скрытие сигнала в системном окне запроса делает все остальные заявления о нарушении конфиденциальности менее убедительными», — сказал Тереалло.

Компания Anthropic не сразу ответила на запрос Ars о комментарии.

Однако представитель компании заявил изданию Post, что атаки китайских лабораторий на системы дистилляции «представляют серьезную угрозу национальной безопасности и подрывают стандарты безопасности ИИ в отрасли. Именно поэтому мы продолжаем открыто говорить о том, что видим, и тесно сотрудничаем с другими лабораториями, правительством и партнерами в поиске совместных решений».

Источник: arstechnica.com