Компания Anthropic делится более подробной информацией о том, как будут работать новые водяные знаки Клода.

В пятницу компания Anthropic опубликовала в блоге сообщение, в котором попыталась ответить на некоторые основные вопросы о том, как она будет наносить водяные знаки на текст, генерируемый её чат-ботом Клодом. Например: Как именно будет работать водяной знак? Можно ли его скрыть при редактировании? И как это повлияет на код?

Пользователи Claude обсуждают этот шаг с тех пор, как компания на этой неделе объявила о намерении использовать водяные знаки в соответствии с Кодексом прозрачности Закона ЕС об искусственном интеллекте, который требует от компаний, занимающихся ИИ, использования систем, позволяющих идентифицировать контент, созданный с помощью ИИ.

Например, на Reddit один пользователь охарактеризовал это как заговор против невинных пользователей Claude, а другой заявил: «Единственная причина, по которой вы могли бы этого не хотеть, — это лгать людям». А Business Insider сообщает, что «десятки» пользователей X заявили об отмене своих подписок на Claude в результате этого.

В новой публикации Anthropic начинается общий обзор концепции водяных знаков, объясняя, что при принятии «незначительных решений» — например, при выборе между словами «пасмурно» и «серо» для описания погоды — Claude может создать в своих ответах шаблон, который «незаметен для читателя, но обнаружим для любого, у кого есть ключ, позволяющий его закодировать».

«Нанесение водяных знаков не влияет на качество продукции Клода», — заявила компания. «Для читателя ответ с водяным знаком неотличим от ответа без водяного знака».

В частности, Anthropic заявила, что будет использовать подход SynthID-Text, описанный командой Google DeepMind в 2024 году, и что планирует выпустить API для обнаружения водяных знаков. Компания также отметила, что водяные знаки отличаются от подходов к обнаружению ИИ, предлагаемых такими компаниями, как Pangram, которые ищут «подсказки» в тексте (например, конструкция «это не [X], это [Y]»), чтобы выявить использование ИИ: «Выявление этих закономерностей принципиально отличается от проверки на наличие водяного знака».

Можно ли просто переписать текст, чтобы скрыть водяной знак? В Anthropic сказали, что это возможно, но «легкая редактура, вероятно, не удалит водяной знак полностью», в то время как «полная переработка, при которой заменяется каждое слово, удалит».

«В последнем случае, конечно, можно поспорить, можно ли вообще считать этот текст сгенерированным искусственным интеллектом», — заявила компания.

Что касается возможности обнаружения водяного знака в тексте, который был лишь вычитан или отредактирован Клодом, Антропик сказал, что это будет зависеть от «длины текста и того, насколько сильно Клод его редактировал». Если текст был отредактирован лишь слегка, «почти все слова» будут написаны человеком, и «водяному знаку будет практически не к чему прикрепиться».

Между тем, на коде должно быть меньше водяного знака, чем на остальном тексте, поскольку модели потребуется создать работающий код, и у нее не будет свободы выбора между множеством одинаково допустимых вариантов.

«Тем не менее, в тех областях, где существует произвольный выбор между определенными словами или терминами в коде, водяной знак может использоваться, например, в комментариях к коду», — заявили в Anthropic. «Но по определению, это окажет незначительное влияние на фактически созданный код».

Компания Anthropic также заявила, что Клод будет не единственным чат-ботом с искусственным интеллектом, генерирующим текст с водяными знаками, поскольку «другие крупные разработчики моделей подписали тот же Кодекс практики и будут внедрять свои собственные водяные знаки».

Источник: techcrunch.com