Архив рубрики ~Лента новостей~

Компания Anthropic делится более подробной информацией о том, как будут работать новые водяные знаки Клода.

Компания Anthropic делится более подробной информацией о том, как будут работать новые водяные знаки Клода.
Компания Anthropic делится более подробной информацией о том, как будут работать новые водяные знаки Клода.

В пятницу компания Anthropic опубликовала в блоге сообщение, в котором попыталась ответить на некоторые основные вопросы о том, как она будет наносить водяные знаки на текст, генерируемый её чат-ботом Клодом. Например: Как именно будет работать водяной знак? Можно ли его скрыть при редактировании? И как это повлияет на код?

Пользователи Claude обсуждают этот шаг с тех пор, как компания на этой неделе объявила о намерении использовать водяные знаки в соответствии с Кодексом прозрачности Закона ЕС об искусственном интеллекте, который требует от компаний, занимающихся ИИ, использования систем, позволяющих идентифицировать контент, созданный с помощью ИИ.

Например, на Reddit один пользователь охарактеризовал это как заговор против невинных пользователей Claude, а другой заявил: «Единственная причина, по которой вы могли бы этого не хотеть, — это лгать людям». А Business Insider сообщает, что «десятки» пользователей X заявили об отмене своих подписок на Claude в результате этого.

В новой публикации Anthropic начинается общий обзор концепции водяных знаков, объясняя, что при принятии «незначительных решений» — например, при выборе между словами «пасмурно» и «серо» для описания погоды — Claude может создать в своих ответах шаблон, который «незаметен для читателя, но обнаружим для любого, у кого есть ключ, позволяющий его закодировать».

«Нанесение водяных знаков не влияет на качество продукции Клода», — заявила компания. «Для читателя ответ с водяным знаком неотличим от ответа без водяного знака».

В частности, Anthropic заявила, что будет использовать подход SynthID-Text, описанный командой Google DeepMind в 2024 году, и что планирует выпустить API для обнаружения водяных знаков. Компания также отметила, что водяные знаки отличаются от подходов к обнаружению ИИ, предлагаемых такими компаниями, как Pangram, которые ищут «подсказки» в тексте (например, конструкция «это не [X], это [Y]»), чтобы выявить использование ИИ: «Выявление этих закономерностей принципиально отличается от проверки на наличие водяного знака».

Можно ли просто переписать текст, чтобы скрыть водяной знак? В Anthropic сказали, что это возможно, но «легкая редактура, вероятно, не удалит водяной знак полностью», в то время как «полная переработка, при которой заменяется каждое слово, удалит».

«В последнем случае, конечно, можно поспорить, можно ли вообще считать этот текст сгенерированным искусственным интеллектом», — заявила компания.

Что касается возможности обнаружения водяного знака в тексте, который был лишь вычитан или отредактирован Клодом, Антропик сказал, что это будет зависеть от «длины текста и того, насколько сильно Клод его редактировал». Если текст был отредактирован лишь слегка, «почти все слова» будут написаны человеком, и «водяному знаку будет практически не к чему прикрепиться».

Между тем, на коде должно быть меньше водяного знака, чем на остальном тексте, поскольку модели потребуется создать работающий код, и у нее не будет свободы выбора между множеством одинаково допустимых вариантов.

«Тем не менее, в тех областях, где существует произвольный выбор между определенными словами или терминами в коде, водяной знак может использоваться, например, в комментариях к коду», — заявили в Anthropic. «Но по определению, это окажет незначительное влияние на фактически созданный код».

Компания Anthropic также заявила, что Клод будет не единственным чат-ботом с искусственным интеллектом, генерирующим текст с водяными знаками, поскольку «другие крупные разработчики моделей подписали тот же Кодекс практики и будут внедрять свои собственные водяные знаки».

Источник: techcrunch.com

❌ Нет тегов для этой статьи

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Специалист по робототехнике утверждает, что безопасность человекоподобных роботов должна быть первостепенной задачей. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Специалист по робототехнике утверждает, что безопасность человекоподобных роботов должна быть первостепенной задачей.

Оставить комментарий