Некоторые пользователи Claude недовольны тем, что новые водяные знаки Anthropic позволят обнаружить их использование приложения на работе и учебе.

Компания Anthropic недавно приняла решение помечать результаты работы Клода водяными знаками — вставляя невидимый код в текст чат-бота, который указывает на то, что он сгенерирован искусственным интеллектом.

Компания Anthropic внедрила эту новую политику, чтобы соответствовать Кодексу прозрачности Закона ЕС об искусственном интеллекте, который теперь требует от технологических компаний маркировать контент, созданный или отредактированный с помощью ИИ, таким образом, чтобы его можно было идентифицировать компьютерными системами. Однако, хотя европейские регуляторы могут быть довольны, некоторые пользователи ИИ явно недовольны.

Достаточно взглянуть на Reddit, чтобы найти доказательства назревающего недовольства, хотя другие пользователи сайта с этим не согласны. Один из самых эмоциональных постов, на который я наткнулся, был от пользователя visionode, чей аккаунт существует всего три недели. По словам visionode, новая система водяных знаков — это драконовский заговор, призванный обмануть невинных пользователей чат-ботов по всему миру.

Основной аргумент Visionode, по-видимому, заключается в том, что, хотя опытные пользователи Claude могут скрывать следы использования ИИ, перефразируя или иным образом очищая свои результаты с помощью других сервисов ИИ, среднестатистический пользователь Claude будет пойман.

«Кто попадётся? Вы. Студент, который использовал Клода для перестановки абзацев. Журналист, который попросил ИИ составить краткое содержание стенограммы объёмом двести страниц. Писатель, у которого случился творческий кризис, и он попросил подобрать синонимы. У этих ребят в итоге на лбу появится цифровая татуировка».

Ни в коем случае не хочу умалять возмущение visionode, но это не лучшие примеры. Журналист, попросивший ИИ составить краткое изложение двухсотстраничной стенограммы, не будет возражать против водяного знака, прикрепленного к этому резюме, если только он не копирует и не вставляет резюме дословно в свою статью — что явно неэтично и не должно происходить.

Столь же неэтично поступать и со студентом, который копирует и вставляет текст Клода в эссе, предварительно попросив его «перестроить абзац».

Другие пользователи Reddit также не выразили особой поддержки возмущению автора поста.

«Посмотрите на этого парня», — просто прокомментировал один из пользователей.

Другой пользователь попросил автора поста «глубоко вдохнуть».

Visionode был не единственным, кто жаловался. Другой недовольный пользователь назвал водяные знаки «неэтичными» и «отвратительными» и утверждал, что, используя Клода, они проделали львиную долю работы. По их мнению, чат-бот был всего лишь «инструментом», облегчившим их тяжелый труд.

«Я дал инструкции, контекст, решения и бесчисленные доработки, а Клод был инструментом. Если Клод начнет ставить водяные знаки на код или что-либо еще, что он генерирует, за что именно он претендует на авторство?» — спросил автор поста.

И снова другие пользователи набросились на критика.

«Это не попытка присвоить себе авторство», — парировал один из пользователей. «Речь идёт о возможности распознавать результаты, сгенерированные ИИ, из-за рисков, которые они могут представлять в различных ситуациях».

«Даже не мог пожаловаться на Клода, не используя его в качестве источника вдохновения», — пошутил другой.

Некоторые критики избегают нарратива о роли жертвы и приводят несколько более тонкие аргументы против новой политики Anthropic.

Например, один пользователь пожаловался на лицемерие в отношении нанесения водяных знаков на редакционный продукт, который сам был создан путем заимствования чужих работ. «Я думаю, это очень зловещее направление», — сказал пользователь. «Я не использую Клода для написания текстов, но наличие ИИ, который ставит водяные знаки на вашу работу, — это ужасающе иронично, учитывая, как многие передовые модели использовали данные для обучения».

В целом, однако, пользователи склонны поддерживать систему водяных знаков как разумный способ отслеживания материалов, созданных алгоритмами. «Нет ни одного веского аргумента против этой идеи», — написал один из пользователей в другом обсуждении. «Единственная причина, по которой вы могли бы этого не хотеть, — это обманывать людей».

Источник: techcrunch.com