Илон Маск намекает на новую систему маркировки изображений для X… кажется?

Если верить сообщению Илона Маска, социальная сеть X стала последней, кто внедрил функцию маркировки отредактированных изображений как «манипулированных медиафайлов». Однако компания не уточнила, как именно будет определяться эта функция и будет ли она распространяться на изображения, отредактированные с помощью традиционных инструментов, таких как Adobe Photoshop.

Пока что единственная информация о новой функции почерпнута из загадочного поста Илона Маска в X-сервере, где он написал: «Предупреждение: отредактированные визуальные элементы», перепостив объявление о новой функции X-сервера, опубликованное анонимным аккаунтом DogeDesigner. Этот аккаунт часто используется в качестве посредника для представления новых функций X-сервера, поскольку Маск делает репосты с него, чтобы поделиться новостями.

Тем не менее, подробностей о новой системе пока мало. В сообщении DogeDesigner утверждалось, что новая функция X может «затруднить распространение вводящих в заблуждение видеороликов или изображений для традиционных медиагрупп». Также утверждалось, что эта функция является новой для X.

До того, как компания была приобретена и переименована в X, Twitter помечал твиты, содержащие манипулированные, обманчиво измененные или сфабрикованные медиафайлы, в качестве альтернативы их удалению. Эта политика не ограничивалась искусственным интеллектом, но включала такие вещи, как «выборочное редактирование, обрезка, замедление, наложение или манипулирование субтитрами», — заявил в 2020 году руководитель отдела обеспечения целостности сайта Йоэль Рот.

Неясно, придерживается ли X тех же правил или внесла какие-либо существенные изменения для борьбы с ИИ. В справочной документации в настоящее время говорится о политике, запрещающей распространение недостоверных медиафайлов, но она редко применяется на практике, как показал недавний скандал с дипфейками, когда пользователи распространяли обнаженные изображения без согласия. Кроме того, даже Белый дом теперь распространяет отредактированные изображения.

Называть что-либо «манипулированными медиафайлами» или «изображением, созданным с помощью ИИ» — понятие неоднозначное.

Учитывая, что X является площадкой для политической пропаганды как внутри страны, так и за рубежом, необходимо документально подтвердить, как компания определяет, что «отредактировано», или, возможно, сгенерировано или изменено искусственным интеллектом. Кроме того, пользователям следует знать, существует ли какая-либо процедура разрешения споров помимо коллективно создаваемых заметок сообщества X.

Как выяснила компания Meta при внедрении функции маркировки изображений с помощью ИИ в 2024 году, системы обнаружения легко могут дать сбой. В её случае обнаружилось, что Meta неправильно помечала реальные фотографии меткой «Создано с помощью ИИ», хотя они не были созданы с использованием генеративного ИИ.

Это произошло потому, что функции искусственного интеллекта все чаще интегрируются в инструменты для творчества, используемые фотографами и графическими дизайнерами. (Новый пакет программ Apple Creator Studio, который выходит сегодня, — один из недавних примеров.)

Как выяснилось, это сбивало с толку инструменты идентификации Meta. Например, инструмент кадрирования Adobe сводил изображения в одно целое перед сохранением в формате JPEG, что запускало детектор ИИ в Meta. В другом примере, функция Generative AI Fill от Adobe, используемая для удаления объектов — таких как складки на рубашке или нежелательное отражение — также приводила к тому, что изображения помечались как «Создано с помощью ИИ», хотя они были отредактированы только с помощью инструментов ИИ.

В конечном итоге Meta обновила свою метку, добавив «Информация об ИИ», чтобы не помечать изображения как «Создано с помощью ИИ», если это не так.

Сегодня существует организация, устанавливающая стандарты для проверки подлинности и происхождения цифрового контента, известная как C2PA (Коалиция по проверке происхождения и подлинности контента). Также существуют связанные инициативы, такие как CAI (Инициатива по проверке подлинности контента) и Project Origin, направленные на добавление метаданных, позволяющих выявлять попытки подделки, к медиаконтенту.

Предположительно, реализация X будет следовать какому-то известному процессу идентификации контента, созданного с помощью ИИ, но владелец X, Илон Маск, не уточнил, что это за процесс. Он также не пояснил, говорит ли он конкретно об изображениях, созданных с помощью ИИ, или обо всем, что не является фотографией, загружаемой в X непосредственно с камеры смартфона. Неясно даже, является ли эта функция совершенно новой, как утверждает DogeDesigner.

X — не единственное издание, борющееся с манипулированным контентом. Помимо Meta, TikTok также занимается маркировкой контента, созданного с помощью ИИ. Стриминговые сервисы, такие как Deezer и Spotify, также расширяют инициативы по идентификации и маркировке музыки, созданной с помощью ИИ. Google Photos использует C2PA для указания того, как были созданы фотографии на его платформе. Microsoft, BBC, Adobe, Arm, Intel, Sony, OpenAI и другие входят в руководящий комитет C2PA, а многие другие компании присоединились к нему в качестве членов.

В настоящее время X не числится в списке участников, хотя мы связались с C2PA, чтобы узнать, изменилась ли ситуация в последнее время. X обычно не отвечает на запросы о комментариях, но мы все равно спросили.

Источник: techcrunch.com