Нельзя клеветать на мёртвых. Но это не значит, что нужно их подделывать.

Зельда Уильямс, дочь покойного актера Робина Уильямса, обратилась с трогательным посланием к поклонникам своего отца.

«Пожалуйста, просто перестаньте присылать мне видео с папой, сделанные с помощью искусственного интеллекта. Перестаньте верить, что я хочу это видеть или что пойму. Я не хочу и не пойму», — написала она в Instagram-истории в понедельник. «Если у вас есть хоть капля порядочности, просто прекратите так поступать с ним, со мной, даже со всеми, и точка. Это глупо, это пустая трата времени и сил, и поверьте, это НЕ то, чего бы он хотел».

Вероятно, не является совпадением тот факт, что Уильямс решил опубликовать это всего через несколько дней после выпуска видеомодели Sora 2 от OpenAI и социального приложения Sora, которые дают пользователям возможность создавать весьма реалистичные фейковые изображения себя, своих друзей и некоторых персонажей мультфильмов.

По данным Юридического центра студенческой прессы, сюда также входят и умершие, которые, по всей видимости, являются законной добычей, поскольку клевета на умерших не является противозаконной.

Sora не позволит вам создавать видео с живыми людьми, если только это не вы сами или ваш друг, который дал вам разрешение использовать его образ (или «камео», как это называет OpenAI). Но эти ограничения не распространяются на мёртвых, которых, как правило, можно создавать без каких-либо препятствий. Приложение, которое всё ещё доступно только по приглашениям, переполнено видеороликами с такими историческими личностями, как Мартин Лютер Кинг-младший, Франклин Делано Рузвельт и Ричард Никсон, а также с умершими знаменитостями, такими как Боб Росс, Джон Леннон, Алекс Требек и, конечно же, Робин Уильямс.

Неясно, как OpenAI проводит границу при создании видеороликов с участием умерших. Например, Sora 2 не сможет сгенерировать бывшего президента Джимми Картера, умершего в 2024 году, или Майкла Джексона, умершего в 2009 году, хотя, согласно тестам TechCrunch, она создавала видеоролики с изображением Робина Уильямса, умершего в 2014 году. И хотя функция «cameo» в OpenAI позволяет пользователям задавать инструкции по своему появлению в видеороликах, создаваемых другими пользователями, — это своего рода «защита», появившаяся в ответ на раннюю критику Sora, — у умерших нет такого права голоса. Держу пари, Ричард Никсон перевернулся бы в гробу, если бы увидел, какой дипфейк я сделал из его выступления за отмену полиции.

Компания OpenAI не ответила на запрос TechCrunch о комментарии относительно допустимости дипфейка в отношении умерших людей. Однако, возможно, дипфейк в отношении умерших знаменитостей, таких как Уильямс, находится в рамках допустимой практики компании; судебные прецеденты показывают, что компания, скорее всего, не будет привлечена к ответственности за клевету в отношении умершего.

«Наблюдать, как наследие реальных людей сводится к „это смутно похоже и звучит как они, так что хватит“, просто чтобы другие люди могли штамповать ужасную ерунду для TikTok, управляя ими, — это просто сводит с ума», — написал Уильямс.

Критики OpenAI обвиняют компанию в необдуманном подходе к подобным вопросам, поэтому после выхода Sora её быстро заполонили видеоролики с использованием искусственного интеллекта, в которых фигурируют защищённые авторским правом персонажи, такие как Питер Гриффин и Пикачу. Генеральный директор Сэм Альтман первоначально заявил, что голливудским студиям и агентствам придётся прямо отказаться от использования их интеллектуальной собственности в видеороликах, созданных Sora. Ассоциация кинокомпаний уже призвала OpenAI принять меры по решению этого вопроса, заявив в своём заявлении, что «устоявшееся право на авторское право защищает права создателей и применяется в данном случае». Впоследствии он заявил, что компания изменит свою позицию.

Sora, пожалуй, самая опасная из доступных людям на сегодняшний день моделей искусственного интеллекта, способных создавать дипфейки, учитывая реалистичность её результатов. Другие платформы, такие как xAI, отстают, но у них ещё меньше ограничений, чем у Sora, что позволяет создавать порнографические дипфейки реальных людей. По мере того, как другие компании догонят OpenAI, мы создадим ужасающий прецедент, если будем относиться к реальным людям — живым или мёртвым — как к своим личным игрушкам.

Источник: techcrunch.com