OpenAI приостанавливает показ видеороликов Соры с участием Мартина Лютера Кинга-младшего.

Компания OpenAI объявила в четверг, что приостановила возможность пользователям создавать видеоролики, похожие на покойного борца за гражданские права Мартина Лютера Кинга-младшего, с помощью своей ИИ-видеомодели Sora. Компания заявила, что добавляет эту меру предосторожности по просьбе наследников доктора Кинга после того, как некоторые пользователи Sora создали «неуважительные изображения» его образа.

«Хотя свобода слова в изображении исторических личностей имеет большое значение, OpenAI считает, что публичные личности и их семьи должны в конечном итоге контролировать использование их образов», — заявила OpenAI в публикации на X с официального аккаунта своей редакции. «Уполномоченные представители или владельцы наследства могут потребовать, чтобы их образы не использовались в камеях Соры».

Ограничение вступило в силу всего через несколько недель после того, как OpenAI запустила свою социальную видеоплатформу Sora, которая позволяет пользователям создавать реалистичные видеоролики, созданные с помощью искусственного интеллекта, с изображением исторических личностей, их друзей и пользователей, которые решили воссоздать свои образы на платформе. Запуск вызвал бурные публичные дискуссии об опасности видеороликов, созданных с помощью искусственного интеллекта, и о том, как платформы должны устанавливать ограничения для этой технологии.

Доктор Бернис Кинг, дочь доктора Кинга, на прошлой неделе опубликовала в Instagram пост с просьбой прекратить присылать ей созданные искусственным интеллектом видеоролики, похожие на её отца. Она присоединилась к дочери Робина Уильямса, которая также попросила пользователей Sora прекратить создавать созданные искусственным интеллектом видеоролики с её отцом.

На этой неделе издание Washington Post сообщило, что пользователи Sora создали с помощью искусственного интеллекта видеоролики, на которых доктор Кинг издает обезьяньи звуки и борется с другим кумиром движения за гражданские права — Малкольмом Иксом. Прокручивая приложение Sora от OpenAI, можно легко найти некачественные видеоролики, напоминающие других исторических личностей, включая художника Боба Росса, певицу Уитни Хьюстон и бывшего президента Джона Ф. Кеннеди.

Лицензиар имущества доктора Кинга не сразу отреагировал на просьбу TechCrunch прокомментировать ситуацию.

Помимо того, как Sora представляет людей, запуск приложения также вызвал множество вопросов о том, как социальные сети должны обращаться с видеороликами, созданными с помощью ИИ и защищёнными авторским правом произведениями. Приложение Sora также полно видеороликов, посвящённых таким мультфильмам, как Губка Боб, Южный Парк и Покемоны.

За несколько недель с момента запуска проекта OpenAI добавила новые ограничения к Sora. Ранее в октябре компания заявила, что планирует предоставить правообладателям более детальный контроль над типами видеороликов, создаваемых с помощью ИИ и использующих их образы. Возможно, это стало ответом на первоначальную негативную реакцию Голливуда на Sora.

Поскольку OpenAI вводит ограничения в Sora, компания, похоже, стремится к более пассивному подходу к модерации контента в ChatGPT. На этой неделе OpenAI объявила, что в ближайшие месяцы позволит взрослым пользователям вести «эротические» чаты в ChatGPT.

Похоже, что с появлением Sora OpenAI пытается справиться с проблемами, связанными с созданием видео с помощью ИИ. Некоторые исследователи OpenAI публично задавались вопросами о первой социальной платформе компании на базе ИИ в первые дни после её запуска и о том, как такой продукт вписывается в миссию некоммерческой организации. Генеральный директор OpenAI Сэм Альтман заявил, что компания испытывала «трепет» по поводу Sora в день запуска.

Ник Тёрли, глава ChatGPT, сказал мне ранее в этом месяце, что лучший способ рассказать миру о новой технологии — это представить её миру. Он сказал, что именно этому компания научилась, работая с ChatGPT, и то же самое делает OpenAI, работая с Sora. Похоже, компания также кое-чему учится в том, как распространять эту технологию.

Источник: techcrunch.com