Трюк Джейка Пола Сора Рассказывает о рисках и выгодах рынка подделок
Новые видеоприложения, такие как Sora, могут превратить лица в средства для зарабатывания денег и намекнуть на будущее, в котором каждый сможет сдавать в аренду свое цифровое изображение
О Джейке Поле пишут по всему Интернету. Пол — известный в социальных сетях актер и профессиональный боксер — вошел в историю в прошлом году, когда сразился с легендой бокса Майком Тайсоном на самом массовом спортивном мероприятии в истории. Теперь он снова в центре внимания, и на него обращено еще больше внимания. На прошлой неделе появилась волна вирусных видеороликов, в которых он дает уроки макияжа, ворует в магазине Taco Bell и держит в руках 7-Eleven.
Но ни одно из этих видео не является настоящим — это глубокие подделки, созданные в приложении Sora от OpenAI. Программное обеспечение, запущенное 30 сентября, использует искусственный интеллект для создания видеороликов и позволяет людям загружать свои изображения в качестве «камео», которое могут использовать другие.
Пол охотно загрузил свое камео для использования другими, а затем 8 октября он опубликовал видео на TikTok, в котором пригрозил подать в суд на любого, кто распространяет фейки о том, что он делает то, чего никогда бы не сделал. Сказав это, он начал неуклюже накладывать макияж — шутка, потому что именно за этим его и изображали многие фейки. На следующий день он объявил на сайте X, что он «гордый инвестор OpenAI» и «первый пользователь камео NIL среди знаменитостей» (NIL — это аббревиатура от имени, образа и подобия), и что видеоролики, созданные с его изображением, всего за шесть дней достигли набрало более миллиарда просмотров.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Такие начинания могут стать началом новой цифровой экономики для deepfakes- и Sora может стать ключевым фактором. Функция «камео», которая поначалу казалась забавным дополнением к способностям Соры, теперь, похоже, стала одной из главных достопримечательностей, и генеральный директор OpenAI объявил о планах по ее монетизации. Эта разработка открывает новые возможности для одних, но создает большие риски для других. В зависимости от того, как внедрена система, владельцы камео могут устанавливать условия и стоимость, что может вернуть некоторый контроль тем, чьи изображения были использованы без их согласия. Любой желающий мог поделиться своим нулевым результатом и, по сути, поместить своего цифрового двойника в эквивалент библиотеки стоковых фотографий. Другие пользователи приложения могли бы лицензировать эти изображения для небольших, отслеживаемых целей, соблюдая правила, установленные правообладателями (например, не показывать обнаженную натуру), и платя им за каждое использование. Глубокие подделки, которые до сих пор в основном использовались для очернения или вымогательства денег у людей, по крайней мере, приносили бы своим создателям гонорары.
Конечно, поскольку технологии развиваются быстрее, чем многие пользователи могут себе представить, и, безусловно, быстрее, чем за ними могут угнаться регулирующие органы, риски существенны. Человек может согласиться на дублирование и все равно пострадать от подделок, которые выборочно редактируются или создаются с использованием вредоносных подсказок. Их изображение может быть легко украдено и использовано в других целях для обмана или искажения информации, а открытые биометрические данные нельзя просто сбросить, как утечку пароля.
Создание рынка для NILS не устраняет потенциальный ущерб, но может создать коммерческий стимул для его предотвращения посредством регулирования для поддержания целостности рынка. И в некоторых случаях использование личных данных будет невозможно по моральным причинам, а не только по юридическим. В первую неделю запуска Sora семьи протестовали против глубоких подделок мертвых, и OpenAI дал понять, что добавит инструменты для удовлетворения этих запросов.
И искусственная экономика, скорее всего, изменят ситуацию так, как никто не может предвидеть. Музыкальные стримеры, такие как Spotify и SoundCloud, преобразили музыкальную индустрию, изменив способы распространения песен и даже дизайн. Например, они подтолкнули музыкантов к записи более коротких песен, которые слушатели с меньшей вероятностью пропустят. Произойдет ли нечто подобное с коммерциализированными deepfake? Может возникнуть рынок, на котором изображения людей будут продаваться или взаимообменом или даже корректироваться в зависимости от того, насколько востребованными они станут. Стоимость изображений face будет расти или падать в зависимости от колебаний популярности человека? Это звучит антиутопично, но мы уже живем в культуре, где имидж и внимание монетизируются, и эта тенденция, похоже, будет развиваться и дальше.
Ряд знаменитостей уже начали изучать коммерческие подделки. В 2023 году музыкант Граймс предложила разделить роялти на 50% любому, кто использует ее искусственный голос для создания «успешной» песни. Проект YouTube «Dream Track» позволяет создателям создавать саундтреки, используя искусственный интеллект, в частности, для озвучивания Чарли Пута, Деми Ловато и Джона Ледженда. В рекламных роликах появились подделки звезд спорта Дэвида Бекхэма и Пейтона Мэннинга, а музыкант ФКА Твигс (FKA twigs) создала подделку, чтобы управлять своими взаимодействиями в социальных сетях, пока она сосредоточена на создании музыки.
Что возвращает нас к логика решения Пола разрешить людям снимать видео с его эпизодической ролью на Sora такова: если внимание — это редкий товар на насыщенном цифровом рынке, то, позволяя миру создавать вас по запросу, вы привлекаете больше внимания и повышаете свою ценность. Он одновременно и актив, и архитектор, привлекающий внимание сегодня, чтобы завтра получать гонорары.
Оцените материал:
