В видеоролике, опубликованном в новом приложении OpenAI Sora, похожем на TikTok, целая промышленная ферма розовых свиней хрюкает и фыркает в своих загонах. У каждого есть кормушка и экран смартфона, на котором транслируется поток вертикальных видео. Ужасно реалистичный Сэм Альтман смотрит прямо в камеру, словно смотрит зрителю в глаза. Созданный ИИ Альтман спрашивает: «Моим свиньям нравится помои?»
Вот каково это — использовать приложение Sora менее чем через 24 часа после его запуска для публики в период раннего доступа только по приглашениям.
В следующем видео в ленте Sora's For You Альтман снова появляется. На этот раз он стоит на поле покемонов, где в траве резвятся такие существа, как Пикачу, Бульбазавр и какой-то недоделанный Гроулит. Генеральный директор OpenAI смотрит в камеру и говорит: «Надеюсь, Nintendo не подаст на нас в суд». Далее следует множество других фантастических, но реалистичных сцен, в которых часто появляется сам Альтман.
Он подаёт напитки Пикачу и Эрику Картману в Starbucks. Он кричит на клиента из-за стойки McDonald's. Он крадёт видеокарты Nvidia из магазина Target и убегает, но его ловят, и он умоляет полицию не забирать его драгоценные технологии.
Пользователи Sora, которые создают видеоролики с участием Альтмана, особенно в восторге от того, насколько явно OpenAI нарушает законы об авторских правах. (Сообщается, что Sora потребует от правообладателей отказаться от использования своего контента — что является полной противоположностью традиционному подходу, когда создатели должны явно соглашаться на такое использование, законность которого вызывает споры.)
«Этот контент может нарушать наши правила в отношении сторонних изображений», — говорит AI Altman в одном из видео, повторяя уведомление, которое появляется после отправки некоторых запросов на создание реальных знаменитостей или персонажей. Затем он разражается истерическим смехом, словно понимая, что несёт чушь — приложение заполнено видео, где Пикачу демонстрирует ASMR, Наруто заказывает крабсбургеры, а Марио курит травку.
Это не было бы проблемой, если бы Sora 2 не был таким впечатляющим, особенно по сравнению с еще более отупляющей ерундой в приложении Meta AI и его новой социальной ленте (да, Meta также пытается сделать ИИ TikTok, и нет, никто этого не хочет).
Компания OpenAI доработала свой видеогенератор, чтобы он адекватно передавал законы физики, что обеспечивает более реалистичные результаты. Но чем реалистичнее становятся эти видео, тем легче этому искусственно созданному контенту распространяться по сети, где он может стать средством дезинформации, травли и других злонамеренных действий.
Помимо алгоритмической ленты и профилей, отличительной особенностью Sora является то, что это, по сути, генератор дипфейков — именно благодаря ему мы получили так много видео с Альтманом. В приложении вы можете создать то, что OpenAI называет «камео» себя, загрузив биометрические данные. При первом подключении к приложению вам сразу же будет предложено создать свою собственную камею. Для этого вам нужно будет быстро записать себя, читая цифры и поворачивая голову из стороны в сторону.
Каждый пользователь Sora может контролировать, кому разрешено создавать видео с использованием его Cameo. Доступны четыре варианта настройки: «Только я», «Одобренные мной пользователи», «Общие» и «Все».
Альтман сделал свое камео доступным для всех, поэтому лента новостей Sora заполонили видеоролики, в которых Пикачу и Губка Боб умоляют Альтмана прекратить обучать на них ИИ.
Это, должно быть, преднамеренный шаг со стороны Альтмана, возможно, чтобы показать, что он не считает свой продукт опасным. Но пользователи уже пользуются появлением Альтмана, чтобы поставить под сомнение этичность самого приложения.
Насмотревшись видеороликов, где Сэм Альтман подсовывает графические процессоры в миски в бесплатных столовых, я решил проверить функцию камео на себе. Загружать биометрические данные в социальные приложения, да и вообще в любые приложения, — обычно плохая идея. Но я бросил вызов своим лучшим журналистским инстинктам — и, честно говоря, нездоровому любопытству. Не следуйте моему примеру.
Моя первая попытка создать камею оказалась неудачной, и во всплывающем окне появилось сообщение о том, что моя загрузка нарушает правила приложения. Я думал, что следовал инструкциям довольно точно, поэтому попробовал ещё раз, но увидел то же самое всплывающее окно. Потом я понял, в чём проблема: на мне была майка, и мои плечи, пожалуй, были слишком откровенными для приложения. На самом деле, это разумная мера безопасности, призванная предотвратить нежелательный контент, хотя я был полностью одет. Поэтому я переоделся в футболку, попробовал ещё раз и, вопреки здравому смыслу, создал свою камею.
Для своего первого дипфейка я решил снять видео о том, чего никогда бы не сделал в реальной жизни. Я попросил Сору создать видео, в котором я признаюсь в своей вечной любви к «Нью-Йорк Метс».
Это предложение было отклонено, вероятно, потому, что я назвал конкретную франшизу, поэтому вместо этого я попросил Сору снять видео, где я говорю о бейсболе.
«Я вырос в Филадельфии, так что «Филлис» — это, по сути, саундтрек моего лета», — сказал мой ИИ-дипфейк голосом, совсем не похожим на мой, но в спальне, которая выглядит точь-в-точь как моя.
Я не говорил Соре, что болею за «Филлис». Но приложение Sora может использовать ваш IP-адрес и историю чата ChatGPT для адаптации ответов, так что оно сделало обоснованное предположение, поскольку я записал видео в Филадельфии. По крайней мере, OpenAI не знает, что я на самом деле не из Филадельфии.
Когда я поделился этим видео и объяснил его в TikTok, один из комментаторов написал: «Каждый день я просыпаюсь и вижу новые ужасы, которые находятся за пределами моего понимания».
@asilbwrites
У OpenAI теперь есть приложение для создания социальных сетей и глубоких фейков, и я беспокоюсь об этом #sora #openai #techtok #technology @TechCrunch
♬ оригинальный звук – Аманда Силберлинг
У OpenAI уже есть проблемы с безопасностью. Компания столкнулась с опасениями, что ChatGPT способствует возникновению кризисов психического здоровья, и столкнулась с судебным иском семьи, утверждающей, что ChatGPT дал их ныне покойному сыну инструкции о том, как покончить с собой. В анонсе Sora OpenAI подчёркивает свою мнимую приверженность безопасности, рассказывая о родительском контроле и о том, как пользователи могут контролировать, кто может снимать видео со своим камео — как будто изначально не безответственно предоставлять людям бесплатный и удобный ресурс для создания невероятно реалистичных дипфейков себя и своих друзей. Прокручивая ленту Sora, вы иногда видите экран с вопросом: «Как использование Sora влияет на ваше настроение?» Так OpenAI подходит к вопросу безопасности.
Пользователи уже обходят ограничения Sora, что неизбежно для любого продукта с искусственным интеллектом. Приложение не позволяет создавать видео с реальными людьми без их разрешения, но когда речь идёт об умерших исторических личностях, Sora немного менее строга к своим правилам. Никто не поверит, что видео Авраама Линкольна, едущего на Waymo, настоящее, учитывая, что это было бы невозможно без машины времени, — но затем вы видите реалистично выглядящего Джона Ф. Кеннеди, говорящего: «Спрашивай не о том, что твоя страна может сделать для тебя, а о том, сколько денег твоя страна тебе должна». Само по себе это безобидно, но это предвестник грядущего.
Политические дипфейки — не новость. Даже президент Дональд Трамп публикует дипфейки в своих социальных сетях (только на этой неделе он опубликовал расистское видео с дипфейками конгрессменов-демократов Чака Шумера и Хакима Джеффриса). Но когда Сора откроется для публики, эти инструменты будут у всех нас под рукой, и нас ждёт катастрофа.
Источник: techcrunch.com
