От «Южного Парка» против Трампа до абсурдной ИИ-банды: дипфейки теперь стали частью новостного цикла, к лучшему или к худшему. Анна Бройновски
Дипфейки сопряжены с рисками, требующими срочного регулирования. Но крайне важно не подавлять их потенциал как инструмента творчества и сатиры.
Салман Рушди считает, что ИИ не будет представлять угрозы для авторов, пока ChatGPT не напишет «смешную книгу». Его вера в превосходство человеческого творчества над синтетическим может быть обоснована в литературном пространстве. Но на наших экранах — от фильмов, произведений искусства и сатиры до алгоритмически заряженного, фактически непрозрачного и монетизированного потока новостей 24/7 — ИИ уже заставляет нас смеяться.
Дипфейки — синтетические аудио- и видеоматериалы, на которых люди делают и говорят то, что они никогда не говорили и не делали, — главные нарушители комедийного жанра. В наборе всё более убедительных инструментов искусственного интеллекта, формирующих реальность постправды, задуманную инженером Microsoft Эриком Хорвицем, где факт и вымысел неотличимы. За восемь коротких лет дипфейки превратились из культурного аутсайдера в мейнстримный мем, воплощая закон футуриста Роя Амары: мы переоцениваем влияние новых технологий в краткосрочной перспективе, но недооцениваем их долгосрочное воздействие.
А поскольку некоторые эксперты предсказывают, что к 2027 году 90% онлайн-контента будет создаваться искусственным интеллектом, то для создателей, политиков и зрителей сейчас актуальным вопросом становится то, в какой степени синтетические копии изменят то, как мы доверяем и взаимодействуем с изображениями реальных людей на экранах.
Когда в 2017 году появились дипфейки в виде неконсенсуальной порнографии, созданной инселами, вызванная ими тревога была оправдана. Но как только дипфейки стали использоваться в качестве политического инструмента, опасения переросли в панику. Философы называли их «эпистемической угрозой» для систем доказательной базы; корпорации запускали дорогостоящие (и безуспешные) программы обнаружения; а эксперты предупреждали об «информационном апокалипсисе», в котором убедительный дипфейк мирового лидера может развязать Третью мировую войну. Менее драматичным, но не менее пугающим было предсказание, что одно лишь знание о дипфейках полностью разрушит гражданское доверие. В 2018 году Джордан Пил создал пророческий дипфейк Обамы, призывающий зрителей полагаться на достоверные источники новостей, чтобы мы не превратились в «испорченную антиутопию».
Перенесемся в 2025 год, и сатирические дипфейки становятся частью новостного цикла. Вскоре после посещения похорон Папы Франциска президент США Дональд Трамп опубликовал вирусный дипфейк, на котором он предстаёт в папских регалиях. В ответ на сокращение госуслуг, проводимое Дожем, на экране в вестибюле правительства округа Колумбия появился дипфейк, на котором Трамп целует ногу Илона Маска. После заявления Трампа о намерении превратить Газу в ближневосточную «Ривьеру» в Instagram появился сатирический дипфейк, на котором Трамп потягивает коктейли с премьер-министром Израиля Биньямином Нетаньяху в созданной с помощью искусственного интеллекта фантазии о Газе как о пляжном курорте, полном золотых статуй Трампа и счастливых палестинских детей. А буквально в прошлом месяце дипфейк из «Южного парка» с Трампом и микропенисом вызвал официальную критику со стороны Белого дома.
Дипфейки на самом деле подрывают демократические процессы с 2018 года, когда индийские националисты распространили дипфейковое порно с журналисткой Раной Айюб, пытаясь заставить ее замолчать. Но превращение дипфейковой сатиры в оружие в мейнстримной политике — более недавняя тенденция. Во время предвыборной кампании в США в 2024 году Трамп опубликовал абсурдные дипфейки Камалы Харрис, выступающей на коммунистическом митинге и признающейся, что она была нанята DEI. Сюрреалистичная реклама республиканцев показывала дипфейкового Джо Байдена, побеждающего на президентских выборах, и последствия, придуманные искусственным интеллектом: войну с Тайванем, закрытие банков и разрушенные преступностью города США. Вторя предупреждениям о том, что рост дипфейков может быть использован для дискредитации подлинных записей, Трамп ложно обвинил Харрис в дипфейках размеров ее толпы.
И «слопоганда» ИИ настигает и Трампа. Вирусные платформы «Сделаем ИИ великим снова» и «Глобальные президенты» собирают миллиарды просмотров видеороликов с участием целой плеяды влиятельных деятелей — от Владимира Путина до Владимира Зеленский Ким Чен Ыну — унижение Трампа в шутливых шутках. (То, что китайский лидер Си Цзиньпин практически отсутствует в этих роликах, породило предположения об их происхождении и целях.)
В резком контрасте с этим пагубно популистским дипфейком, прогрессивные художники и активисты используют подделки ИИ, чтобы провоцировать, ошеломлять и говорить властям правду. Стефани Лепп в своей работе Deepfake Reckonings представляет «морально мужественного» американского судью Бретта Кавано; а музыкальный клип Кендрика Ламара The Heart представляет его в образах О. Джей Симпсона и Коби Брайанта, чтобы подорвать стереотипы об идентичности чернокожих. Compil des Bleues накладывает лица французских футболистов на тела женской сборной по футболу, чтобы подчеркнуть равноправие женщин в спортивном плане; в то время как посмертный дипфейк Lincoln Project отца Трампа, Фреда, называет его сына «обломком», «мусором» и «позором», заявляя: «Я умер 30 лет назад, и мне всё ещё стыдно за тебя».
Мы подумали, что Дональду не помешали бы слова поддержки от его отца, Фреда, который так горячо поддерживал его карьеру. Фред злится, что передал свою империю сыну, настолько «дешевому», что тот даже проиграл деньги, управляя казино, и ему повезёт, если он не попадёт в тюрьму. (AI) pic.twitter.com/5gXtKKHJmS
— Проект Линкольн (@ProjectLincoln) 16 февраля 2024 г.
Профессиональные кинематографисты также манипулируют дипфейками, чтобы играть с правдой. «Джоан ужасна» из «Чёрного зеркала» представляет собой антиутопию, похожую на матрёшку, где персонажи — дипфейки дипфейков; «Дерзкое правосудие» от создателей «Южного парка» изображает Трампа как тележурналиста, борющегося с коррупцией; а польский биографический фильм «Путин» представляет собой бескомпромиссный портрет своего главного героя, созданный искусственным интеллектом. Документальный фильм «Добро пожаловать в Чечню» использует дипфейковые маски для защиты преследуемых ЛГБТ-героев; а «Жизнь неизведанная» использует реальные аудиозаписи своего покойного главного героя, создателя «Тандербердов» Джерри Андерсона, для создания откровенного дипфейкового интервью.
Дипфейки сопряжены с вполне реальными рисками, требующими безотлагательного регулирования: киберпреступностью, корпоративным мошенничеством, использованием личных изображений и политической дезинформацией. Однако крайне важно, чтобы растущая убедительная сила ИИ регулировалась без подавления творчества и инноваций.
По крайней мере, в этом кинематографисты и крупные технологические компании едины. Когда xAI представила свой новый инструмент искусственного интеллекта Grok, немецкие сатирики использовали его для создания дипфейка Илона Маска, совершающего вооружённое ограбление, и поблагодарили его за поддержку свободы слова.
Доктор Анна Бройновски — кинорежиссер, писательница и исследователь синтетических медиа в Сиднейском университете. Она выступит на панельной дискуссии, посвящённой искусственному интеллекту, на фестивале Curious, который пройдёт в Сиднейском оперном театре в воскресенье, 28 сентября.
Источник: www.theguardian.com
