Когда кто-то может подделывать реальность, общество не может самоуправляться. Заимствование подхода Дании могло бы помочь США восстановить подотчетность в борьбе с глубокими подделками
Генеративный искусственный интеллект теперь может подделывать реальность в промышленных масштабах. Глубокие подделки — фотографии, видео и аудиозаписи, которые используют искусственный интеллект для создания убедительных, но полностью сфабрикованных представлений о людях или событиях — это не просто проблема интернет-контента; это проблема социального порядка. Способность искусственного интеллекта создавать слова и изображения, которые кажутся реальными, но не угрожают обществу, критическому мышлению и стабильности цивилизации. Общество, которое не знает, что такое реальность, не может осуществлять самоуправление.
Нам нужны законы, которые ставят во главу угла человеческое достоинство и защищают демократию.Дания подает пример. В июне правительство Дании предложило внести поправку в закон об авторском праве, которая предоставила бы людям права на собственное лицо и голос. Это запретило бы создание подделок человека без его согласия и повлекло бы за собой последствия для тех, кто нарушает это правило. Это юридически закрепило бы принцип, согласно которому вы являетесь владельцем себя .
Что делает подход Дании эффективным, так это страх корпораций перед законностью нарушения авторских прав. В исследовании, загруженном на сервер препринтов arXiv.org в 2024 году исследователи опубликовали на X 50 фейков с обнаженной натурой и сообщили о них платформе двумя способами: 25 — как о жалобах на авторские права и 25 — как о наготе без обоюдного согласия в соответствии с политикой X. X быстро удалил претензии по авторским правам, но не устранил ни одного нарушения конфиденциальности личных данных. Юридические права были защищены, конфиденциальность — нет.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Нам нужны законы, которые ставят во главу угла человеческое достоинство и защищают демократию.
Предлагаемое дополнение к датскому законодательству предоставит жертвам подделок права на удаление и компенсацию, что важно, поскольку ущерб, который наносят подделки, не является гипотетическим. Люди, создающие фейки, эксплуатируют жертв ради денег, сексуальных услуг или контроля; некоторые из видеороликов привели к самоубийствам — наиболее четко это зафиксировано в ряде случаев, когда жертвами мошенников становятся мальчики-подростки. Однако большинство из них нацелены на женщин и девочек. Исследователи обнаружили, что 96% подделок не по обоюдному согласию и что 99% сексуальных подделок изображают женщин.
Эта проблема широко распространена и продолжает расти. В ходе опроса, в котором приняли участие более 16 000 человек в 10 странах, 2,2 процента из них сообщили, что стали жертвами поддельной порнографии. В первой половине 2025 года Фонд Internet Watch Foundation задокументировал 210 веб-страниц с подделками сексуального насилия над детьми, созданными с помощью искусственного интеллекта, что на 400 процентов больше, чем за аналогичный период 2024 года. И если за первые шесть месяцев 2024 года было зарегистрировано всего два видеоролика с сексуальным насилием над детьми, снятых с помощью искусственного интеллекта, то за первую половину 2025 года было зарегистрировано 1286 видеороликов. В 1006 из них отвратительные действия были показаны с таким реализмом, что их невозможно было отличить от видео с участием реальных детей.
Глубокие подделки также угрожают демократии. За несколько месяцев до президентских выборов в США в 2024 году Илон Маск опубликовал на X фальшивое видео, в котором вице-президент Камала Харрис называет себя сотрудницей по вопросам разнообразия, которая «не знает» самого главного об управлении страной». Эксперты определили, что контент нарушает закон X. собственные правила для синтетических МЕДИА, но Маск принял это за пародию, и пост остался в силе.
Даже финансовые системы подвержены риску. В 2024 году преступники использовали поддельное видео, чтобы выдать себя за руководителей инжиниринговой компании во время прямого эфира, убедив сотрудника в Гонконге перевести около 25 миллионов долларов на счета, принадлежащие преступникам. В недавнем отчете компании Resemble.ai, специализирующейся на голосовых технологиях, управляемых искусственным интеллектом, сообщается о 487 атаках с использованием искусственного интеллекта во втором квартале 2025 года, что на 41% больше, чем в предыдущем квартале, и всего за три месяца убытки составили около 347 миллионов долларов.
Несмотря на все это, США добиваются прогресса. Принятый в этом году двухпартийный закон «Об удалении» (TAKE IT DOWN) квалифицирует как федеральное преступление публикацию или угрозу публикации интимных изображений без согласия сторон, включая глубокие подделки, и дает платформам 48 часов на удаление контента и пресечение дублирования. Штаты тоже принимают меры. В Техасе введена уголовная ответственность за вводящие в заблуждение видеоролики с использованием искусственного интеллекта, предназначенные для влияния на выборы; в Калифорнии действуют законы, обязывающие платформы обнаруживать, маркировать и удалять вводящий в заблуждение контент с использованием искусственного интеллекта; а в Миннесоте принят закон, позволяющий возбуждать уголовные дела против любого, кто создает сексуальные фейки без согласия сторон или использует их для влияния на выборы. Другие штаты могут вскоре присоединиться к ним.
Но ни одна из этих попыток не заходит достаточно далеко; мы должны принять федеральный закон, защищающий право человека на свой образ и высказывание. Это дало бы людям законные основания требовать быстрого удаления фальшивок и право подать в суд на возмещение существенного ущерба. Предлагаемый закон «БЕЗ ПОДДЕЛОК» (который расшифровывается как «Берегите оригиналы, поощряйте искусство и обеспечивайте безопасность развлечений») защитит исполнителей и общественных деятелей от несанкционированных подделок, но он должен охватывать всех людей. Введенный в действие Закон о защите выборов от искусственного интеллекта, который запретил бы подделку федеральных кандидатов, был бы более эффективным, чем набор законов штата, уязвимых для проблем с первой поправкой — таких, как вызывающая глубокую тревогу попытка X заблокировать закон Миннесоты о подделке.
За рубежом Закон ЕС об искусственном интеллекте требует, чтобы синтетические материалы можно было идентифицировать по маркировке или другим признакам происхождения. А в соответствии с Законом о цифровых услугах крупные платформы, работающие в Европе, должны противодействовать манипулированию СМИ. США должны принять аналогичное законодательство.
Нам также необходимо противостоять фабрикам насилия — сайтам и приложениям «обнаженной натуры», предназначенным для создания откровенных подделок сексуального характера. Городской прокурор Сан-Франциско принудительно отключил несколько таких сайтов, а калифорнийский законопроект AB 621 направлен против компаний, предоставляющих услуги такого рода сайтам. Meta подала в суд на компанию, создавшую приложения nudify, которые рекламировались на ее платформах.
Развитие технологии глубокой подделки показало, что добровольная политика потерпела неудачу; компании не будут контролировать себя до тех пор, пока не станет слишком дорого обходиться без этого. Вот почему подход Дании не просто инновационный, он важен. Ваше изображение должно принадлежать вам. Любой, кто использует его в своих целях без вашего разрешения, нарушает закон. Никакое законодательство не остановит любую подделку. Однако мы можем обеспечить соблюдение базовых принципов подотчетности, которые предотвратят погружение нашего общества в хаос.
