Двое мужчин арестованы за создание дипфейкового порно с использованием искусственного интеллекта

Помимо хорошо известного воздействия генеративного ИИ на окружающую среду и человеческую психику, он также несет огромное социальное бремя. Дипфейки — измененный в цифровом формате контент, неотличимый от реальной жизни — распространились на фоне бума искусственного интеллекта, превратив Интернет в ядовитую жижу полуправды и дезинформации.

Это также способствовало значительному росту цифровых сексуальных преступлений через дипфейковое порно с реальными людьми. В одном из недавних опросов 557 подростков в США более 36 процентов сообщили, что кто-то с помощью ИИ без их согласия создал порнографическое изображение (вызывает тревогу тот факт, что более 55 процентов сообщили, что использовали ИИ для личного создания дипфейкового порно). Нет сомнений в том, что быстрый рост этой технологии способствовал массовому росту сексуального шантажа, сексуализации без согласия и сексуального насилия над детьми материал.

В отличие от Европейского Союза и Китая, официальные лица в США не спешат реагировать, хотя два новых федеральных дела могут указывать на перемену ветра. По данным агентства Associated Press, федеральные прокуроры Бруклина предъявили обвинение двум мужчинам в создании дипфейкового порно в соответствии с новым двухпартийным законом.

Мужчины, которых зовут Корнелиус Шеннон из Нью-Джерси и Артуро Эрнандес из Техаса, предположительно создали и разместили тысячи изображений и видео, на которых изображены актрисы, певицы, политические деятели и женщины, не являющиеся знаменитостями, в сексуальных ситуациях. Согласно пресс-релизу Министерства юстиции, эти двое не сотрудничали друг с другом, а управляли отдельными группами по распространению дипфейкового порно.

В общей сложности Министерство юстиции выявило примерно 473 альбома, содержащих 140 различных жертв, все из которых женщины. В частности, “контент, опубликованный Эрнандесом, был просмотрен почти миллион раз” федеральные прокуроры утверждают.

“Этот случай ясно показывает, что размещение дипфейковой порнографии не является преступлением без потерпевших,” Прокурор США Джозеф Носелла заявил в пресс-релизе: «И наш офис будет преследовать преступников, которые занимаются этим предосудительным поведением, используя все юридические ресурсы, которые может использовать федеральное правительство, включая новые полномочия, предоставленные Конгрессом для борьбы с этими возникающими формами психологического, репутационного и финансового насилия».

Хотя любая эскалация против создателей дипфейкового порно — это отрадная новость, эти двое — всего лишь второй и третий предполагаемые преступники, которым предъявлены обвинения по двухпартийному закону “Take It Down” Закон, который президент Трамп подписал еще в апреле 2025 года. Их максимальное наказание? Всего два года тюремного заключения.

Подробнее об ИИ: Мошенники в ярости от того, что их коллеги-преступники используют ИИ, и говорят, что это неэтично

Пост «Двое мужчин арестованы за создание ИИ-дипфейкового порно» впервые появился на Futurism.

Источник: futurism.com