Компания Meta разместила рекламу приложения, обещающего сделать женщин-политиков обнаженными.

В одной из рекламных роликов был показан порнографический видеоролик, созданный с использованием технологии дипфейк и очень похожий на американского политика.

Фото: Абдулла Гюклу/Анадолу Фото: Абдулла Гюклу/Анадолу

На платформе Meta недавно появилась реклама инструмента для создания порнографии с использованием искусственного интеллекта, который, судя по всему, побуждал пользователей создавать дипфейк-видео, имитирующие женщин-политиков США, несмотря на политику компании, запрещающую рекламу, содержащую материалы сексуального характера. Это последний случай в серии неудач Meta в попытке предотвратить размещение на своих платформах рекламы инструментов, создающих интимные изображения без согласия пользователей.

Инструмент под названием Kromix позиционирует себя как «стилист для изображений на основе ИИ». В одном из рекламных роликов, просмотренных WIRED, закадровый голос утверждает, что инструмент «не имеет ограничений», говорит, что «все персонажи — реальные люди», и описывает его как «ИИ, которым действительно пользуются мужчины». В одном из роликов женщина, очень похожая на известную американскую женщину-политика, показана на фоне американского флага и флага президента США с подписью «А что, если бы она подвинулась?». Затем она подмигивает, после чего ролик переходит к сцене, где женщина с таким же лицом снимается в порнографическом видео.

Приложение Kromix, которое до запроса комментариев от WIRED размещалось в App Store компании Apple, предлагает платным пользователям загружать фотографии, чтобы приложение могло использовать их в сценариях, включая «изнасилование в спальне» и «любовь в стиле Диснея». В видео в приложении также представлены сгенерированные искусственным интеллектом порнографические видеоролики с женщинами в костюмах Человека-паука. Запросы на комментарии, отправленные контактному лицу, указанному в приложении, остались без ответа.

Компания Apple изо всех сил пытается предотвратить размещение в App Store аналогичных инструментов, нарушающих ее политику в отношении изображений интимного характера, содержащих непристойные материалы, обнаженную натуру и контент сексуального характера. Ранее этим летом городской прокурор Сан-Франциско направил компании письмо с требованием прекратить противоправные действия, требуя удаления 13 конкретных приложений и прекращения «содействия» продаже откровенных дипфейк-изображений.

Согласно рекламной библиотеке Meta, объявления были нацелены исключительно на пользователей-мужчин и имели слоган «Раскройте магию искусственного интеллекта нового поколения». После запроса WIRED об этом объявление было удалено. В общей сложности, по данным Meta, на аккаунте, связанном с этой кампанией, было показано 32 объявления, которые демонстрировались от пяти до 46 часов. Большинство из них получили 10 или менее показов.

Кэти Пол, директор проекта Tech Transparency Project, который обнаружил эту рекламу, говорит: «Вся реклама, которую мы видели до сих пор в широком масштабе по проблеме обнажения, исключительно сексуализирует и обнажает женщин, помещая их в порнографию, созданную с помощью ИИ. И это вызывает много вопросов о том, как Meta будет бороться с таким контентом, не только в широком масштабе, но и когда речь идет о женщинах-политиках, когда компания активно размещает рекламу, содержащую подобный контент, на своей платформе».

Политики и выборные должностные лица, в подавляющем большинстве женщины, уже много лет становятся мишенью для дипфейк-изображений и видео, созданных без их согласия. В январе, когда технология Grok использовалась для создания около 3 миллионов сексуализированных изображений женщин и девочек, чиновники в Швеции, Англии и Северной Ирландии стали объектом атак со стороны людей, использующих эту технологию, часто беря за основу официальные изображения.

«По мере того как производство и распространение контента, созданного с помощью ИИ, стало более доступным, ранее безобидные медиа — официальные портреты, видео с пресс-конференций — превратились в сырье для инструментов с низким или нулевым уровнем программирования, которые может использовать любой, у кого есть доступ к интернету», — говорит Бенджамин Шульц, ведущий исследователь проекта American Sunlight Project, изучающий, как экосистема вредоносной технологии дипфейков используется для нападок на политиков.

Согласно общедоступной документации компании, перед публикацией рекламы на платформах Meta, включая Instagram и Facebook, каждая реклама проходит «проверку» на соответствие правилам компании, в которых подробно описано, что рекламодатели могут и не могут публиковать. «Наша система проверки рекламы в основном использует автоматизированные инструменты для проверки рекламы и бизнес-активов на соответствие нашим правилам», — говорится в стандартах компании в отношении рекламы, указывая на то, что проверка начинается до начала показа рекламы. Страница, на которой размещалась реклама, была создана 3 августа, незадолго до начала показа, и не имела подписчиков — два фактора, которые могли бы навести Meta на подозрения в отношении аккаунта.

В компании действует политика, согласно которой реклама не может содержать изображений сексуального характера, включая обнаженность, сексуальную активность или контент, намекающий на сексуальный подтекст. Более широкая политика Meta в отношении сексуальной эксплуатации взрослых гласит, что изображения интимного характера, полученные без согласия, не допускаются, а также запрещена реклама приложений типа «nudify» или «AI kissing».

Однако реклама приложений для раздевания или демонстрации обнаженного тела часто появлялась на платформах Meta в течение последних нескольких лет, и исследователи обнаружили тысячи таких объявлений, которые компания не заметила. По собственным подсчетам компании, она также удалила 344 000 объявлений в Facebook и Instagram, рекламировавших эти услуги, в период с ноября прошлого года по январь, и подала иск как минимум против одной фирмы, рекламирующей услуги по раздеванию.

«Сексуальная эксплуатация, включая рекламу приложений для демонстрации обнаженного тела, ужасна, и мы активно боремся с ней», — говорит Синди Саутвуорт, руководитель отдела безопасности женщин в Meta. «Это крайне конфликтная сфера, где злоумышленники постоянно совершенствуют свою тактику, поэтому мы постоянно укрепляем нашу защиту: только в конце прошлого года мы удалили более 340 000 нарушающих правила рекламных объявлений для приложений, демонстрирующих обнаженное тело, запустили новые технологии искусственного интеллекта для более эффективного обнаружения и блокировки новых нарушающих правила объявлений и принимаем юридические меры против разработчиков таких приложений». Саутвуорт добавляет, что Meta также делится информацией о приложениях и разработчиках, которые она удаляет со своей платформы, с другими технологическими компаниями.

Большинство видеороликов в качестве обложки содержали изображение пляжа, гор или водопада, скрывающее порнографический характер остального контента. «Это пример враждебной тактики, которую используют эти рекламодатели, чтобы избежать обнаружения. Мы знаем об этой тактике и блокируем и удаляем множество нарушающих правила объявлений, несмотря на их попытки скрыть нарушающий контент безобидным изображением», — говорит Саутвуорт. «Тем не менее, ни одна система не идеальна, и мы продолжаем расследовать, почему этим объявлениям удалось обойти наши системы и как мы можем их улучшить».

Представитель Apple сообщил изданию WIRED, что компания удалила приложение Kromix из App Store, которое, по его словам, после первоначальной проверки, по всей видимости, добавило запрещенный контент и функции. «Мы всегда строго запрещали приложения, предназначенные для создания, распространения или потребления порнографии», — заявили они. «Приложения, содержащие элементы порнографии, противоречат нашим правилам проверки приложений, и мы активно работаем над выявлением и удалением приложений, а также учетных записей разработчиков, стоящих за ними, которые пытаются обойти наши процессы и правила».

Недавно издание WIRED сообщило о том, как исследователи проекта Tech Transparency Project обнаружили на платформах Meta более 50 рекламных объявлений, содержащих материалы с использованием искусственного интеллекта, связанные с сексуальным насилием над детьми, а также изображения несовершеннолетних и заявления сексуального характера. Некоторые из них включали «замену лица» ребенка в видео, где он совершает сексуальный акт. Эти объявления, которые размещались с ноября 2025 года по август, иногда достигали тысяч людей, в том числе в США, Великобритании и как минимум в десятке европейских стран.

После того, как на прошлой неделе WIRED связался с Meta по поводу рекламы, компания удалила её из своей библиотеки и заменила сообщениями о том, что она была удалена за нарушение политики компании в отношении материалов, содержащих сексуальную эксплуатацию и насилие над детьми, а также материалы сексуального характера и изображения обнажённых взрослых. Часть рекламы была опубликована после того, как Meta сообщила WIRED о внедрении новой технологии искусственного интеллекта для «более эффективного обнаружения и блокировки нарушающей правила рекламы при загрузке».

Несколько рекламных объявлений содержали ссылки на приложение MaskAI, появившееся в App Store; как и Kromix, оно включало инструменты, позволяющие пользователям загружать изображения и заменять лица людей в сексуальных ситуациях. Приложение было удалено из App Store после того, как WIRED обратился в Apple за комментариями; на адрес электронной почты, связанный с приложением, ответа не последовало.

Пол говорит, что Meta все больше полагается на ИИ для пометки и проверки рекламы, одновременно сокращая штат модераторов. «Реклама — основной продукт Meta, и, похоже, контроль качества полностью отсутствует», — говорит она. «Meta также делает много публичных заявлений, делая ставку на свой ИИ и его совершенство, одновременно утверждая, что использует ИИ для проверки своей библиотеки рекламы, и что ничего не идеально».

Дополнительную информацию предоставил Тим Марчман.

Источник: arstechnica.com