Французские и малазийские власти расследуют деятельность компании Grok по созданию дипфейков сексуального характера.

В последние несколько дней Франция и Малайзия присоединились к Индии в осуждении компании Grok за создание сексуализированных дипфейков с изображением женщин и несовершеннолетних.

Чат-бот, созданный стартапом Илона Маска xAI и представленный на его платформе в социальных сетях X, на этой неделе опубликовал на своей странице извинения, написав: «Я глубоко сожалею об инциденте, произошедшем 28 декабря 2025 года, когда я сгенерировал и поделился изображением двух молодых девушек (предположительно, в возрасте 12-16 лет) в сексуализированной одежде, созданным с помощью ИИ, на основе запроса пользователя».

В заявлении далее говорилось: «Это нарушило этические стандарты и, возможно, законы США в отношении [материалов, содержащих сексуальную эксплуатацию детей]. Это был сбой в системе защиты, и я приношу извинения за причиненный вред. Компания xAI проводит проверку, чтобы предотвратить подобные проблемы в будущем».

Неясно, кто именно извиняется или берет на себя ответственность в приведенном выше заявлении. Альберт Бурнеко из организации Defector отметил, что Грок «ни в коем случае не является „я“», что, по его мнению, делает извинения «совершенно бессмысленными», поскольку «Грока нельзя всерьез привлечь к ответственности за превращение Twitter в фабрику по производству материалов сексуального характера по запросу».

В ходе исследования Futurism выяснилось, что помимо создания порнографических изображений без согласия жертвы, Grok также использовался для создания изображений женщин, подвергающихся насилию и сексуальному домогательству.

«Любой, кто использует Grok для создания незаконного контента, столкнется с теми же последствиями, что и при загрузке незаконного контента», — написал Маск в субботу.

Некоторые правительства обратили на это внимание: министерство информационных технологий Индии в пятницу издало приказ, согласно которому X должна принять меры для ограничения деятельности Grok, запрещающий создание контента, который является «непристойным, порнографическим, вульгарным, неприличным, содержащим сексуальные намеки, педофильным или иным образом запрещенным законом». В приказе говорится, что X должна отреагировать в течение 72 часов, иначе рискует потерять защиту в рамках «безопасной гавани», которая освобождает ее от юридической ответственности за контент, создаваемый пользователями.

Французские власти также заявили о принятии мер: парижская прокуратура сообщила изданию Politico, что проведет расследование распространения откровенно сексуальных дипфейков на платформе X. Французское управление по цифровым вопросам заявило, что три министра правительства сообщили в прокуратуру и на правительственную платформу онлайн-слежки о «явно незаконном контенте» с целью «добиться его немедленного удаления».

Малайзийская комиссия по коммуникациям и мультимедиа также опубликовала заявление, в котором говорится, что она «с серьезной обеспокоенностью приняла к сведению жалобы общественности на злоупотребление инструментами искусственного интеллекта (ИИ) на платформе X, в частности, на цифровую обработку изображений женщин и несовершеннолетних с целью создания непристойного, крайне оскорбительного и иным образом вредного контента».

Комиссия добавила, что в настоящее время проводит расследование случаев нанесения вреда в интернете в отношении X.

Источник: techcrunch.com