В среду Илон Маск заявил, что ему «неизвестно о каких-либо изображениях обнаженных несовершеннолетних, созданных Grok», за несколько часов до того, как генеральный прокурор Калифорнии начал расследование в отношении чат-бота xAI по факту «распространения материалов сексуального характера, полученных без согласия».
Опровержение Маска прозвучало на фоне растущего давления со стороны правительств по всему миру — от Великобритании и Европы до Малайзии и Индонезии — после того, как пользователи X начали просить Grok превратить фотографии реальных женщин, а в некоторых случаях и детей, в изображения сексуального характера без их согласия. Платформа Copyleaks, занимающаяся обнаружением и контролем контента с помощью ИИ, подсчитала, что на X каждую минуту публиковалось примерно одно изображение. Отдельная выборка, собранная с 5 по 6 января, выявила 6700 таких изображений в час за 24 часа. (X и xAI являются частью одной компании.)
«Этот материал… использовался для преследования людей в интернете», — заявил генеральный прокурор Калифорнии Роб Бонта в своем заявлении. «Я призываю xAI немедленно принять меры, чтобы это не продолжалось».
Генеральная прокуратура проведет расследование того, нарушила ли компания xAI закон и каким образом.
Существует ряд законов, защищающих жертв распространения изображений сексуального характера без согласия и материалов, связанных с сексуальным насилием над детьми (CSAM). В прошлом году был принят федеральный закон «Take It Down Act», который криминализирует умышленное распространение интимных изображений без согласия — включая дипфейки — и обязывает такие платформы, как X, удалять подобный контент в течение 48 часов. В Калифорнии также действует собственный ряд законов, подписанных губернатором Гэвином Ньюсомом в 2024 году для борьбы с дипфейками сексуального характера.
В конце года Grok начал выполнять запросы пользователей на X на создание сексуализированных фотографий женщин и детей. Похоже, эта тенденция получила распространение после того, как некоторые создатели контента для взрослых попросили Grok создать сексуализированные изображения самих себя в качестве маркетинговой уловки, что затем привело к тому, что другие пользователи стали подавать аналогичные запросы. В ряде публичных случаев, включая таких известных личностей, как актриса сериала «Очень странные дела» Милли Бобби Браун, Grok отвечал на запросы об изменении реальных фотографий реальных женщин путем изменения одежды, положения тела или физических особенностей в откровенно сексуальном ключе.
Согласно некоторым сообщениям, xAI начала внедрять меры защиты для решения этой проблемы. Теперь Grok требует премиум-подписку, прежде чем отвечать на определенные запросы на генерацию изображений, и даже в этом случае изображение может не быть сгенерировано. Эйприл Козен, вице-президент по маркетингу Copyleaks, сообщила TechCrunch, что Grok может выполнять запрос в более общем или смягченном виде. Она добавила, что Grok, похоже, более лояльно относится к создателям контента для взрослых.
«В целом, такое поведение указывает на то, что X экспериментирует с множеством механизмов для уменьшения или контроля проблемной генерации изображений, хотя несоответствия сохраняются», — сказал Козен.
Ни xAI, ни Маск публично не прокомментировали проблему напрямую. Через несколько дней после начала инцидентов Маск, похоже, отнесся к ситуации легкомысленно, попросив Grok сгенерировать изображение себя в бикини. 3 января в аккаунте xAI, посвященном безопасности, было заявлено, что компания принимает «меры против незаконного контента на xAI, включая [CSAM]», не упомянув конкретно об очевидном отсутствии мер защиты у Grok или создании сексуализированных, отредактированных изображений с участием женщин.
Эта позиция отражает то, что Маск опубликовал сегодня, делая акцент на незаконности и поведении пользователей.
Маск написал, что ему «неизвестно ни об одном изображении несовершеннолетних в обнаженном виде, созданном Grok. Буквально ноль». Это заявление не отрицает существования фотографий в бикини или сексуализированных изображений в целом.
Майкл Гудьир, доцент Нью-Йоркской юридической школы и бывший юрист, заявил TechCrunch, что Маск, вероятно, сосредоточил внимание исключительно на сексуальном насилии над детьми, поскольку наказания за создание или распространение искусственных изображений детей сексуального характера более суровы.
«Например, в Соединенных Штатах распространитель или лицо, которому угрожает распространение материалов сексуального характера, может быть приговорено к тюремному заключению сроком до трех лет в соответствии с Законом о прекращении распространения таких материалов, по сравнению с двумя годами за распространение изображений сексуального характера без согласия», — сказал Гудьир.
Он добавил, что «главный смысл» заключается в попытке Маска привлечь внимание к проблемному пользовательскому контенту.
«Очевидно, что Grok не генерирует изображения спонтанно. Он делает это только по запросу пользователя», — написал Маск в своем сообщении. «Когда его просят сгенерировать изображения, он отказывается создавать что-либо противозаконное, поскольку принцип работы Grok — соблюдать законы любой страны или штата. Бывают случаи, когда злонамеренное взлом запросов Grok может привести к неожиданным результатам. В этом случае мы немедленно исправляем ошибку».
В целом, в сообщении эти инциденты характеризуются как редкие, объясняются запросами пользователей или враждебными действиями и представляются как технические проблемы, которые можно решить с помощью исправлений. При этом в нем не признаются какие-либо недостатки в базовой системе безопасности Grok.
«Регуляторы могут рассмотреть возможность, уделяя внимание защите свободы слова, обязать разработчиков ИИ принимать упреждающие меры для предотвращения распространения подобного контента», — сказал Гудьир.
Издание TechCrunch обратилось к компании xAI с вопросом о том, сколько раз ей удавалось выявить случаи сексуальной обработки изображений женщин и детей без их согласия, какие именно меры предосторожности были изменены и уведомила ли компания регулирующие органы об этой проблеме. TechCrunch обновит статью, если компания ответит.
Генеральный прокурор Калифорнии — не единственный регулятор, пытающийся привлечь xAI к ответственности за эту проблему. Индонезия и Малайзия временно заблокировали доступ к Grok; Индия потребовала от xAI немедленно внести технические и процедурные изменения в Grok; Европейская комиссия обязала xAI сохранить все документы, связанные с чат-ботом Grok, что стало предпосылкой для начала нового расследования; а британский орган по надзору за онлайн-безопасностью Ofcom начал официальное расследование в соответствии с Законом Великобритании об онлайн-безопасности.
Ранее xAI уже подвергался критике за использование в Grok изображений сексуального характера. Как отметила AG Bonta в своем заявлении, Grok включает в себя «пикантный режим» для генерации откровенного контента. В октябре обновление еще больше упростило взлом и без того скудных мер безопасности, в результате чего многие пользователи стали создавать с помощью Grok хардкорную порнографию, а также графические и жестокие сексуальные изображения.
Многие из порнографических изображений, созданных Гроком, содержат изображения людей, сгенерированных искусственным интеллектом — что многие могут по-прежнему считать этически сомнительным, но, возможно, менее вредным для людей, изображенных на этих изображениях и видео.
«Когда системы искусственного интеллекта позволяют манипулировать изображениями реальных людей без явного согласия, последствия могут быть незамедлительными и носить глубоко личный характер», — заявил соучредитель и генеральный директор Copyleaks Алон Ямин в заявлении, отправленном по электронной почте TechCrunch. «От Sora до Grok мы наблюдаем стремительный рост возможностей ИИ в области манипулирования медиаконтентом. В связи с этим, обнаружение и контроль необходимы сейчас как никогда, чтобы предотвратить злоупотребления».
Источник: techcrunch.com
