Индонезия и Малайзия заблокировали Грока из-за сексуальных дипфейков без согласия

Представители Индонезии и Малайзии заявили о временной блокировке доступа к чат-боту Grok от компании xAI.

Это самые решительные на данный момент действия правительственных чиновников в ответ на поток сексуализированных изображений, созданных с помощью ИИ, — часто изображающих реальных женщин и несовершеннолетних, а иногда и сцены насилия, — опубликованных Grok в ответ на запросы пользователей социальной сети X. (X и xAI являются частью одной компании.)

В заявлении, распространенном в субботу среди Guardian и других изданий, министр связи и цифровых технологий Индонезии Меутья Хафид заявил: «Правительство рассматривает практику создания дипфейков сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве».

По имеющимся данным, министерство также вызвало на совещание нескольких чиновников для обсуждения этого вопроса.

Как сообщила газета New York Times, правительство Малайзии объявило об аналогичном запрете в воскресенье.

За прошедшую неделю правительство Индии отреагировало на ситуацию по-разному: министерство информационных технологий обязало компанию X принять меры для предотвращения создания компанией Grok непристойного контента, а Европейская комиссия обязала компанию сохранить все документы, связанные с Grok, что потенциально может стать поводом для расследования.

В Соединенном Королевстве регулятор связи Ofcom заявил, что проведет «оперативную оценку, чтобы определить, существуют ли потенциальные проблемы с соблюдением нормативных требований, требующие расследования». Премьер-министр Кир Стармер в интервью Ofcom заявил, что «полностью поддерживает принятие мер».

И хотя в Соединенных Штатах администрация Трампа, похоже, хранит молчание по этому вопросу (генеральный директор xAI Илон Маск является крупным спонсором Трампа и в прошлом году возглавлял спорное Министерство эффективности государственного управления), сенаторы-демократы призвали Apple и Google удалить X из своих магазинов приложений.

Первоначально xAI отреагировала, опубликовав на аккаунте Grok извинение, по-видимому, от первого лица, признав, что публикация «нарушила этические нормы и, возможно, законы США» в отношении материалов, содержащих сексуальное насилие над детьми. Позже компания ограничила доступ к функции генерации изображений с помощью ИИ только для платных подписчиков X, хотя это ограничение, похоже, не затронуло само приложение Grok, которое по-прежнему позволяло любому пользователю генерировать изображения.

В ответ на пост, в котором задавался вопрос, почему правительство Великобритании не принимает мер против других инструментов генерации изображений на основе ИИ, Маск написал: «Им нужен любой повод для цензуры».

Этот пост был впервые опубликован 11 января. В него внесены изменения с учетом запрета на продажу Grok в Малайзии.

Источник: techcrunch.com