WTF: xAI обвиняют в том, что Grok обучали на материалах…

WTF: xAI обвиняют в том, что Grok обучали на материалах с детской порнографией. Теория всплыла после того, как одна из жертв подала в суд на компанию.

Дело в том, что материалы с пострадавшей до сих пор лежат в сети. Благодаря хэш-меткам, которые используются для блокировки, фото и видео с ней регулярно удаляются, но недавно жертва получила уведомление: кроме старых материалов появились новые.

Grok сгенерил откровенные фото с её участием. После этого расследование выяснило:

🔤xAI скормили своей нейронке часть материалов с несовершеннолетней девушкой и даже не застопорили обучения, хоть у них были хэши, которые нужно удалять из дата-сета;
🔤Юзеры даркнета обошли слабые настройки цензуры Grok и нагенерили новые материалы на основе реальных фото и видео;
🔤При каждой генерации Grok кидал вводные данные с результатом в свой дата-сет для обучения.

Теперь юристы говорят, что у xAI нет правил о фильтрации ЦП, а Grok не может «забыть» то, на чём обучался.

Девушка же хочет признать иск коллективным и подключить иных жертв, чьи детские фото ИИ использовали для генерации. Главная просьба — удаление всех материалов и компенсация морального вреда.

Не знали мы о таком увлечении Грока…