В иске говорится, что система xAI Илона Маска использовала детскую порнографию для обучения моделей Grok.

Компания xAI обвиняется в обучении робота Grok на основе реальной и созданной искусственным интеллектом детской порнографии.

На Таймс-сквер в Нью-Йорке установлена надувная фигура генерального директора SpaceX Илона Маска, протестующая против его искусственного интеллекта Grok. Фото: CHARLY TRIBALLEAU / Contributor | AFP

Теперь компанию xAI обвиняют в обучении программы Grok работе с материалами, содержащими сцены сексуального насилия над детьми (CSAM), в то время как регулирующие органы и суды продолжают расследование масштабов проблемы, а некоторые пользователи Grok были арестованы.

В жалобе, поданной в среду, истица, известная как Джейн Доу, объяснила, что в начале 2000-х годов, когда она была дошкольного возраста, взрослые мужчины неоднократно насиловали ее, чтобы создать материалы сексуального характера для продажи педофилам в интернете. С тех пор изображения Доу были подвергнуты хакерской атаке такими организациями, как Национальный центр по розыску пропавших и подвергшихся эксплуатации детей (NCMEC) и Канадский центр защиты детей (CCCP).

В целях собственной безопасности Доу решила получать оповещения от системы уведомления жертв преступлений Министерства юстиции США всякий раз, когда она может стать жертвой нового уголовного расследования. Несмотря на то, что она получила бесчисленное количество оповещений, она была шокирована, когда CCCP уведомила её об обнаружении сгенерированного ИИ сексуального характера (CSAM) на платформе xAI, на котором изображена она. Это повторно травмировало Доу, которая подала жалобу, утверждая, что на онлайн-форумах были обнаружены сообщения «между преступниками, обсуждавшими создание сгенерированного ИИ сексуального характера с участием истца и других известных жертв сексуального характера, находящихся в аналогичном положении».

Теперь Доу опасается, что xAI не только упростил создание более жестоких изображений самого травмирующего периода в её жизни, но и якобы сохранил изображения, генерируемые Grok, и использует эти данные для дальнейшего обучения Grok. Из-за этого она считает, что Grok обучался как на первоначальном наборе изображений, которые преследовали её более 20 лет, так и на более поздних изображениях, сгенерированных ИИ.

Это первый случай, когда xAI обвиняют в обучении на CSAM (изображениях сексуального характера, связанных с чужими сексуальными материалами), и в жалобе это утверждение не вдается в подробности. Ранее Ars сообщал о спорном наборе данных, который впоследствии был удален после того, как исследователи обнаружили CSAM в обучающих данных, но нет никаких указаний на то, что xAI обучался на этих данных. В пресс-релизе, подготовленном юристами, представляющими интересы Доу, поясняется, что изображения Доу были включены в список хешей CSAM, поддерживаемый NCMEC, и «тот же материал» якобы «был частью набора данных, который xAI использовал для создания возможностей Grok по генерации изображений и видео». В жалобе также утверждается лишь, что «CSAM, изображающий истца с его давно известными значениями хешей, использовался как часть набора данных, используемого xAI».

Однако более подробная информация содержится в заявлениях о том, что Grok проходит обучение на основе искусственного интеллекта CSAM.

«Поскольку условия Grok по умолчанию рассматривают публичные публикации X и собственные результаты Grok как обучающие данные, публичная публикация изображения не только показывает его зрителям, но и напрямую передает его в конвейер, используемый xAI для обучения и улучшения своей модели и, следовательно, для генерации новых изображений», — говорится в жалобе Доу.

В иске также отмечалось, что, хотя xAI фильтрует контент, содержащий насилие, в выходных данных Grok, чтобы исключить его из обучающих данных, в условиях xAI, в частности, не указано, относятся ли к «исключенным категориям» материалы сексуального характера, изображения интимного характера, полученные без согласия (NCII), или материалы, не предназначенные для просмотра несовершеннолетними (NSFW).

Из этого следует, что «поскольку полное удаление влияния обучающего примера из уже обученной модели технически сложно и не является чем-то, что xAI публично заявляла о выполнении, любой контент CSAM, добавленный в обучающую модель до удаления, вероятно, продолжал формировать выходные данные модели даже после того, как исходные изображения были удалены из публичного доступа», — говорится в жалобе Доу.

«Уничтожьте все материалы сексуального характера, связанные с Grok», — говорит Доу.

В своем предлагаемом коллективном иске Доу стремится положить конец вредоносной деятельности Grok. В случае одобрения, группа будет представлять интересы всех жертв, чьи детские фотографии были использованы для создания материалов сексуального характера с участием Grok.

В иске X обвиняется в нарушении федеральных законов о детской порнографии, а также Закона Маши, которые предоставляют жертвам сексуального насилия над детьми право подавать иски по обвинениям в производстве, хранении и распространении материалов. Адвокат Доу, Маргарет Э. Мэби, в пресс-релизе предположила, что все три преступления являются правонарушениями и что «xAI совершил все три».

Если Доу выиграет дело, xAI может быть обязана выплатить денежную компенсацию каждой жертве, которая сможет доказать, что Grok создавал материалы сексуального характера на основе их реальных фотографий. Доу также попросила суд обязать xAI уничтожить все материалы сексуального характера, созданные Grok, которые могут храниться на серверах компании и использоваться для обучения моделей Grok. Кроме того, она хочет, чтобы xAI заблокировала возможность создания Grok материалов сексуального характера, что, как указано в ее жалобе, потребует блокировки Grok от любых материалов сексуального характера, включая материалы NCII и NSFW («фотографии в бикини»), которые продвигал Маск.

Сара Лондон, одна из адвокатов Доу, заявила в пресс-релизе, что Доу «почти два десятилетия жила, зная, что изображения самого ужасного, что с ней когда-либо случалось, циркулируют среди хищников в интернете и могут всплыть в любой момент. Компания xAI должна понести ответственность за то, что сознательно обучала свои модели на изображениях ужасного насилия, которому она подверглась, а также на изображениях насилия над всеми остальными жертвами из этой группы».

Представитель X не ответил на запрос Ars о комментарии.

Источник: arstechnica.com