Система xAI Илона Маска пытается избежать судебного разбирательства с Grok.

Маск защищает Grok, заявляя, что запрет на приложения для создания обнаженного тела в Миннесоте является неконституционным.

Публикация Илона Маска в приложении X, демонстрирующая результат работы Grok, на котором Маск изображен в бикини. Фото: Леон Нил / Staff | Getty Images News.

Компания xAI Илона Маска пытается избежать ответственности за инцидент с Grok, поскольку аресты пользователей Grok, обвиняемых в создании материалов с изображением сексуального насилия над детьми (CSAM), спровоцировали судебные иски со стороны детей против xAI с целью заставить компанию внести изменения в инструмент для блокировки вредоносных результатов.

В начале этого месяца компания xAI начала подавать в суд на пользователей, которые, предположительно, обходят ее системы защиты для создания контента, являющегося объектом сексуального насилия над детьми, с использованием ИИ. По всей видимости, она надеется, что досрочная победа в суде гарантирует ей освобождение от ответственности за якобы созданный пользователями контент.

В качестве следующего шага производитель Grok сослался на этот иск в жалобе, поданной в понедельник, обвинив Миннесоту в попытке навязать изменения Grok и Grok Imagine путем введения запрета на технологию обнажения, который гарантировал бы ответственность xAI за вредоносные результаты, а также за результаты, которые якобы не содержали сексуализации людей без согласия. По мнению xAI, подача иска против пользователя Grok является доказательством того, что xAI уже делает все возможное для наказания нарушителей, и поэтому Grok заслуживает защиты от запрета Миннесоты.

Закон штата Миннесота, который должен вступить в силу 1 августа, угрожает таким компаниям, как xAI, штрафами в размере до 500 000 долларов за каждый обнаруженный в штате вредоносный контент. Как объяснила xAI, эта сумма быстро накапливается, учитывая, что некоторые пользователи Grok обвиняются в создании тысяч изображений отдельных жертв. Совсем недавно, на прошлой неделе, xAI подали в суд после того, как они сообщили полиции о известном детском фотографе из Арканзаса, который, предположительно, использовал Grok для сексуализации изображений, сделанных им сотен клиентов. В жалобе 10-летней Джейн Доу утверждается, что фотограф сделал сотни изображений Доу и тысячи изображений и видео других детей. Адвокат Доу сообщил Ars, что многие из этих детей готовятся подать собственные иски, и эти претензии могут быть добавлены к потенциальному коллективному иску, поданному в марте молодыми девушками из Теннесси.

Произведя необходимые расчеты, компания xAI, по-видимому, запаниковала, заявив, что штрафовать разработчиков инструментов ИИ за каждый результат чрезмерно, особенно учитывая, что закон штата Миннесота не содержит требований к распространению и потенциально может оштрафовать xAI за изображения, которые видел только пользователь:

«Компания, пользователи которой запрашивают всего десять изображений в нарушение закона, может столкнуться с гражданскими штрафами на сумму до 5 миллионов долларов. Компания, создавшая тысячу изображений, нарушающих закон, может быть оштрафована на сумму до 500 миллионов долларов. А предприятие, пользователи которого создали сто тысяч изображений, подпадающих под действие [закона] (что совсем не удивительно для общедоступной программы с миллионами пользователей, генерирующих миллиарды изображений), может быть должно ошеломляющие 50 миллиардов долларов».

Кроме того, закон предоставляет пострадавшим право подавать в суд на xAI по поводу любого отдельного результата их работы, что увеличивает финансовые риски xAI.

В своем иске компания xAI заявила, что санкции настолько суровы, что после более чем шести месяцев критики и расследований, оказывавших давление на компанию с целью ужесточения мер защиты, она наконец-то готовится обновить Grok, чтобы блокировать вредоносный контент.

«Столкнувшись со строгой ответственностью в размере 500 000 долларов за каждое изображение и отсутствием защиты от ответственности, у xAI нет иного выбора, кроме как ограничить возможности редактирования изображений Grok Imagine различными способами после вступления закона в силу 1 августа 2026 года», — заявила xAI. «Таким образом, свобода слова, доступная до вступления закона в силу, будет ограничена».

Однако, как говорится в жалобе, компания xAI предпочла бы оставить Grok без изменений и продолжать полагаться на свои условия использования, предусматривающие возможность блокировки пользователей за использование Grok для создания материалов сексуального характера, насилующих женщин (CSAM), или других видов интимных изображений, полученных без согласия (NCII).

«Если бы не [закон] и предусмотренные им санкции, компания xAI продолжала бы предоставлять функцию редактирования в том же виде, в каком она существует сегодня», — заявили в xAI.

Закон о наготе неконституционен, утверждает xAI.

В защиту Grok компания Маска ссылается на Первую поправку к Конституции США, утверждая, что закон Миннесоты — это «неуклюжая попытка запретить „обнажение“», которая «охватывает широкий спектр полностью защищенной свободы слова». По мнению xAI, это включает в себя изображения обнаженного тела, созданные с «художественной, научной, политической, сатирической, образовательной, медицинской или религиозной целью».

Вопиюще вопиющим является то, что «ответственность возникает даже в том случае, если изображенные лица дали согласие или сами создали изображение, и даже если изображение никогда не было распространено», — подчеркнула компания xAI в своей жалобе.

Как утверждает xAI, в Миннесоте существуют менее ограничительные меры для предотвращения вреда, причиняемого обнаженным контентом, и в то же время закон Take It Down Act уже защищает пользователей от вреда, причиняемого распространением такого контента.

Если суд согласится с этим, штату Миннесота может быть запрещено применять этот закон в отношении любого приложения для получения обнаженного тела.

Без такого судебного запрета, как утверждала компания xAI, «поставщикам услуг, возможно, не останется ничего другого, кроме как изменить свои услуги в Миннесоте, чтобы не рисковать тем, что пользователи обойдут их контроль». «А это затруднит все виды использования инструментов генерации изображений на основе ИИ, включая те, которые [закон] не призван регулировать».

Однако в Миннесоте считают, что имеют право блокировать изображения на этапе их распространения, прежде чем они причинят детям вред на всю жизнь. В ответ на запрос о комментарии офис генерального прокурора Миннесоты Кейта Эллисона предоставил изданию Ars заявление, подтверждающее, что Миннесота, вероятно, будет защищать закон, чтобы предотвратить распространение отвратительных материалов, которые, как утверждают иски, травмируют жертв и их семьи по всей стране.

«Мы ждем вручения искового заявления и ответа в суде», — сказал Эллисон. «Но я знаю, что использование ИИ для создания обнаженных изображений людей против их воли — это ужасно. Есть множество важных дискуссий о политике в отношении ИИ. Но это не одна из них. Создание обнаженных изображений с помощью ИИ лишает человека достоинства и может причинить огромный вред на эмоциональном, личном и профессиональном уровнях».

Компания xAI не ответила на запрос Ars о комментарии.

По данным xAI, бёдра и мужская грудь не являются «интимными» органами.

Аргументы xAI в основном сосредоточены на том, как в Миннесоте определяется понятие «интимные части тела».

Компания Маска предпочитает определения, содержащиеся в законах о борьбе с порнографией из мести, таких как Закон о запрете распространения порнографии (Take It Down Act), который, по словам xAI, опирается на более узкое определение для криминализации распространения как реальных, так и созданных с помощью ИИ «интимных визуальных изображений». Согласно Закону о запрете распространения порнографии, вредными считаются изображения, на которых видны «гениталии, лобковая область, анус или частично или полностью обнаженный сосок человека», и это якобы гарантирует, что безобидные изображения не будут преследоваться по закону.

Как утверждала компания xAI, менее точным является юридическое определение «интимных частей тела» в штате Миннесота, которое было взято из уголовного закона, запрещающего «прикосновение без согласия» к «внутренней поверхности бедра, ягодицам или груди мужчины или женщины, а также к паху и области половых органов».

Закон имеет смысл в отношении прикосновений без согласия, но не в отношении создания изображений без согласия, утверждала компания xAI. Он «соответственно запрещает обычные изображения мужчин без рубашек, людей в шортах или купальниках и других частей тела, которые обычно демонстрируются на публике — что выходит далеко за рамки того, что обычный человек посчитал бы „обнажением“», — утверждала xAI.

В своей жалобе xAI, похоже, обходит стороной упоминания бикини, после того как Grok вызвал волну критики в связи с постом Маска, в котором тот рекламировал способность Grok надеть бикини на кого угодно.

Вместо этого xAI фокусируется на защите прав пользователей Grok на создание изображений как формы самовыражения, например, высмеивая политиков, представляя их в плавках-спидо или в образе борцов сумо, что в обоих случаях подразумевает обнаженные бедра и мужскую грудь. Ближе всего к признанию того, что женщины и девушки стали мишенью скандала, xAI подошел, упомянув созданное им изображение Дональда Трампа, на котором он изображен со своими политическими союзниками без рубашек в бассейне, а xAI предположил, что это сгенерированная ИИ женщина в бикини.

Примеры использования обнаженного тела Грока в качестве «политического юмора». Примеры использования обнаженного тела Грока в качестве «политического юмора».

В жалобе xAI также, похоже, избегается обсуждение арестов пользователей Grok, которые, как сообщил адвокат Доу изданию Ars, происходят все чаще, поскольку xAI, по-видимому, в некоторых случаях все теснее сотрудничает с правоохранительными органами. Хотя xAI подверглась критике за то, что не помогла полиции идентифицировать одного пользователя Grok, который в итоге был арестован, xAI заявила в своем иске, что ее мотивирует поимка нарушителей, и из 70 000 сообщений о предполагаемом сексуальном насилии, созданном с помощью Grok, по меньшей мере 244 случая привели к арестам.

Помимо утверждения, что ответственность за вредоносный контент несут исключительно пользователи Grok и что Grok заслуживает исключения из запретов на приложения для создания обнаженного контента за якобы внедрение передовой или «почти идеальной» системы обнаружения вредоносного контента, компания xAI заявила, что процесс создания изображений или видео в Grok подпадает под защиту Первой поправки к Конституции США. Это перекликается с утверждениями других создателей чат-ботов, которые, по сути, заявляли, что речь чат-ботов заслуживает той же защиты, что и речь человека.

Успех аргументов xAI, вероятно, будет зависеть от того, согласится ли суд с тем, что закон Миннесоты недостаточно точно сформулирован, чтобы выдержать конституционную проверку. xAI утверждала, что она не может выдержать никакой проверки.

«Хотя у Миннесоты, вероятно, есть веские основания для предотвращения создания отдельными лицами фотографий обнаженных людей без их согласия и распространения такого контента, закон наказывает платформы искусственного интеллекта за содействие созданию значительного объема защищенной законом речи в рамках этой ограниченной цели», — утверждала компания xAI.

Источник: arstechnica.com