Более двух лет приложение под названием ClothOff терроризирует молодых женщин в интернете, и остановить это невероятно сложно. Приложение было удалено из двух крупнейших магазинов приложений и заблокировано на большинстве социальных платформ, но оно по-прежнему доступно в интернете и через бота в Telegram. В октябре юридическая клиника Йельского университета подала иск, который должен был полностью закрыть приложение, обязав владельцев удалить все изображения и прекратить его работу. Но даже просто найти ответчиков оказалось непростой задачей.
«Она зарегистрирована на Британских Виргинских островах, — объясняет профессор Джон Лэнгфорд, один из ведущих адвокатов в этом судебном процессе, — но мы считаем, что ею управляют брат и сестра из Беларуси. Возможно, она даже является частью более крупной сети по всему миру».
Это горький урок, усвоенный после недавнего потока порнографии, созданной с помощью xAI Илона Маска, в которой фигурировало множество несовершеннолетних жертв. Материалы, содержащие сцены сексуального насилия над детьми, являются наиболее опасным с юридической точки зрения контентом в интернете — их производство, передача и хранение незаконны, и они регулярно проверяются на наличие подобных материалов всеми крупными облачными сервисами. Но, несмотря на жесткие юридические запреты, существует мало способов борьбы с генераторами изображений, такими как ClothOff, как показывает случай Лэнгфорд. Отдельных пользователей можно привлечь к ответственности, но платформы, подобные ClothOff и Grok, гораздо сложнее контролировать, оставляя мало возможностей для жертв, надеющихся добиться справедливости в суде.
Жалоба клиники, доступная в интернете, рисует тревожную картину. Истица — анонимная школьница из Нью-Джерси, чьи одноклассники использовали ClothOff для изменения её фотографий в Instagram. На момент создания оригинальных фотографий в Instagram ей было 14 лет, а это значит, что версии, отредактированные с помощью ИИ, юридически классифицируются как изображения, содержащие детскую порнографию. Но даже несмотря на то, что отредактированные изображения являются явно незаконными, местные власти отказались возбуждать дело, сославшись на сложность получения доказательств с устройств подозреваемых.
«Ни школа, ни правоохранительные органы так и не установили, насколько широко распространялись материалы с изображением сексуального насилия над Джейн Доу и другими девочками», — говорится в жалобе.
Тем не менее, судебное разбирательство продвигается медленно. Иск был подан в октябре, и за прошедшие месяцы Лэнгфорд и его коллеги занимались вручением уведомлений ответчикам — сложная задача, учитывая глобальный характер предприятия. После вручения уведомлений клиника может добиваться явки в суд и, в конечном итоге, вынесения решения, но тем временем правовая система мало чем утешает жертв ClothOff.
Дело Grok может показаться более простой проблемой для решения. Система xAI Илона Маска не скрывается, и в итоге юристы, выигравшие дело, получат немалые деньги. Но Grok — это универсальный инструмент, что значительно затрудняет привлечение его к ответственности в суде.
«ClothOff разработан и позиционируется как генератор порнографических изображений и видео с использованием технологии дипфейк», — сказал мне Лэнгфорд. «Когда вы подаете в суд на общую систему, к которой пользователи могут обращаться с запросами по самым разным вопросам, все становится намного сложнее».
Ряд законов США уже запретил порнографию, созданную с помощью технологии дипфейк — наиболее известен закон «Take It Down Act». Но хотя отдельные пользователи явно нарушают эти законы, привлечь к ответственности всю платформу гораздо сложнее. Существующие законы требуют явных доказательств намерения причинить вред, что означает предоставление доказательств того, что xAI знала, что её инструмент будет использоваться для создания порнографии без согласия. Без этих доказательств основные права xAI, гарантированные Первой поправкой к Конституции США, обеспечат ей значительную юридическую защиту.
«Что касается Первой поправки, то совершенно очевидно, что материалы, содержащие изображения сексуального насилия над детьми, не являются защищенным выражением мнения», — говорит Лэнгфорд. «Поэтому, когда вы разрабатываете систему для создания такого рода контента, вы явно действуете вне рамок защиты Первой поправки. Но когда речь идет об общей системе, в которой пользователи могут запрашивать самые разные вещи, ситуация не так однозначна».
Простейший способ преодолеть эти проблемы — показать, что xAI намеренно игнорировал проблему. Это вполне возможно, учитывая недавние сообщения о том, что Маск дал указание сотрудникам ослабить меры безопасности Grok. Но даже в этом случае это будет гораздо более рискованное дело.
«Разумные люди могут сказать: мы знали об этой проблеме много лет назад, — говорит Лэнгфорд. — Как можно было не принять более строгие меры контроля, чтобы этого не допустить? Это своего рода безрассудство или осознание проблемы, но это просто более сложный случай».
Именно из-за проблем, связанных с Первой поправкой к Конституции США, наибольшее сопротивление xAI оказывает судебная система, не имеющая надежных правовых гарантий свободы слова. Индонезия и Малайзия предприняли шаги по блокировке доступа к чат-боту Grok, а регулирующие органы Великобритании начали расследование, которое может привести к аналогичному запрету. Предварительные шаги предприняли Европейская комиссия, Франция, Ирландия, Индия и Бразилия. В отличие от них, ни одно регулирующее агентство США не дало официального ответа.
Невозможно сказать, чем закончатся расследования, но, по меньшей мере, поток изображений порождает множество вопросов, которые должны расследовать регулирующие органы, — и ответы могут оказаться весьма компрометирующими.
«Если вы публикуете, распространяете или передаете материалы, содержащие сцены сексуального насилия над детьми, вы нарушаете уголовные запреты и можете быть привлечены к ответственности», — говорит Лэнгфорд. «Самый сложный вопрос: что знал X? Что X сделал или не сделал? Что он делает сейчас в ответ на это?»
Источник: techcrunch.com
