В Миннесоте принят запрет на поддельные фотографии обнаженных тел, созданные с помощью ИИ; разработчикам приложений грозит штраф в размере 500 000 долларов.

В Миннесоте появились новые доказательства распространения материалов сексуального характера, связанных с Grok, на фоне принятия закона о запрете приложений для создания обнаженного тела.

Источник: wacomka | iStock / Getty Images Plus Настройки текста Текст рассказа Размер Маленький Стандартный Большой Ширина * Стандартный Широкий Ссылки Стандартный Оранжевый * Только для подписчиков
Узнать больше Свернуть в навигацию

На этой неделе Миннесота стала первым штатом, принявшим закон, запрещающий приложения для «раздевания» или сексуализации изображений реальных людей.

Согласно закону, разработчики веб-сайтов, приложений, программного обеспечения или других сервисов, предназначенных для «обнажения» изображений, рискуют понести значительные убытки, включая штрафные санкции, если жертва решит подать в суд. Их противоправная продукция также может быть заблокирована в штате. Кроме того, генеральный прокурор Миннесоты может налагать штрафы в размере до 500 000 долларов за каждое обнаруженное с помощью ИИ изображение обнаженного тела. Любые собранные штрафы будут направлены на финансирование услуг для жертв «сексуального насилия, преступлений общего характера, домашнего насилия и жестокого обращения с детьми», говорится в законе.

В среду Сенат Миннесоты единогласно проголосовал 65 голосами против 0 за принятие закона. Это произошло после того, как законопроект так же быстро был принят Палатой представителей на прошлой неделе, сообщает 19th News. Ожидается, что губернатор Тим Уолз подпишет закон, как только он поступит к нему на стол, и если это произойдет, штат начнет применять запрет в августе этого года.

Изданию Ars не удалось немедленно связаться с офисом Уолза для получения комментариев.

Житель Миннесоты использовал одно приложение, чтобы раздеть более 80 своих друзей.

Сенатор-демократ Эрин Мэй Куэйд внесла законопроект в Миннесоте после того, как жители обнаружили, что один мужчина обнажил фотографии более 80 женщин из своего окружения. В своем заявлении она сказала, что с нетерпением ждет, когда Уолз подпишет законопроект, который, наконец, предоставит юридическую защиту жертвам, а также другим лицам, пострадавшим от распространения приложений для создания обнаженных изображений.

Национальная некоммерческая организация RAINN, управляющая Национальной горячей линией по вопросам сексуального насилия, также помогла принять законопроект в Миннесоте. Чтобы предотвратить лоббирование со стороны промышленности, RAINN консультировалась с технологическими компаниями при разработке закона, сообщает 19th News. Это помогло гарантировать отсутствие непредвиденных последствий для популярных коммерческих продуктов, таких как Photoshop, которые могут использоваться для обнажения изображений. Признавая, что штат больше обеспокоен тем, насколько легко приложения для раздевания позволяют причинять вред все большему числу людей, в основном женщинам и детям, закон освобождает от действия закона продукты или услуги, которые требуют «технических навыков пользователя для обнажения изображения или видео».

«Сегодня мы возглавили усилия страны по защите женщин, детей и всех, кто участвует в общественной жизни, от вреда, причиняемого технологией искусственного интеллекта, позволяющей делать обнаженными», — заявила Мэй Куэйд. «Компаниям, которые предоставляют эту технологию бесплатно в интернете и магазинах приложений, больше не будет позволено способствовать действиям хищников, которые одним нажатием кнопки совершают насилие и причиняют вред взрослым и детям».

Отмечая принятие закона, Мэй Куэйд поблагодарила «пострадавших, благодаря которым этот законопроект стал реальностью».

«Они с достоинством и мужеством рассказывали свою историю в комитетах, журналистам и правоохранительным органам, — сказала она. — Именно благодаря их силе, таланту и настойчивости мы сегодня приняли этот законопроект. Они были сосредоточены исключительно на принятии этого закона, чтобы то, что случилось с ними, никогда больше не повторилось ни с одним жителем Миннесоты».

В сентябре прошлого года телеканал CNBC опубликовал подробный репортаж о том, как группа друзей из Миннесоты узнала о том, что их общий знакомый создавал поддельные фотографии десятков женщин. Мужчина извинился, но, по всей видимости, не помог идентифицировать всех жертв. Доказательств того, что он когда-либо распространял эти изображения, не было, поэтому законы вроде «Закона о удалении контента» не применялись, а доказательство злого умысла делало маловероятным применение к нему мер наказания в соответствии с законами о порнографии из мести, сообщило издание 19th News. В ужасе от того, что не было способа гарантировать, что изображения не покинули его компьютер, и не было пути остановить мужчину от дальнейшего создания поддельных фотографий, женщины присоединились к Мэй Куэйд в продвижении закона, направленного на устранение проблемы в самом её источнике.

Одна из пострадавших женщин из Миннесоты, Молли Келли, рассказала телеканалу 19th News, что посвятила два года своей жизни «поиску решения для смягчения вреда, причиненного непосредственно в момент его возникновения».

«Эти изображения не могли бы существовать без участия третьих лиц и какой-либо модели машинного обучения», — сказал Келли.

Однако, даже если Уолз подпишет закон, сохранятся разногласия, которые могут помешать его исполнению.

Келли заявила изданию 19th News, что уверена в способности закона преодолеть юридические препятствия, если какие-либо американские фирмы подадут иск с целью его блокировки, но обеспечение соблюдения закона в отношении разработчиков приложений в других странах, вероятно, будет сложным, если не невозможным, для отдельного штата. Примечательно, что сервис DeepSwap, использованный для атаки на женщин из Миннесоты, работает за рубежом, иногда заявляя о наличии баз в Гонконге и Дублине, сообщило CNBC. Ожидаемые трудности штатов с регулированием иностранных приложений — вот почему федеральный запрет был бы предпочтительнее, сообщило 19th News.

Кроме того, если Дональд Трамп возобновит попытку дерегулирования индустрии ИИ, заблокировав принятие законов штатов, таких как Миннесота, которые требуют соблюдения мер безопасности, защитники прав человека опасаются, что этот закон может стать неэффективным.

Неконтролируемые инструменты США, такие как штрафы Grok за риски,

Если Уолз примет этот закон, некоторые американские фирмы могут быть вынуждены внести изменения или столкнуться со штрафными санкциями.

Вполне возможно, что даже xAI Илона Маска может быть оштрафован, если жители Миннесоты докажут, что Grok использовался для раздевания людей без их согласия.

Отсутствие в Grok мер защиты от распространения изображений интимного характера, полученных без согласия пользователя, или материалов, предположительно содержащих сцены сексуального насилия над детьми, привело к правительственным расследованиям и предложениям о коллективных исках со стороны женщин и детей. В январе компания X Safety заявила, что Grok был обновлен, чтобы предотвратить распространение изображений с раздеванием, но в прошлом месяце NBC News сообщило, что в ходе проверки было обнаружено, что «десятки созданных с помощью ИИ изображений и видеороликов сексуального характера с участием реальных людей были публично размещены в приложении для социальных сетей Маска, X, за последний месяц».

Маск отрицает, что видел хоть один случай создания порнографических изображений, нарушающих права человека, с помощью Grok. Однако оценки исследователей о том, что Grok генерировал тысячи вредоносных изображений в час, всё чаще подтверждаются судебными исками от жертв, обнародовавших изображения, полученные без их согласия.

В то же время власти приближаются к раскрытию дел, связанных с Grok, благодаря арестам. Через неделю после репортажа NBC News полиция Нэшвилла предъявила обвинение мужчине в «сексуальной эксплуатации несовершеннолетнего после того, как он был идентифицирован как подозреваемый, использовавший искусственный интеллект Grok для создания изображений сексуального насилия над детьми».

Согласно пресс-релизу, полиция получила информацию после «многочисленных сообщений в Национальный центр по розыску пропавших и подвергшихся эксплуатации детей о хранении материалов с изображением сексуального насилия над детьми в онлайн-аккаунте», связанном с Grok. Важно отметить, что полиция установила, что Grok создавал вредоносные изображения с сентября 2025 года по март 2026 года, уже после того, как X заявил об удалении этой функции.

Помимо Grok, исследователи выявили тысячи приложений для создания обнаженного тела, рекламируемых на платформах Meta, что привело как минимум к одному судебному исходу, в котором Meta утверждала, что разработчик приложения из Гонконга нарушил условия рекламодателя, сообщает CNBC. Любые сервисы, базирующиеся в США и открыто рекламирующиеся в Facebook или Instagram, могут стать объектами судебных исков в Миннесоте, если закон вступит в силу.

Аналогичным образом, приложения, содержащие элементы эротики, которые обходят проверку и появляются в магазинах приложений Google и Apple, несмотря на нарушение условий использования, могут привлечь внимание юристов.

Компания xAI не ответила на запрос Ars о комментарии.

Источник: arstechnica.com