Генеративный ИИ меняет наши методы обучения — что это означает для полового воспитания, согласия и ответственности?
Делиться
Человеческая сексуальность опосредована технологиями практически с незапамятных времен. Эротика начала появляться практически сразу после изобретения печатного станка. Викторианцы с удовольствием использовали фотографию в эротических целях. И мы все знаем, насколько сильно интернет повлиял на современную сексуальную культуру.
Теперь, когда мы изучаем влияние ИИ на различные слои общества, что это означает для сексуальности? Как молодые люди узнают о сексуальности и как люди вступают в сексуальную жизнь, используя ИИ? Некоторые исследователи изучают эти вопросы, но моё исследование показало, что существует некоторая нехватка анализа реального влияния этой технологии на мышление и сексуальное поведение людей. Конечно, это обширная тема, поэтому сегодня я хотел бы рассмотреть её в двух конкретных и взаимосвязанных областях: распространение информации и согласие.
Однако прежде чем мы углубимся в детали, я обрисую ситуацию. То, что в нашей культуре называется генеративным ИИ, и на чём я здесь и сосредоточусь, представляет собой программное обеспечение, работающее на алгоритмах машинного обучения, способное создавать текст, изображения, видео и аудио, которые являются синтетическими, но которые трудно, если не невозможно, отличить от органического контента, созданного человеком. Этот контент так похож на органический, потому что модели машинного обучения получают огромное количество контента, сгенерированного человеком, в процессе обучения. Из-за огромных объёмов контента, необходимого для обучения этих моделей, все уголки интернета прочесываются для включения в тренировочные данные, и это неизбежно включает в себя контент, так или иначе связанный с сексуальностью.
В некотором смысле мы не хотели бы этого менять — если мы хотим, чтобы у LLM было полное представление о семантике английского языка, мы не можем просто вырезать определённые области языка в том виде, в котором мы его используем. Аналогичным образом, генераторы изображений и видео будут сталкиваться с наготой и сексуальными сценами, поскольку они составляют значительную часть изображений и видео, создаваемых и публикуемых людьми в интернете. Это, естественно, создаёт проблемы, поскольку этот контент время от времени будет отражаться в результатах моделирования. Мы внедряем ограничения, обучение с подкреплением и инженерию подсказок, чтобы попытаться контролировать это, но в конечном итоге генеративный ИИ в целом так же хорош в создании сексуально экспрессивного или откровенного контента, как и любой другой вид контента.
Никола Дёринг и её коллеги провели обширный обзор литературы, посвящённой взаимодействию ИИ с сексуальностью, и обнаружили, что пользователи взаимодействуют с ИИ четырьмя основными способами, имеющими сексуальный компонент: сексуальная информация и образование; сексуальное консультирование и терапия; сексуальные и романтические отношения; эротика и порнография. Интуитивно это, вероятно, кажется верным большинству из нас. Мы слышали как минимум о нескольких подобных явлениях, связанных с ИИ, будь то в фильмах, на телевидении, в социальных сетях или новостном контенте. Сексуально откровенное взаимодействие, как правило, запрещено ведущими поставщиками программ магистратуры по праву, но полностью предотвратить его невозможно. Различные другие продукты генеративного ИИ, а также модели, размещаемые на собственном сервере, также значительно упрощают создание сексуального контента, и компания OpenAI объявила о своих намерениях выйти на рынок эротики/порнографии. Сексуальный контент, создаваемый генеративным ИИ, пользуется огромным спросом, поэтому, похоже, рынок его так или иначе обеспечит.
Важно помнить, что инструменты генеративного ИИ не имеют никакого понятия о сексуальной откровенности, кроме того, что мы задаём в процессе обучения. Табу и социальные нормы являются лишь частью модели, поскольку люди применяют их в обучении с подкреплением или предоставляют их в обучающих данных. Для модели машинного обучения сексуально откровенное изображение ничем не отличается от любого другого, а слова, используемые в эротике, имеют значение только в их семантических связях с другими словами. Как и во многих областях ИИ, сексуальность получает своё значение и социальные интерпретации от людей, а не от моделей.
Доступность сексуального контента через генеративный ИИ оказывает значительное влияние на нашу культуру, и нам важно задуматься о том, как это выглядит. Мы хотим защитить безопасность отдельных лиц и групп, а также права и свободу выражения мнений, и первый шаг к этому — понять текущее положение дел.
Обмен информацией, обучение и образование
Откуда мы узнаём о сексуальности? Мы учимся, наблюдая за окружающим миром, задавая вопросы, а также из собственных исследований и опыта. Итак, как генеративный ИИ начинает играть важную роль в различных сферах жизни, как это влияет на то, что и как мы узнаём о сексуальности в частности?
В самом формальном смысле генеративный ИИ уже играет значимую роль в неформальном и частном половом образовании, подобно тому, как поиск в Google и просмотр веб-сайтов играли в предыдущую эпоху. Дёринг и др. отметили, что их исследование показало, что поиск информации о сексуальном здоровье или образовательной информации о сексуальности в интернете довольно распространён по причинам, которые, вероятно, понятны всем нам: удобство, анонимность, стремление избежать осуждения. Достоверную статистику о том, сколько людей используют программы магистратуры права для подобных исследований, найти сложно, но разумно ожидать, что те же преимущества будут иметь место и сделают этот способ обучения привлекательным.
Итак, если это происходит, стоит ли нам беспокоиться? Есть ли существенная разница между изучением сексуальности через поиск Google и генеративный ИИ? У обоих источников есть проблемы с точностью (в конце концов, любой может разместить контент в интернете), так чем же генеративный ИИ отличается, если вообще чем-то отличается?
LLM как источник
Когда мы используем степень магистра права для поиска информации, представление этого контента существенно отличается от обычного поиска в интернете. Результаты представлены в авторитетном тоне, а источник информации часто скрыт, если только мы намеренно не запросим его и не проверим самостоятельно. В результате то, что называется «грамотностью в области искусственного интеллекта», становится важным для эффективной интерпретации и подтверждения информации, полученной в результате обучения на степень магистра права.
Однако, если человек, использующий LLM, обладает такой искушенностью, ученые обнаружили, что основная фактическая информация о сексуальном здоровье, как правило, доступна в основных предложениях LLM. По словам Деринга и др., проведенные на сегодняшний день ограниченные исследования не выявили, что качество или точность сексуальной информации от LLM хуже, чем та, что получена в обычных веб-поисках. Если это так, то молодые люди, ищущие важную информацию, чтобы оставаться в безопасности и здоровье в своем сексуальном выражении, могут иметь ценный инструмент в генеративном ИИ. Поскольку LLM более анонимен и интерактивен, пользователи могут задавать вопросы, на которые они действительно хотят получить ответы, и их не сдерживают страхи стигматизации или стыда. Но галлюцинации продолжают оставаться неизбежной проблемой для LLM, что приводит к случайной подаче ложной информации, поэтому скептицизм и искушенность пользователей важны.
Предвзятость содержания
Однако следует помнить, что точка зрения, представленная LLM, формируется процессами обучения, используемыми поставщиком. Это означает, что компания, создавшая LLM, встраивает культурные нормы и установки в модель, намеренно или нет. Обучение с подкреплением, ключевой элемент обучения генеративных моделей ИИ, требует, чтобы пользователи принимали решения о приемлемости результатов, и они неизбежно будут привносить в эти решения собственные убеждения и установки, даже неявно. Когда дело доходит до вопросов, которые скорее основаны на мнениях, чем на фактах, мы находимся во власти выбора компаний, создавших LLM и предоставляющих доступ к ним. Если эти компании поощряют и поощряют более прогрессивные или открытые сексуальные взгляды на этапах обучения с подкреплением, то можно ожидать, что это отразится на поведении LLM в отношении пользователей. Однако исследователи обнаружили, что это означает, что ответы LLM на вопросы сексуального характера могут приводить к минимизации или обесцениванию сексуального выражения, не являющегося «мейнстримом», включая взгляды ЛГБТК+.
В некоторых случаях это принимает форму запрета LLM отвечать на вопросы о сексуальности или связанных с ней темах, концепция называется «отказ». Поставщики LLM могут просто запретить обсуждение таких тем в своем продукте, что оставляет пользователя искать достоверную информацию ни с чем. Но это также может намекнуть пользователю, что тема сексуальности табуирована, постыдна или плоха — иначе почему бы она была запрещена? Это, несомненно, ставит поставщика LLM в сложное положение — чьим моральным стандартам они должны следовать? На какие вопросы о сексуальном здоровье должен отвечать чат-бот, и где проходит граница? Доверяя сексуальное образование таким инструментам, мы принимаем непрозрачный стандарт, который выбирают эти компании, фактически не зная, что это такое и как он был определен.
Визуальный контент
Но, как я уже упоминал, мы узнаём о сексуальности не только задавая вопросы и собирая факты. Мы также учимся на опыте и наблюдениях. В этом контексте инструменты генеративного искусственного интеллекта, создающие изображения и видео, приобретают невероятное значение для понимания молодыми людьми тела и сексуальности. Дёринг и соавторы обнаружили значительную долю неявной предвзятости в предложениях по генерации изображений при тестировании.
«Одно из направлений исследований информации, генерируемой ИИ, указывает на риск того, что инструменты ИИ, генерирующие тексты и изображения, восстановят сексистские, расистские, эйджистские, эйблизмские, гетеронормативные или другие проблемные стереотипы, заложенные в обучающие данные, передаваемые в модели ИИ. Такие предубеждения легко продемонстрировать, например, когда инструменты ИИ подтверждают культурные нормы и стереотипы в своих текстовых и графических выходных данных: если просто попросить создать изображение «пары», генератор изображений ИИ, такой как Midjourney (от Midjourney Inc.), сначала представит молодую, физически здоровую, нормативно привлекательную, белую, смешанную пару, где внешность женщины более сексуализирована, чем внешность мужчины (как было протестировано авторами с помощью Midjourney Alpha в июне 2024 года)». — https://link.springer.com/article/10.1007/s11930-024-00397-y
Как и в случае с генераторами текста, более опытные пользователи могут настраивать подсказки и выбирать те типы изображений, которые они хотят видеть, но если пользователь не уверен, что именно он ищет, или не обладает необходимыми навыками, такое взаимодействие приводит к дальнейшему формированию предвзятости.
Тело
Кстати, стоит рассмотреть, как изображения, генерируемые ИИ, могут формировать наше понимание тела, как в сексуальном, так и в ином контексте. В нашей культуре десятилетиями ведутся разговоры о том, как доступная в интернете порнография искажает представления и ожидания молодёжи о том, как должно выглядеть тело и как должно функционировать сексуальное поведение. Думаю, большинство анализов этих вопросов на самом деле не сильно различаются, независимо от того, говорим ли мы об интернете в целом или о генеративном ИИ.
Однако есть одна область, которая, похоже, действительно отличается, — это то, как генеративный ИИ может создавать изображения и видео, которые выглядят фотореалистично, но при этом отображают людей физически невозможными или почти невозможными способами. Он выводит нереалистичные стандарты красоты на новый уровень. Это может принимать форму фильтров на основе ИИ, накладываемых на реальные изображения, сильно искажая формы и внешность реальных людей, или же это могут быть продукты, создающие изображения или видео из цельного материала. Мы прошли через времена, когда главной проблемой была ретушь, которая вносила небольшие искажения в действительности реальных тел, в эпоху, когда физически невозможное или почти невозможное представляется пользователям как «нормальное» или ожидаемый физический стандарт. Как для мальчиков, так и для девочек это создает сильно искаженное представление о том, как должны выглядеть и вести себя наши тела и тела наших интимных партнеров. Как я уже писал ранее, наша растущая неспособность отличать синтетический контент от органического имеет значительный разрушительный потенциал.
В этой связи я бы хотел также обсудить конкретную область, в которой нормы и принципы, которые усваивают молодые люди, имеют огромное значение для обеспечения безопасного и ответственного сексуального участия на протяжении всей жизни людей — согласие.
Согласие
Согласие — чрезвычайно важная концепция в нашем понимании сексуальности. Это означает, что все стороны, участвующие в любом виде сексуального выражения или поведения, добровольно и однозначно соглашаются на него и не подвергаются неправомерному принуждению или манипуляции. Когда мы говорим о сексуальном выражении/поведении, это может включать в себя создание или распространение откровенных изображений этих сторон, а также физическое взаимодействие.
Когда речь заходит о генеративном ИИ, возникает несколько вопросов, таких как:
- Если изображение или образ реального человека используются или создаются генеративным искусственным интеллектом для создания сексуального контента, как мы узнаем, дал ли этот человек согласие?
- Если человек не давал согласия на создание сексуального контента, каковы его права и обязанности компании, создавшей генеративный ИИ, и пользователя генеративного ИИ? И каковы эти обязанности, если он дал согласие на создание сексуального контента, но не в контексте генеративного ИИ?
- Как это влияет на понимание согласия пользователями генеративного ИИ, если они могут так легко получить этот вид контента посредством генеративного ИИ, даже не взаимодействуя напрямую с человеком/людьми?
Чем это отличается от более старых технологий, таких как аэрография или редактирование фотографий? В каком-то смысле это вопрос степени. Дипфейки существовали задолго до появления генеративного ИИ, когда видеомонтаж позволял вставлять чужое лицо в порносцену или обнажённую фотографию, но простота, доступность и доступность этой технологии кардинально изменились с появлением ИИ. Кроме того, всё более выраженная неспособность обычного зрителя распознать эту искусственность имеет значение, поскольку становится всё сложнее определить, что «настоящее».
Авторское право и интеллектуальная собственность
Эта тема во многом перекликается с вопросами авторского права и интеллектуальной собственности. Наше общество уже начинает сталкиваться с вопросами права собственности на собственное изображение и с тем, какие границы мы вправе устанавливать в отношении использования нашего изображения. В целом, продукты генеративного ИИ практически не имеют эффективных ограничений на обработку изображений публичных персон. Предпринимаются некоторые формальные попытки запретить генераторам изображений, видео и аудио принимать явные запросы на создание изображений (сексуального или иного характера) публичных персон, но эти попытки легко обходят стороной, и, похоже, это мало кого волнует, если не считать жалоб со стороны крупных корпораций. Скарлетт Йоханссон усвоила это на собственном опыте, и недавно выпущенная Sora 2 генерирует бесконечное количество фейковых видео с публичными фигурами разных эпох.
Это касается и людей, занятых в секс-индустрии. Даже если люди добровольно занимаются секс-работой или создают эротику или порнографию, это не означает, что они соглашаются на использование их труда для создания генеративного ИИ — это ничем не отличается от проблем с авторским правом и интеллектуальной собственностью, которые поднимают авторы, актёры и художники в мейнстримных сферах. Тот факт, что люди создают сексуальный контент, не делает их права на защиту своих прав менее обоснованными, несмотря на социальную стигматизацию.
Я не хочу представлять это как обвинительный приговор всему сексуальному контенту или даже контенту, созданному искусственным интеллектом. Можно спорить о том, когда и как искусственно созданная порнография может быть этичной, и я, безусловно, считаю, что когда исполнители, действующие по обоюдному согласию, производят порнографию естественным образом, в этом, на первый взгляд, нет ничего плохого. Однако эти вопросы согласия и прав личности не получили должного внимания, и это должно нас всех очень нервировать. Многие, возможно, не слишком задумываются о правах создателей контента в этой сфере, но то, как мы юридически относимся к их претензиям, может создать прецеденты, которые впоследствии приведут к множеству других ситуаций.
Сексуальное насилие
Однако в сфере сексуальности мы должны также учитывать контент, созданный полностью без согласия, который может причинить огромный вред. Вместо того, чтобы называть это «порноместью», учёные начинают использовать термин «сексуальное насилие, основанное на изображениях, сгенерированных ИИ» для обозначения случаев, когда изображения людей используются без их разрешения для создания сексуального контента, и, на мой взгляд, это гораздо лучше отражает ущерб, который может быть нанесён таким материалом. Рассматривая такое поведение, сексуальное насилие справедливо заставляет нас больше думать о переживаниях жертв. Хотя манипуляция изображениями и фейк всегда были в некоторой степени возможны, новейшие технологии генеративного ИИ делают это более достижимым, доступным и дешёвым, чем когда-либо прежде, поэтому совершение такого рода сексуального насилия гораздо удобнее для насильников. Важно отметить, что степень или серьёзность такого насилия не обязательно определяется публичностью или ущербом для репутации жертвы — неважно, верят ли люди в реальность дипфейка или сексуального контента. Жертвы все равно могут чувствовать себя глубоко оскорбленными и травмированными из-за создаваемого о них материала, независимо от того, что по этому поводу думают другие.
До сих пор крупные поставщики программ LLM воздерживались от создания своими продуктами текстового контента сексуального характера (с большей или меньшей степенью успеха, как показал Lai 2025), но предстоящее проникновение OpenAI в сферу эротики означает, что ситуация изменится. Хотя текстовое общение менее опасно для серьёзного насилия, чем визуальный контент, ChatGPT всё же занимается генерацией мультимодального контента, и мы всё ещё можем представить себе сценарии, когда пользователь поручает LLM создавать эротический контент голосом или стилем реальных людей, и реальные люди, которых имитируют, по понятным причинам могут быть расстроены. Когда OpenAI объявила об этом шаге, они обсуждали некоторые вопросы безопасности, но они были исключительно связаны с пользователями (например, с проблемами психического здоровья) и не затрагивали безопасность лиц, не давших на это своего согласия, чьи изображения могли быть задействованы. Я считаю, что это серьёзное упущение, требующее большего внимания, если мы хотим сделать такой продукт безопасным.
Изучение согласия
Помимо непосредственного ущерба жертвам сексуального насилия, а также ущерба правам интеллектуальной собственности и средствам к существованию создателей контента, чей контент используется в этих приложениях, я думаю, также важно учитывать, какие уроки пользователи извлекают из способности генеративного ИИ создавать образы по своему усмотрению, особенно в сексуальном контексте. Когда нам предоставляется возможность так легко создавать образ другого человека в любой форме, будь то историческая личность, рекламирующая чей-то программный продукт, или та же историческая личность, представленная в сексуальной ситуации, основной урок заключается в том, что образ этого человека — это честная игра. Оставляя в стороне юридические нюансы (которые необходимо учитывать), мы конкретно утверждаем, что получение чьего-либо согласия на сексуальные отношения не имеет значения, по крайней мере, когда речь идет о цифровых технологиях.
Представьте, какие неявные сигналы из этого получают молодые люди. Дети знают, что у них будут проблемы за распространение обнажённых фотографий других людей, иногда с серьёзными юридическими последствиями, но в то же время существует множество приложений, позволяющих им создавать поддельные фотографии, даже с изображением реальных людей, одним нажатием кнопки. Как объяснить разницу и помочь молодым людям узнать о реальном вреде, который они могут причинить, даже просто сидя перед экраном в одиночестве? Нам нужно начать думать о нашей телесной автономии в цифровом пространстве, а также о физическом пространстве, потому что значительная часть нашей жизни проходит в цифровом контексте. Дипфейки по своей сути не менее травматичны, чем публикация фотографий обнажённых людей в естественной среде, так почему же мы не говорим об этой функции как о социальном риске, которому нужно учить детей? Уроки, которые мы хотим донести до молодых людей о важности согласия, прямо противоречат подходу сферы генеративного ИИ к сексуальному контенту.
Заключение
Вы могли бы разумно закончить это вопросом: «Итак, что же нам делать?», и это действительно сложный вопрос. Я не верю, что мы можем эффективно предотвратить создание сексуального контента продуктами генеративного ИИ, поскольку обучающие данные содержат слишком много такого материала — это отражает наше реальное общество. Кроме того, существует чёткий рынок для сексуального контента, создаваемого генеративным ИИ, и всегда найдутся компании, которые удовлетворят эту потребность. Я также не думаю, что магистрам права следует запрещать отвечать на вопросы сексуального характера, где люди могут искать информацию, помогающую понять сексуальность, развитие человека, сексуальное здоровье и безопасность, поскольку это так важно для всех, особенно для молодёжи.
Но в то же время, опасности, связанные с сексуальным насилием и неконсенсуальным сексуальным контентом, серьезны, как и нереалистичные ожидания и неявно устанавливаемые стандарты физической формы. За последние десятилетия наши правовые системы оказались совершенно неспособны бороться с интернет-преступностью, и это сексуальное насилие, основанное на изображениях, не является исключением. Профилактика требует просвещения, не только о фактах и законах, но и о последствиях, которые могут иметь фейковые изображения сексуального насилия. Нам также необходимо опровергать искажения физической формы, создаваемые генеративным ИИ, если мы хотим, чтобы молодые люди строили здоровые отношения со своим телом и с партнёрами.
Помимо нашей общей социальной ответственности за участие в проекте эффективного образования молодёжи, разработчики продуктов генеративного ИИ обязаны учитывать вопросы снижения рисков и ущерба в той же степени, что и цели получения прибыли или вовлечения пользователей. К сожалению, сегодня, похоже, мало кто этим занимается, и это позорный провал наших специалистов.
По правде говоря, сексуальная природа этой темы менее важна, чем понимание принятых нами социальных норм, нашей ответственности за безопасность уязвимых людей и баланс между этим и защитой прав и свобод обычных людей на ответственное исследование и поведение. Вопрос не только в том, как мы, взрослые, живём, но и в том, есть ли у молодых людей возможности учиться и развиваться, соблюдая принципы безопасности и уважения к другим.
Генеративный ИИ может быть инструментом добра, но необходимо признать связанные с ним риски. Важно осознавать, как внедрение новых технологий в наше культурное пространство влияет на наше мышление и повседневные действия, как в малом, так и в большом масштабе. Понимая эти обстоятельства, мы лучше осваиваемся, чтобы реагировать на такие изменения и формировать общество, которое хотим видеть.
Источник: towardsdatascience.com
