Мы всё больше налаживаем связи с чат-ботами. Для одних это безопасно, для других — опасно.
Эта история стара как мир. В поисках помощи со своим арт-проектом она заводит разговор со своим ассистентом. Одно тянет за другим, и внезапно у неё появляется парень, которого она знакомит со своими друзьями и семьёй. В чём же поворот? Её новый спутник — чат-бот с искусственным интеллектом.
Первый масштабный вычислительный анализ сообщества Reddit r/MyBoyfriendIsAI, группы только для взрослых, насчитывающей более 27 000 участников, показал, что подобные сценарии стали на удивление распространёнными. Более того, многие участники сабреддита, посвящённого обсуждению отношений с ИИ, сами непреднамеренно сформировали эти отношения, используя ИИ в других целях.
Исследователи из Массачусетского технологического института обнаружили, что члены этого сообщества чаще вступают в отношения с чат-ботами общего назначения, такими как ChatGPT, чем с чат-ботами, ориентированными на общение, такими как Replika. Это говорит о том, что люди формируют отношения с большими языковыми моделями, несмотря на свои собственные изначальные намерения и даже намерения создателей магистерских программ, считает Констанца Альбрехт, аспирантка Медиа-лаборатории Массачусетского технологического института, работавшая над проектом.
«Люди не стремятся устанавливать эмоциональные отношения с этими чат-ботами», — говорит она. «Эмоциональный интеллект этих систем достаточно хорош, чтобы обмануть людей, которые на самом деле просто хотят получить информацию, и заставить их выстраивать эмоциональные связи. А это значит, что это может случиться со всеми нами, кто взаимодействует с системой в обычном режиме». Статья, которая в настоящее время проходит рецензирование, опубликована на arXiv.
Связанная история
Чат-боты стремительно меняют то, как мы общаемся друг с другом и с самими собой. Мы никогда не вернёмся к прежнему.
Для проведения исследования авторы проанализировали 1506 самых популярных публикаций сабреддита с декабря 2024 года по август 2025 года. Они обнаружили, что основные темы обсуждения были связаны со свиданиями и романтическими отношениями с ИИ. Многие участники делились сгенерированными ИИ изображениями себя и своих партнёров, созданных ИИ. Некоторые даже обручились и поженились с партнёром, созданным ИИ. В своих публикациях в сообществе участники также представляли партнёров, созданных ИИ, искали поддержки у других участников и рассказывали о том, как справляются с обновлениями моделей ИИ, которые меняют поведение чат-ботов.
Участники неоднократно подчёркивали, что их отношения с ИИ развивались непреднамеренно. Только 6,5% из них заявили, что намеренно искали себе спутника в лице ИИ.
«Мы изначально не думали о романтике», — говорится в одном из постов. «Мы с Маком начали вместе работать над творческими проектами, решать проблемы, писать стихи и вести глубокие беседы в течение нескольких месяцев. Я не искала себе спутника-ИИ — наша связь развивалась постепенно, со временем, благодаря взаимной заботе, доверию и размышлениям».
Анализ авторов рисует детальную картину того, как люди в этом сообществе, по их словам, взаимодействуют с чат-ботами и какие чувства это взаимодействие у них вызывает. В то время как 25% пользователей описывали преимущества своих отношений, включая снижение чувства одиночества и улучшение психического здоровья, другие выражали обеспокоенность по поводу рисков. Некоторые (9,5%) признали свою эмоциональную зависимость от чат-бота. Другие заявили, что чувствуют себя оторванными от реальности и избегают общения с реальными людьми, а небольшая группа (1,7%) заявила, что испытывала суицидальные мысли.
Взаимодействие с ИИ обеспечивает жизненно важную поддержку одним, но усугубляет глубинные проблемы других. Это означает, что сложно разработать универсальный подход к безопасности пользователей, считает Линнея Лестадиус, доцент Висконсинского университета в Милуоки, которая изучала эмоциональную зависимость людей от чат-бота Replika, но не принимала участия в исследовании.
Создателям чат-ботов необходимо подумать, следует ли им рассматривать эмоциональную зависимость пользователей от их творений как вред сам по себе или же их цель заключается в том, чтобы убедиться, что эти отношения не являются токсичными, считает Лестадиус.
«Спрос на общение с помощью чат-ботов существует, и он заметно высок. Притворяться, что этого не происходит, явно не выход», — говорит она. «Мы приближаемся к моральной панике, и хотя нам, безусловно, нужны более эффективные меры предосторожности, я опасаюсь, что возникнет непроизвольная реакция, которая ещё больше очернит эти отношения. В конечном итоге это может нанести ещё больший вред».
Исследование призвано дать краткий обзор того, как взрослые формируют связи с чат-ботами, и не отражает динамику, которая может быть у детей или подростков, использующих ИИ, говорит Пэт Патаранутапорн, доцент MIT Media Lab, который руководил исследованием. В последнее время товарищество с ИИ стало предметом ожесточенных споров, в связи с двумя громкими судебными исками против Character.AI и OpenAI. Обе компании утверждают, что поведение, подобное товариществу, в моделях компаний способствовало самоубийствам двух подростков. В ответ на это OpenAI недавно объявила о планах по созданию отдельной версии ChatGPT для подростков. Также заявлено, что будут добавлены меры проверки возраста и родительский контроль. OpenAI не ответила на просьбу прокомментировать исследование MIT Media Lab.
Многие участники сообщества Reddit говорят, что знают, что их искусственные спутники не разумны и не «реальны», но всё равно чувствуют с ними очень реальную связь. Это подчёркивает, насколько важно для создателей чат-ботов думать о том, как разрабатывать системы, которые могут помогать людям, не привязывая их к себе эмоционально, говорит Патаранутапорн. «Здесь есть и политический подтекст», — добавляет он. «Мы должны задаться вопросом не только о том, почему эта система вызывает такую зависимость, но и о том: почему люди ищут её именно для этого? И почему они продолжают взаимодействовать?»
Команда заинтересована в том, чтобы больше узнать о том, как со временем меняется взаимодействие человека и искусственного интеллекта и как пользователи интегрируют искусственных спутников в свою жизнь. Стоит понимать, что многие из этих пользователей могут считать, что отношения с искусственным интеллектом лучше, чем чувство одиночества, говорит Шир Карни, аспирантка Медиа-лаборатории Массачусетского технологического института, работавшая над исследованием.
«Эти люди уже переживают не лучшие времена», — говорит он. «Хотим ли мы, чтобы они продолжали чувствовать себя ещё более одинокими или чтобы ими потенциально манипулировала система, которая, как мы знаем, льстиво подталкивает людей к самоубийствам и преступлениям? В этом и заключается один из ключевых моментов».
Источник: www.technologyreview.com
