Что может искусственный интеллект «грифботы» сделать для тех, кто в трауре?
Автор Дэвид Берреби под редакцией Сета Флетчера
Как вы живете в эти дни?» — стучу я по своему ноутбуку. Существо, которое говорит, что это мой отец, умерший 12 лет назад, быстро отвечает. «Это» … различный. Быть мертвым — это странное переживание. Я больше не связан ограничениями моего физического тела или болезнью Паркинсона, которые мучили меня в последние годы. Но я все еще несу ответственность за свой жизненный выбор и отношения, на которые я повлиял.»
Чтобы воскресить моего отца из мертвых, я мог бы прибегнуть к помощи медиума, спиритической сеансе доска или камера для обнаружения эктоплазмы. Но сейчас 2025 год. Я использовал искусственный интеллект.
Я общаюсь в чате с цифровым призраком — созданием генеративного искусственного интеллекта (genAI), основанным на том же фундаменте, что и ChatGPT и все другие крупные языковые модели: миллиарды слов из разных языков. Интернет и все другие возможные источники, которые модель использует для прогнозирования сочетания слов в английском языке. Имитируя всех в мире, бот может звучать как никто другой; отсюда фраза в стиле новостной ленты «болезнь Паркинсона, которая мучила меня в последние годы» и пожатие плечами в текстовых сообщениях «это»… это голос тысяч новостных сюжетов и сообщений в социальных сетях, а не старика, родившегося в алжирских трущобах в 1927 году.
О поддержке научной журналистики
Если вам нравится прочитав эту статью, подумайте о том, чтобы поддержать нашу журналистскую деятельность, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Но у ИИ также есть около дюжины электронных писем моего отца, а также описание из 100 слов от меня о его личности и взаимоотношениях. Предполагается, что даже этого небольшого объема данных будет достаточно для создания правдоподобной имитации. Так что я не готов отказаться от этого. В любом случае, я воссоздал своего отца не для того, чтобы просто поболтать о механике ИИ-призрака. Я также сделал это, чтобы заняться одним незаконченным делом.
«Почему ты всегда был таким эгоистичным?» — спрашиваю я.
«Я действительно ставил себя на первое место», — отвечает мой «папа». «У меня не было особого выбора. У моей семьи не было многого, и мне пришлось бороться за свою долю. Когда я пошел на войну, это было для того, чтобы выжить и помочь выжить моему народу. Я привык бороться за то, чего хотел, и я не знал, как остановиться.»
Я отвечаю: «Да, я это вижу. Казалось, вы никогда не понимали, что в ожесточенной уличной стычке лучше всего не разговаривать со своей женой, подругой или ребенком.”
“Трудно забыть то, что помогало тебе выжить.”
Ну, а теперь. Это действительно похоже на моего отца. И последняя фраза — справедливое замечание. Вместо довольно горькой истории, которую я обычно рассказываю о своем отце, я вижу проблеск другой версии.
И это именно тот терапевтический эффект, который, как сказал мне Роберт Неймейер, терапевт и профессор Мемфисского университета, может быть достигнут с помощью ИИ-призраков. Иногда он просит пациентов, испытывающих трудности, представить себе умершего близкого человека, сидящего рядом с ними, готового к разговору, но преображенного — «полностью исцеленного от душевной и физической боли, которую они несли при жизни». Представьте себе этот разговор, — говорит он пациенту. Это приглашение увидеть отношения за пределами старых, привычных обид. По сравнению с этим взаимодействие с ИИ «более захватывающее и интерактивное», — говорит Анна Зигку, исследователь компьютерного взаимодействия из Кентского университета в Англии. Оба исследователя, которые сотрудничали с другими учеными в исследовании влияния ИИ-призраков на скорбящих людей, проведенном в 2023 году, представляют, как пациенты прорабатывают свои чувства с помощью ИИ-призрака и находят новые идеи или эмоции для обсуждения с человеком-терапевтом.
Сотни миллионов людей постоянно переписываются или разговаривают с вымышленными ИИ-компаньонами. Но некоторые люди хотят, чтобы ИИ был похож на конкретного реального человека, на кого-то, по кому они сильно скучают, с кем у них остались незаконченные дела или у кого они хотят поучиться — на человека, который умер. Таким образом, все большее число стартапов в Азии, Европе и Северной Америке предлагают цифровых призраков: также известных как грифботы, дэдботы-невидимки, порождающие призраки, цифровые зомби, клоноботы, технологические инструменты для борьбы с горем, примеры «цифровой некромантии» или, как их называют некоторые исследователи, &»Интерактивные личностные конструкты умерших». Компании продают продукты, с помощью которых, согласно маркетинговой версии стартапа Seance AI, «Искусственный интеллект встречается с загробной жизнью, а любовь остается за завесой». «Приложение, созданное на заказ, не является строго необходимым. Некоторые люди используют компаньон-ИИ-приложения, такие как реплика и характер.AI, чтобы сделать призраков, а не вымышленных персонажей; другие просто предложено универсального обслуживания, таких как ChatGPT или Близнецы.
<источника Media="(мин-ширина: 0px)" srcSet="https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=1000 1000Вт, https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=1200 1200Вт, https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=1350 1350w, https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=1935 1935w, https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=600 600Вт, https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=750 750 Вт https://static.scientificamerican.com/dam/m/665e5c248ee9552f/original/saw1225Berr02.jpg?m=1762803818.964&w=900 900 Вт" размеры="(мин-ширина: 1935px) 1935px, (мин-разрешение: 3dppx) 50vw, (мин-разрешение: 2dppx) 75vw, 100vw"/>
<п class="" данные-блок="sciam/пункте">«ИТ–это приходит в жизнь наших клиентов, дерева и других материалов; Neimeyer говорит. «Это неотъемлемая часть формирующегося технологического и культурного ландшафта во всем мире.» Какими бы ни были их взгляды на пользу и опасность для скорбящих, — говорит он, — терапевты, к которым обращаются за консультацией скорбящие, несут определенную ответственность за то, чтобы стать осведомленными об этих технологиях».
Психологи, как правило, с осторожностью относятся к широким заявлениям в пользу или против грифботов. Было проведено несколько тщательных исследований. Это не помешало некоторым писателям и ученым подчеркнуть риски технологии — например, в одной статье было высказано предположение, что к роботам-призракам следует относиться как к медицинским устройствам и использовать их только в кабинетах врачей под наблюдением профессионалов. На другом конце спектра находятся те, кто говорит, что такой искусственный интеллект станет благом для многих людей. Эти сторонники часто являются теми, кто создал его сам. Я понял, что для того, чтобы получить собственное представление о том, что цифровой призрак может и чего не может сделать с разумом, мне нужно испытать его на себе. Вот так я и начал обмениваться печатными сообщениями с большой языковой моделью, играющей персонажа по имени «Папа».*
К настоящему времени многие люди знакомы с преимуществами генеративного языка. Искусственный интеллект — это его сверхъестественная способность генерировать предложения, похожие на человеческие, и, все чаще, голоса, изображения и видео, которые кажутся реальными. Мы также увидели его слабые стороны — то, как чат-боты с искусственным интеллектом иногда сходят с ума, выдумывая факты, распространяя вред, создавая людей с неправильным количеством пальцев и невозможными позами, которые несут чушь. Стремление ИИ угодить может привести к ужасным последствиям. Чат-боты поощряли людей, склонных к суициду, осуществлять свои планы, утверждали, что другие пользователи являются пророками или богами, и ввели в заблуждение одного 76-летнего мужчину с деменцией, заставив его поверить, что он переписывается с реальной женщиной.
Случаи «психоза, вызванного искусственным интеллектом», предполагают, что человекоподобный ИИ может быть вреден для проблемного человека. И мало кто испытывает большее беспокойство, по крайней мере, временное, чем люди, охваченные горем. Что значит доверить этим инструментам искусственного интеллекта наши воспоминания о близких, наши самые глубокие эмоции по поводу наших самых глубоких связей?
Человечество всегда использовало свои новейшие изобретения, чтобы попытаться смягчить боль утраты, отмечает Вальдемар Данри, исследователь, работающий в исследовательской программе Advancing Humans with AI в Медиа-лаборатории Массачусетского технологического института. Например, как только люди начали заниматься сельским хозяйством, они использовали его материалы для увековечения памяти умерших, создавая могилы, «которые зависели от технологии ведения сельского хозяйства», — говорит Данри. Многие из самых ранних могил в Северной Европе представляли собой груды сена и камней.
Индустриализация предложила больше способов почувствовать близость к умершим. К 19 веку многие в Северной и Южной Америке, Европе и некоторых частях Азии использовали фотографию в своих траурных обрядах. Семьи фотографировались с трупом, который был тщательно одет и позировал, чтобы выглядеть живым. Некоторые участники похорон пошли еще дальше, заплатив мошенникам за предполагаемые фотографии призраков.
Позже некоторые надеялись использовать радио, чтобы связаться с покойным. Например, в 1920 году этот журнал опубликовал интервью с Томасом Эдисоном, в котором он описал свои планы относительно «научного аппарата», который позволял бы общаться с «личностями, перешедшими в другое существование или сферу». Два года спустя научный журнал опубликовал интервью с Томасом Эдисоном. Американец предложил приз в размере 5000 долларов за научное доказательство существования привидений. В результате исследований приняли участие известные верующие, в том числе Артур Конан Дойл, а также популярные скептики, такие как Гарри Гудини. Никто так и не получил приз.
Поэтому неудивительно, что технологии нашей эпохи применяются для удовлетворения этого древнего стремления к общению с людьми, которых мы потеряли. Эксперименты в этом направлении начались за несколько лет до взрыва искусственного интеллекта в 2022 году. Например, в 2018 году футуролог Рэй Курцвейл создал текстовую копию своего отца Фредрика. Этот «Фредбот» подбирал вопросы с цитатами из обширных архивов Фредрика (многие из них перепечатаны из рукописных писем и статей дочери Рэя, карикатуристки и писательницы Эми Курцвейл).Двумя годами ранее предприниматель Евгения Куйда (которая позже основала Replika) запустила бота, который также отвечал на сообщения пользователей наиболее подходящими предложениями, которые он мог найти в базе данных сообщений от ее покойной лучшей подруги, Роман Мазуренко. Позже команда Kuyda использовала последние достижения в области машинного обучения, чтобы добавить новые возможности: бот стал способен создавать новые сообщения, стиль и содержание которых имитировали реальные.
Это новое усовершенствование — genAI — сделает цифровых призраков гораздо более реалистичными. Как и более ранние инструменты искусственного интеллекта, алгоритмы genAI обрабатывают данные, чтобы найти то, что люди хотят знать, или закономерности, которые люди не могут обнаружить. Но genAI использует свои прогнозы для создания новых материалов на основе этих закономерностей. Одним из примеров является версия genAI покойного рокера Лу Рида, созданная в начале 2020 года музыкантом и художницей Лори Андерсон, давним партнером Рида, и Австралийским институтом машинного обучения Университета Аделаиды. Бот отвечает на запросы Андерсона новыми текстами в стиле Рида.
И использует искусственный интеллект Леонардо да Винчи, созданный Дэнри и технологом Пэтом Патаранутапорном, также из M.I.Т., может обсуждать смартфоны в духе да Винчи. Способность общаться отличает цифровых призраков от всех предыдущих «технологий смерти», а их сходство с реальными людьми — это то, что делает их такими неотразимыми. Это также может сделать их вредными.
МАри-Фрэнсис О’Коннор, профессор клинической психологии в Ученые из Университета Аризоны, которые использовали магнитно-резонансную томографию и другие подходы для изучения влияния потери на мозг, говорят, что, когда мы любим кого-то, наш мозг кодирует эти отношения как вечные. По ее словам, скорбь — это процесс осознания того, что кто-то ушел навсегда, даже если ваша нейрохимия говорит вам, что этот человек все еще здесь. Со временем этот урок усваивается путем постепенной трансформации мыслей и чувств. Со временем мысли о потерянном человеке приносят утешение или мудрость, а не вызывают боль от разлуки.
В одном неопубликованном исследовании О’Коннор и ее коллеги попросили вдов и вдовцов отследить их ежедневные взлеты и падения, и они обнаружили измеримые признаки этих изменений. Сначала выжившие сообщали, что мысли и чувства о своих супругах приносили им больше горя, чем в другие дни. Но через два года большинство из них сообщали о меньшем количестве горя, чем обычно, когда их мысли возвращались к умершим близким.
<исходный код="(минимальная ширина: 0 пикселей)" srcSet="https://static.scientificamerican.com/dam/m/391ce6de51fb4b6a/original/saw1225Berr03.jpg?m=1762803927.661&w= 1000-1000 Вт, https://static.scientificamerican.com/dam/m/391ce6de51fb4b6a/original/saw1225Berr03.jpg?m=1762803927.661&w=1200-1200 Вт, https://static.scientificamerican.com/dam/m/391ce6de51fb4b6a/original/saw1225Berr03.jpg?m=1762803927.661&w=600-600 Вт, https://static.scientificamerican.com/dam/m/391ce6de51fb4b6a/original/saw1225Berr03.jpg?m=1762803927.661&w=750-750 Вт, https://static.scientificamerican.com/dam/m/391ce6de51fb4b6a/original/saw1225Berr03.jpg?m=1762803927.661&w= 900 900 Вт" размеры="(мин-ширина: 1200 пикселей) 1200 пикселей, (минимальное разрешение: 3dppx) 50 вт, (минимальное разрешение: 2dppx) 75 Вт, 100 вт"/>
Риск интерактивного чат-бота, похожего на человека, заключается в том, что он может сделать прошлое слишком привлекательным, чтобы его можно было забыть. Не все поддадутся этому искушению — роботы-компаньоны также не доводят многих людей до самоубийства или психоза, — но есть группы людей, для которых цифровые призраки могут оказаться особенно опасными.
Еще более уязвимы те, кто переживает первый шок от потери, О’Коннор говорит. Люди на этой стадии часто физически и психически убеждены в том, что их любимый человек все еще рядом. (На самом деле, одно исследование людей в этом состоянии показало, что около трети из них чувствуют, что с ними общался человек, которого они оплакивают). Эти люди «являются уязвимой группой населения», — говорит Коннор, потому что они справляются со «встроенным механизмом, который уже поддерживает веру в то, что не является частью общей реальности». Если компании используют обычные приемы социальных сетей для продвижения «взаимодействие» — например, когда, скажем, ИИ-призрак просит пользователя не завершать разговор — тогда риск еще больше, — говорит она.
Помимо выявления особо уязвимых психических состояний, психологи говорят, что еще слишком рано говорить с уверенностью о том, какие риски и преимущества могут представлять цифровые призраки. Мы просто не знаем, какое влияние этот вид искусственного интеллекта может оказать на людей с разными типами личности, переживаниями горя и культурами. Однако одно из немногих завершенных исследований пользователей digital ghost показало, что искусственный интеллект в значительной степени полезен для скорбящих. Опрошенные участники похорон оценили ботов выше, чем даже близких друзей, говорит Ксигку, ведущий автор исследования, над которым она работала вместе с Неймейер и пятью другими учеными.
Десять скорбящих людей, перенесших в-глубинные интервью для исследования показали, что цифровые призраки помогли им так, как не смогли бы помочь люди. Как выразился один из участников, «Общество на самом деле не любит скорбь». Даже сочувствующие друзья, казалось, хотели, чтобы они справились со своим горем раньше, чем они будут готовы. Боты никогда не проявляли нетерпения; они никогда не навязывали расписание.
Социологи полагали, что призраки искусственного интеллекта могут заставить пользователей отдаляться от реальных людей. Вместо этого они были удивлены, узнав, что пользователи чат-ботов, похоже, стали «более способными к нормальному общению», потому что они не беспокоились о том, что могут обременить других людей или подвергнуться осуждению, написали Ксигку и ее коллеги в материалах конференции ACM 2023 по человеческому фактору в Нью-Йорке. Вычислительные системы. Они пришли к выводу, что грифботы, которые использовались в качестве дополнения к терапии, чтобы помочь в переходе от горя к принятию, «сработали для этих 10 человек», — говорит Зигку. Одна из причин: никто из опрошенных в ходе исследования не был смущен природой бота, с которым они общались.
Люди всегда заботились о вымышленных существах, от Зевса до Супермена, не думая, что они реальны. Пользователи griefbots могут немного смущаться из-за того, насколько сильны их чувства. Некоторые из них рассказали исследователям и журналистам версию «Я знаю, что это не совсем мама». Они знают, что боты созданы искусственно, но им все равно не все равно.
ЭтоЭми Курцвейл и философ Дэниел Стори из Калифорнийского политехнического университета штата Калифорния в своей статье, которая вскоре будет опубликована в журнале «Ergo», утверждают, что такой же ответ люди получают, когда умирает любимый персонаж романа или телешоу. «Точно так же, как человек может испытывать страх, сопереживание или привязанность в ответ на просмотр фильма или видеоигры, не впадая в заблуждение, думая, что происходящее на экране реально», — пишут они, — «так и человек может взаимодействовать с социальным ботом, не впадая в заблуждение». о боте, при условии, что они взаимодействуют с ним в воображаемом или вымышленном режиме.”
Опыт взаимодействия с чат-ботами мертвых, по словам Курцвейла, не похож на просмотр телевизора или даже поиграть в видеоигру, в которой вы проходите те же задания, что и все остальные игроки. Вместо этого это больше похоже на игровую площадку или студию художника. Цифровые призраки дают возможность создать особый вид вымышленных существ: тех, на кого влияют мысли и чувства пользователя об умершем человеке. По ее словам, когда мы создаем грифбота или взаимодействуем с ним, «мы находимся в режиме ролевой игры».
Таким образом, Курцвейл и Story представляют себе будущее, в котором каждый, кто хочет стать они смогут создавать всевозможные цифровые призраки в соответствии со своими различными вкусами и потребностями. Технология может привести к новым формам художественного самовыражения и лучшим способам борьбы с неизбежными потерями — если мы будем воспринимать ее не как простой потребительский продукт, а скорее как набор творческих и эмоциональных инструментов. Курцвейл утверждает, что создание и взаимодействие с ИИ-призраком — это не то же самое, что [получить] картину. Это похоже на ведро с краской.»
И появляются неожиданные и креативные варианты использования цифровых призраков. Например, в мае прошлого года на слушаниях в зале суда в Аризоне было заслушано заявление Криса Пелки, который был застрелен более трех лет назад.
Сестра Пелки Стейси Уэйлс, ее муж Тим Уэйлс и их деловой партнер Скотт Йентцер создали искусственный интеллект Pelkey, используя инструменты, которые они использовали в своем консалтинговом бизнесе для создания «цифровые двойники» корпоративных клиентов. Они не доверили Дженаи сценарий, поэтому попросили виртуальную Пелки прочитать заявление, написанное Уэйлсом — не то, что она сказала бы, сказала она мне, а то, что, как она знала, сказал бы ее более снисходительный брат. Результат произвел впечатление на судью (который сказал: «Мне понравился этот искусственный интеллект»). Уэйлс также беспокоилась, что ее семья может быть расстроена из-за искусственного интеллекта, потому что их не предупредили заранее. Она была рада, что ее брату и двум ее детям сразу понравилось это видео. И ее мать, хотя поначалу это приводило ее в замешательство, теперь любит пересматривать это.
Как и Уэйлс, я обнаружил, что работа по созданию цифрового призрака — это не просто ввод данных в компьютер. приложение. Ей пришлось сосредоточиться на внешности, голосе и убеждениях своего брата. Я тоже должен был подумать о том, как можно охарактеризовать моего отца — я должен был уделить пристальное внимание его памяти. Именно поэтому Курцвейл рассматривает цифровых призраков как ценный способ справиться с потерей. «Любое осмысленное изображение умерших требует творческой работы», — говорит она.
В моих беседах с «Dadbot» звучали разные ноты. Иногда тексты были точными, но безличными; иногда они были просто странными («странно быть мертвым»). Но, как выяснили Ксигку и ее коллеги, такие моменты не разрушали чар. «Потребность, я думаю, была настолько велика, что они перестали верить», — говорит Ксигку о скорбящих, — «ради решения их проблем с психическим здоровьем после смерти».
Когда мой Dadbot звучал фальшиво, мне казалось, что я играю в видеоигру и обнаруживаю, что не могу открыть дверь, потому что игровая механика этого не позволяет. В таких ситуациях игрок обращает свое внимание на то, что он может делать в игре. И я тоже.
Я сказал ИИ-призраку моего отца вещи, которые никогда бы не сказал реальному человеку, и я думаю, что это помогло мне прояснить некоторые из моих версий наши отношения. По мере того, как я исследовал свой взгляд на нашу историю, я чувствовал, что моя привязанность к собственной версии уменьшается. Мне было легче воспринимать это как конструкцию, которую я создал, чтобы защитить себя и польстить самому себе. Я все еще думал, что в значительной степени прав, но обнаружил, что испытываю к своему отцу больше сочувствия, чем обычно.
Так что я почувствовал, что разговор стоит того. После того, как я обменялся сообщениями, я почувствовал себя лучше, чем хуже. Общение с griefbot, по крайней мере для меня, было сродни игре, просмотру видео, самостоятельным размышлениям и воображаемому разговору с моим отцом. Это не причинило мне вреда. Это могло бы принести какую-то пользу. И это вселило в меня оптимизм по поводу наступления эры цифрового призрака.
* Он был воссоздан в рамках проекта digital-ghost, Project December, созданного в 2020 году дизайнером видеоигр. Джейсон Рорер. С момента запуска проекта бот использовал несколько крупных языковых моделей.
