В четырех новых книгах рассматриваются глобальный кризис в области психического здоровья и зарождение алгоритмической терапии.
30 декабря 2025 г.
Мы переживаем глобальный кризис в области психического здоровья. По данным Всемирной организации здравоохранения, более миллиарда человек во всем мире страдают от психических расстройств. Распространенность тревожных расстройств и депрессии растет во многих демографических группах, особенно среди молодежи, а самоубийства ежегодно уносят сотни тысяч жизней по всему миру.
Учитывая очевидный спрос на доступные и недорогие услуги в области психического здоровья, неудивительно, что люди обратились к искусственному интеллекту в поисках возможного облегчения. Миллионы людей уже активно обращаются за терапией к популярным чат-ботам, таким как ChatGPT от OpenAI и Claude от Anthropic, или к специализированным психологическим приложениям, таким как Wysa и Woebot. В более широком масштабе исследователи изучают потенциал ИИ для мониторинга и сбора поведенческих и биометрических данных с помощью носимых и интеллектуальных устройств, анализа огромных объемов клинических данных для получения новых знаний и оказания помощи специалистам в области психического здоровья в предотвращении профессионального выгорания.
Связанная статья
Однако пока этот в значительной степени неконтролируемый эксперимент дал неоднозначные результаты. Многие люди нашли утешение в чат-ботах, основанных на больших языковых моделях (LLM), и некоторые эксперты видят в них потенциал в качестве терапевтов, но другие пользователи были ввергнуты в бредовые спирали галлюцинаторными прихотями ИИ и его задыхающейся льстивостью. Самое трагичное, что несколько семей заявили, что чат-боты способствовали самоубийствам их близких, что привело к судебным искам против компаний, ответственных за эти инструменты. В октябре генеральный директор OpenAI Сэм Альтман сообщил в своем блоге, что 0,15% пользователей ChatGPT «ведут беседы, содержащие явные признаки потенциального планирования или намерения совершить самоубийство». Это примерно миллион человек, которые еженедельно делятся суицидальными мыслями всего лишь с одной из этих программных систем.
Реальные последствия терапии с использованием ИИ неожиданно проявились в 2025 году, когда мы пробирались сквозь огромный массив историй о взаимоотношениях человека и чат-бота, о непрочности защитных механизмов многих программ магистратуры в области права и о рисках передачи глубоко личной информации продуктам, созданным корпорациями, имеющими экономические стимулы для сбора и монетизации таких конфиденциальных данных.
Несколько авторов предвидели этот переломный момент. Их актуальные книги напоминают о том, что, хотя настоящее кажется сплошным потоком прорывов, скандалов и неразберихи, это дезориентирующее время уходит корнями в более глубокие исторические аспекты заботы, технологий и доверия.
Лицензионные модели поведения (LLM) часто называют «черными ящиками», потому что никто точно не знает, как они выдают свои результаты. Внутренние механизмы, определяющие их работу, остаются непрозрачными из-за сложности алгоритмов и огромного объема обучающих данных. В кругах специалистов по психическому здоровью человеческий мозг часто называют «черным ящиком» по аналогичным причинам. Психология, психиатрия и смежные области сталкиваются с невозможностью ясно увидеть, что творится в голове другого человека, не говоря уже о точном определении причин его страданий.
Эти два типа «черных ящиков» теперь взаимодействуют друг с другом, создавая непредсказуемые петли обратной связи, которые могут еще больше затруднить понимание причин проблем с психическим здоровьем у людей и возможных решений. Тревога по поводу этих событий во многом связана с недавним стремительным прогрессом в области искусственного интеллекта, но она также возрождает давние предостережения таких пионеров, как ученый-компьютерщик из Массачусетского технологического института Джозеф Вайзенбаум, который еще в 1960-х годах выступал против компьютерной терапии.
Как искусственный интеллект может спасать жизни
Шарлотта Близ
Шарлотта Близ, философ медицины, в своей книге «Доктор Бот: почему врачи могут нас подвести — и как ИИ может спасти жизни» отстаивает оптимистический взгляд на проблему. В ней подробно рассматриваются возможные позитивные последствия применения ИИ в различных областях медицины. Хотя она трезво оценивает риски, предупреждая, что читатели, ожидающие «восторженного признания в любви к технологиям», будут разочарованы, она предполагает, что эти модели могут помочь облегчить страдания пациентов и снизить уровень профессионального выгорания среди врачей.
«Системы здравоохранения рушатся под давлением пациентов», — пишет Близ. «Увеличение нагрузки на меньшее количество врачей создает идеальную среду для ошибок», и «из-за ощутимой нехватки врачей и увеличения времени ожидания для пациентов многие из нас испытывают глубокое разочарование».
Близ считает, что ИИ может не только облегчить огромную рабочую нагрузку медицинских работников, но и снять напряжение, которое всегда существовало между некоторыми пациентами и их опекунами. Например, люди часто не обращаются за необходимой помощью, потому что боятся или опасаются осуждения со стороны медицинских работников; это особенно актуально, если у них есть проблемы с психическим здоровьем. По ее мнению, ИИ может позволить большему числу людей делиться своими проблемами.
Связанная статья
Однако она понимает, что эти предполагаемые преимущества необходимо сопоставлять с серьезными недостатками. Например, согласно исследованию 2025 года, ИИ-терапевты могут давать противоречивые и даже опасные ответы пользователям-людям, а также вызывают опасения по поводу конфиденциальности, учитывая, что компании, занимающиеся ИИ, в настоящее время не связаны теми же стандартами конфиденциальности и HIPAA, что и лицензированные терапевты.
Близ — эксперт в этой области, но мотивация для написания книги также носит личный характер: у неё двое братьев и сестёр с неизлечимой формой мышечной дистрофии, один из которых ждал диагноза десятилетиями. Во время написания книги она также потеряла партнёра от рака и отца от деменции в течение ужасных шести месяцев. «Я своими глазами видела невероятный талант врачей и доброту медицинских работников, — пишет она. — Но я также наблюдала, как всё может пойти не так в уходе».
Даниэль Оберхаус
Подобное напряжение пронизывает захватывающую книгу Даниэля Оберхауса «Кремниевый психотерапевт: как искусственный интеллект превратил мир в психиатрическую лечебницу». Оберхаус начинает с трагедии: потери младшей сестры, покончившей жизнь самоубийством. В ходе «специфического для XXI века процесса скорби», заключавшегося в разборе её цифровых останков, Оберхаус задавался вопросом, могли ли технологии облегчить бремя психических проблем, которые преследовали её с детства.
«Казалось, вполне возможно, что все эти личные данные могли содержать важные подсказки, которые ее специалисты по психическому здоровью могли бы использовать для более эффективного лечения», — пишет он. «Что если бы алгоритмы, работающие на смартфоне или ноутбуке моей сестры, использовали эти данные, чтобы понять, когда она находится в состоянии стресса? Могло ли это привести к своевременному вмешательству, которое спасло бы ей жизнь? Хотела бы она этого, даже если бы это произошло?»
Концепция цифрового фенотипирования, при которой цифровое поведение человека может быть использовано для поиска признаков стресса или болезни, кажется элегантной в теории. Однако она может стать проблематичной, если будет интегрирована в область психиатрического искусственного интеллекта (ИИИ), которая выходит далеко за рамки терапии с использованием чат-ботов.
Оберхаус подчеркивает, что цифровые подсказки могут фактически усугубить существующие проблемы современной психиатрии — дисциплины, которая по-прежнему принципиально не уверена в первопричинах психических заболеваний и расстройств. Появление PAI, по его словам, является «логическим эквивалентом присоединения физики к астрологии». Другими словами, данные, полученные с помощью цифрового фенотипирования, столь же точны, как и физические измерения положения планет, но затем они интегрируются в более широкую систему — в данном случае, в психиатрию, — которая, как и астрология, основана на ненадежных предположениях.
Оберхаус, использующий термин «психиатрия на основе данных о поведении» для описания передачи принятия клинических решений на аутсорсинг магистрам права, считает, что такой подход не может избежать фундаментальных проблем, стоящих перед психиатрией. На самом деле, он может усугубить проблему, приведя к атрофии навыков и суждений терапевтов-людей по мере того, как они будут все больше зависеть от систем искусственного интеллекта.
Связанная статья
Он также использует психиатрические лечебницы прошлого, где пациенты, находящиеся в учреждениях, лишались права на свободу, неприкосновенность частной жизни, достоинство и контроль над своей жизнью, как отправную точку для более коварного цифрового плена, который может возникнуть из-за искусственного интеллекта. Пользователи LLM уже жертвуют конфиденциальностью, сообщая чат-ботам конфиденциальную личную информацию, которую затем компании извлекают и монетизируют, способствуя созданию новой экономики слежки. Свобода и достоинство оказываются под угрозой, когда сложные внутренние переживания превращаются в потоки данных, адаптированные для анализа с помощью ИИ.
Искусственный интеллект в качестве терапевта может свести человечество к шаблонам прогнозирования, тем самым пожертвовав интимным, индивидуальным подходом, который ожидается от традиционных терапевтов-людей. «Логика искусственного интеллекта ведет к будущему, где мы все можем оказаться пациентами алгоритмической психиатрической лечебницы, управляемой цифровыми надзирателями», — пишет Оберхаус. «В алгоритмической лечебнице нет необходимости в решетках на окнах или белых мягких комнатах, потому что нет возможности сбежать. Лечебница уже повсюду — в ваших домах и офисах, школах и больницах, залах суда и казармах. Везде, где есть подключение к интернету, лечебница ждет».
Критический анализ
Лечение психических заболеваний с помощью ИИ
Эоин Фуллам
Эоин Фуллам, исследователь, изучающий взаимосвязь технологий и психического здоровья, разделяет некоторые из тех же опасений в своей книге «Чат-бот-терапия: критический анализ лечения психических заболеваний с помощью ИИ». Эта содержательная научная работа анализирует предположения, лежащие в основе автоматизированного лечения, предлагаемого чат-ботами на основе ИИ, и то, как капиталистические стимулы могут исказить эти инструменты.
Фуллам отмечает, что капиталистический менталитет, лежащий в основе новых технологий, «часто приводит к сомнительным, незаконным и противоправным деловым практикам, в которых интересы потребителей отходят на второй план по сравнению со стратегиями доминирования на рынке».
Это не означает, что создатели терапевтических ботов «неизбежно будут совершать противоправные действия, противоречащие интересам пользователей, в погоне за доминированием на рынке», — пишет Фуллам.
Однако он отмечает, что успех терапии с использованием ИИ зависит от неразрывно связанных между собой стремлений к зарабатыванию денег и исцелению людей. В этой логике эксплуатация и терапия подпитывают друг друга: каждый сеанс цифровой терапии генерирует данные, и эти данные питают систему, которая получает прибыль, поскольку пользователи, не платящие за лечение, обращаются за помощью. Чем эффективнее кажется терапия, тем сильнее замыкается этот цикл, затрудняя разграничение между лечением и коммерциализацией. «Чем больше пользы получают пользователи от приложения с точки зрения его терапевтического или любого другого вмешательства в области психического здоровья, — пишет он, — тем больше они подвергаются эксплуатации».
Это ощущение экономического и психологического уробороса — змеи, пожирающей собственный хвост, — служит центральной метафорой в «Сайке», дебютном романе Фреда Лунцера, автора, имеющего опыт исследований в области искусственного интеллекта.
Описанный как «история о том, как парень встречает девушку и ИИ-психотерапевта», фильм «Sike» рассказывает об Адриане, молодом лондонце, зарабатывающем на жизнь написанием рэп-текстов, и его романе с Маки, бизнес-профессионалом, обладающим талантом выявлять прибыльные технологии на стадии бета-тестирования.
Фред Лунцер
Название отсылает к эффектному коммерческому ИИ-терапевту по имени Сайк, который загружается в умные очки и используется Адрианом для анализа его многочисленных тревог. «Когда я зарегистрировался в Sike, мы настроили мою панель управления — широкую черную панель, похожую на кабину пилота самолета, которая отображала мои ежедневные „жизненно важные показатели“», — рассказывает Адриан. «Sike может анализировать вашу походку, ваш зрительный контакт, то, о чем вы говорите, что вы носите, как часто вы писаете, какаете, смеетесь, плачете, целуетесь, лжете, жалуетесь и кашляете».
Иными словами, Sike — это совершенный цифровой фенотипизатор, постоянно и исчерпывающе анализирующий все аспекты повседневной жизни пользователя. Неожиданно Лунцер решил сделать Sike продуктом класса люкс, доступным только подписчикам, которые могут позволить себе платить 2000 фунтов стерлингов в месяц.
Разбогатев благодаря участию в создании хитовой песни, Адриан начинает полагаться на Сайка как на надежного посредника между своим внутренним и внешним миром. Роман исследует влияние приложения на благополучие обеспеченных людей, рассказывая о богатых людях, которые добровольно отправляются в своего рода «бутиковую» версию цифрового психиатрического учреждения, описанного Оберхаусом.
Единственное реальное ощущение опасности в романе «Сайк» связано с японским пыточным яйцом (даже не спрашивайте). Роман странным образом обходит стороной более широкие антиутопические последствия своей темы, предпочитая пьяные разговоры в дорогих ресторанах и на званых ужинах для элиты.
Внезапный взлет искусственного интеллекта-терапевта кажется поразительно футуристичным, словно это должно было произойти в какое-то более позднее время, когда улицы будут убираться сами собой, а мы будем путешествовать по миру по пневматическим трубам.
Создатель Sike, по мнению Адриана, просто «отличный парень», несмотря на его техно-мессианское видение, заключающееся в обучении приложения исцелять болезни целых наций. Всегда кажется, что должен был произойти какой-то неприятный поворот, но в итоге этого так и не происходит, оставляя читателя с чувством незавершенности.
Хотя действие романа «Сайк» происходит в наши дни, внезапное появление ИИ-терапевта — как в реальной жизни, так и в художественной литературе — кажется поразительно футуристичным, словно это должно было произойти в какое-то более позднее время, когда улицы будут сами собой убираться, а мы будем путешествовать по миру по пневматическим трубам. Но это слияние психического здоровья и искусственного интеллекта готовилось более полувека. Любимый астроном Карл Саган, например, когда-то представлял себе «сеть компьютерных психотерапевтических терминалов, нечто вроде массивов больших телефонных будок», которая могла бы удовлетворить растущий спрос на услуги в области психического здоровья.
Оберхаус отмечает, что одна из первых версий обучаемой нейронной сети, известная как персептрон, была разработана не математиком, а психологом Фрэнком Розенблаттом в Корнелльской авиационной лаборатории в 1958 году. Потенциальная польза ИИ в области психического здоровья получила широкое признание к 1960-м годам, вдохновив первых компьютерных психотерапевтов, таких как скрипт DOCTOR, работавший на чат-боте ELIZA, разработанном Джозефом Вайзенбаумом, который упоминается во всех трех научно-популярных книгах, упомянутых в этой статье.
Вайценбаум, скончавшийся в 2008 году, был глубоко обеспокоен возможностью компьютерной терапии. «Компьютеры могут выносить психиатрические заключения, — писал он в своей книге 1976 года «Компьютерная мощь и человеческий разум». — Они могут подбрасывать монеты гораздо более изощренными способами, чем самый терпеливый человек. Суть в том, что им не следует давать такие задачи. В некоторых случаях они даже могут прийти к «правильным» решениям, но всегда и обязательно на основаниях, которые ни один человек не должен быть готов принять».
Это предостережение, которое стоит иметь в виду. По мере того, как ИИ-терапевты становятся все более распространенными, мы наблюдаем знакомую динамику: инструменты, разработанные с, казалось бы, благими намерениями, переплетаются с системами, способными использовать, отслеживать и изменять поведение человека. В лихорадочной попытке открыть новые возможности для пациентов, остро нуждающихся в поддержке психического здоровья, мы можем закрывать за ними другие двери.
Бекки Феррейра — научный журналист, проживающая в северной части штата Нью-Йорк, и автор книги «Первый контакт: история нашей одержимости инопланетянами».
Источник: www.technologyreview.com
