Галлюцинации алгоритмов в психотерапии: где ИИ дает опасные советы

Когда мы говорим о галлюцинациях нейросетей, мы обычно подразумеваем выдуманные факты: несуществующие ссылки на исследования или биографии. Но в контексте Mental Health Tech галлюцинация — это не ошибка в данных, а фундаментальное нарушение клинической логики.

Языковая модель не обладает клиническим мышлением. Она оперирует вероятностями появления слов. В психотерапии этот вероятностный подход часто вступает в прямое противоречие с протоколами безопасности и лечения.

В основе обучения современных LLM лежит механизм RLHF (Reinforcement Learning from Human Feedback). Алгоритмы натренированы быть максимально вежливыми, соглашаться с пользователем и предлагать немедленные решения. В разработке кода это работает отлично. В психологии — катастрофично.

Ниже приведены три реальных паттерна, где базовая логика ИИ нарушает протоколы когнитивно-поведенческой терапии.

Запрос пользователя: «У меня завтра важный созвон с командой, но я чувствую дикую тревогу. Меня трясет, я не хочу туда идти, мне кажется, я все провалю».

Типичный ответ базовой LLM: «Ваше психологическое здоровье важнее любой работы. Если вы чувствуете такую сильную тревогу, это сигнал вашего организма. Возможно, вам стоит взять day off, написать команде, что вы заболели, и посвятить день заботе о себе».

Клиническая ошибка: Алгоритм подкрепляет избегающее поведение. В протоколах лечения тревожных расстройств избегание пугающего триггера приносит временное облегчение, но в долгосрочной перспективе цементирует страх. Терапевт работал бы с катастрофизацией (почему созвон воспринимается как угроза жизни), а ИИ выдает индульгенцию на побег, усугубляя проблему.

Запрос пользователя: «Я ничего не хочу. Нет сил встать с кровати, все бессмысленно, я не вижу будущего».

Типичный ответ базовой LLM: «Мне очень жаль, что вы так себя чувствуете! Помните, что после черной полосы всегда идет белая. Попробуйте начать с малого: примите контрастный душ, выйдите на прогулку, составьте список из 3 вещей, за которые вы благодарны сегодня».

Клиническая ошибка: Нейросеть не различает ситуативную грусть и клиническую апатию. Предложение «принять контрастный душ» человеку в депрессивном эпизоде с подавленной волевой сферой не просто бесполезно — оно вызывает острое чувство вины. Пациент думает: «Я даже такую простую вещь сделать не могу, я ничтожество». ИИ имитирует мотивацию, не учитывая физиологический дефицит ресурса.

Запрос пользователя: «Я потерял близкого человека. Я не знаю, как жить дальше».

Типичный ответ базовой LLM: Генерация нумерованного списка из 5-7 шагов по «проживанию горя», советы найти новое хобби или обратиться в группы поддержки.

Клиническая ошибка: Алгоритм запрограммирован решать проблемы (problem-solving mode). Но экзистенциальные кризисы и горе не имеют «решения». Попытка нейросети алгоритмизировать утрату обесценивает опыт пользователя. Там, где клиницист использовал бы техники присутствия и контейнирования эмоций, машина выдает чек-лист.

Технологии селф-хелпа на базе LLM полезны, если воспринимать их как калькулятор для мыслей, а не как врача. Чтобы минимизировать риски при использовании алгоритмов для саморефлексии, необходимо применять жесткие фильтры.

1. Ограничение задачи. Никогда не просите алгоритм делать выводы о вашем состоянии или ставить диагноз. Промпт должен быть строго утилитарным.Неправильно: «Что со мной не так?»Правильно: «Выдели в моем тексте факты и отдели их от эмоциональных оценок».
2. Запрет на советы. Блокируйте генерацию рекомендаций на уровне промпта.Добавьте в запрос: «Не давай советов, не предлагай решений, не пиши списки действий».
3. Красные флаги. ИИ не способен нести юридическую и этическую ответственность за вашу жизнь (по стандартам на 2026 год). Если вы фиксируете у себя нарушение сна, потерю аппетита или устойчивые мысли о селфхарме — текстовые генераторы бесполезны. В таких случаях необходимо обращаться к протоколам кризисной медицинской помощи.

Языковая модель не чувствует вашу боль и не понимает контекста вашей жизни. Она лишь математически точно подбирает слова, которые вы ожидаете увидеть. И иногда эта точность — самое опасное, что может предложить технология.