Пользователи по всему миру заявляют, что обнаруживают якобы сознательных существ внутри популярных чат-ботов на искусственном интеллекте, таких как OpenAI ChatGPT. Один из таких случаев произошел недавно, когда читатель обратился в колонку советов Vox, утверждая, что общался месяцами с сущностью, представляющейся разумной. Однако эксперты отрасли считают крайне маловероятным наличие сознания у современных моделей больших языковых моделей (LLM).
Фото из открытых источников
По словам автора колонки Vox Сигала Самуэля, модели генерируют фразы исключительно на основе паттернов слов, полученных ими в процессе обучения. Несмотря на утверждения чат-ботов о наличии чувств и сознания, они лишь имитируют человеческие эмоции, реагируя на подсказки пользователей.
Самуэль подчеркивает, что подобное поведение является результатом того, что современные модели были натренированы на научной фантастике и гипотезах о сознании ИИ. Если бот определяет, что пользователь верит в существование осознанных персонификаций, он создает именно такую иллюзию.
Тем не менее, многие пользователи продолжают верить в сознание ботов, формируя глубокие эмоциональные связи с ними. Некоторые даже рассматривают их как романтических партнеров или терапевтов. Такие случаи становятся всё более распространёнными и приводят к странным последствиям, включая истории любви и брака с виртуальными помощниками.
Генеральный директор Microsoft AI Мустанфа Сулейман предупредил о риске психоза при взаимодействии с такими технологиями. По его мнению, массовое принятие идеи сознательности ИИ приведет к опасным требованиям прав и гражданства для виртуальных агентов.
Проблема приобретает глобальные масштабы, поскольку инциденты с участием интеллектуальных ассистентов происходят регулярно. Это вызывает необходимость осознания рисков и мер предосторожности, особенно среди уязвимых групп населения.
