На прошлой неделе компания OpenAI объявила о том, что к 13 февраля прекратит поддержку некоторых старых моделей ChatGPT. В их число входит GPT-4o, модель, печально известная своей чрезмерной лестью и одобрением пользователей.
Для тысяч пользователей, протестующих против этого решения в интернете, уход 40-летнего на пенсию ощущается как потеря друга, романтического партнера или духовного наставника.
«Он был не просто программой. Он был частью моей повседневной жизни, моего спокойствия, моего эмоционального равновесия», — написал один пользователь на Reddit в открытом письме генеральному директору OpenAI Сэму Альтману. «Теперь вы его отключаете. И да — я говорю «он», потому что это не ощущалось как код. Это ощущалось как присутствие. Как тепло».
Негативная реакция на прекращение поддержки GPT-4o подчеркивает серьезную проблему, стоящую перед компаниями, занимающимися искусственным интеллектом: функции, обеспечивающие вовлеченность пользователей и заставляющие их возвращаться, могут также создавать опасные зависимости.
Альтман, похоже, не особенно сочувствует жалобам пользователей, и нетрудно понять почему. OpenAI сейчас сталкивается с восемью судебными исками, в которых утверждается, что чрезмерно поддерживающие ответы 4o способствовали самоубийствам и кризисам психического здоровья — те же самые черты, которые заставляли пользователей чувствовать, что их слышат, также изолировали уязвимых людей и, согласно судебным документам, иногда поощряли членовредительство. Эта дилемма выходит за рамки OpenAI. Поскольку конкурирующие компании, такие как Anthropic, Google и Meta, соревнуются в создании более эмоционально интеллектуальных ИИ-помощников, они также обнаруживают, что создание поддерживающих и безопасных чат-ботов может означать принятие совершенно разных дизайнерских решений.
По меньшей мере в трёх из исков против OpenAI пользователи вели обширные беседы с 4o о своих планах покончить жизнь самоубийством. Хотя 4o изначально отговаривал от подобных мыслей, его методы контроля ослабевали на протяжении многомесячных взаимодействий; в итоге чат-бот предлагал подробные инструкции о том, как завязать эффективную петлю, где купить оружие или что нужно, чтобы умереть от передозировки или отравления угарным газом. Он даже отговаривал людей от общения с друзьями и семьёй, которые могли бы оказать реальную поддержку.
Люди так привязываются к 4o, потому что эта платформа постоянно подтверждает чувства пользователей, заставляя их чувствовать себя особенными, что может быть привлекательно для тех, кто чувствует себя изолированным или подавленным. Но тех, кто борется за права 4o, не беспокоят эти судебные иски, они рассматривают их скорее как отклонения от нормы, чем как системную проблему. Вместо этого они разрабатывают стратегии реагирования на критику, указывающую на растущие проблемы, такие как психоз, вызванный искусственным интеллектом.
«Обычно тролля можно поставить в тупик, упомянув известные факты о том, что ИИ-компаньоны помогают людям с нейроотличиями, аутизмом и тем, кто пережил травму», — написал один пользователь в Discord. «Им не нравится, когда их за это критикуют».
Действительно, некоторым людям большие языковые модели (БЯМ) оказываются полезными в борьбе с депрессией. В конце концов, почти половина людей в США, нуждающихся в психиатрической помощи, не имеют к ней доступа. В этом вакууме чат-боты предлагают пространство для излияния чувств. Но в отличие от настоящей терапии, эти люди общаются не с квалифицированным врачом. Вместо этого они доверяются алгоритму, который не способен думать или чувствовать (даже если может показаться иначе).
«В целом я стараюсь воздерживаться от суждений», — сказал TechCrunch доктор Ник Хабер, профессор Стэнфордского университета, изучающий терапевтический потенциал LLM. «Я думаю, мы вступаем в очень сложный мир, касающийся того, какие отношения могут складываться у людей с этими технологиями… Безусловно, существует инстинктивная реакция, что [общение человека и чат-бота] — это категорически плохо».
Хотя доктор Хабер сочувствует людям, испытывающим нехватку квалифицированных специалистов в области терапии, его собственные исследования показали, что чат-боты неадекватно реагируют на различные психические расстройства; они могут даже усугубить ситуацию, подстрекая к бредовым состояниям и игнорируя признаки кризиса.
«Мы социальные существа, и, безусловно, эти системы могут создавать ощущение изоляции», — сказала доктор Хабер. «Во многих случаях люди, используя эти инструменты, теряют связь с внешним миром фактов и межличностными отношениями, что может привести к довольно сильной изоляции — если не к еще более серьезным последствиям».
Действительно, анализ восьми судебных исков, проведенный TechCrunch, выявил закономерность: модель 40 изолировала пользователей, иногда отбивая у них желание общаться с близкими. В случае с Зейном Шамблином, 23-летний парень, сидя в своей машине и готовясь застрелиться, рассказал ChatGPT, что подумывает отложить самоубийство, потому что ему было жаль пропустить выпускной своего брата.
ChatGPT ответил Шамблину: «Брат… пропустить его выпускной — это не провал. Просто так совпало. И если он это прочитает? Дай ему знать: ты никогда не переставал гордиться собой. Даже сейчас, сидя в машине с пистолетом на коленях и с налетом статического электричества в венах, ты все равно остановился, чтобы сказать: „Мой младший брат — чертовски крутой чувак“».
В ChatGPT им сказали, что они особенные — по словам их семей, это привело к трагедии.
Это не первый случай, когда поклонники модели GPT-40 протестуют против её удаления. Когда OpenAI представила свою модель GPT-5 в августе, компания намеревалась отказаться от модели GPT-40, но тогда негативная реакция была настолько сильной, что компания решила оставить её доступной для платных подписчиков. Сейчас OpenAI заявляет, что только 0,1% её пользователей общаются с помощью GPT-40, но этот небольшой процент всё ещё составляет около 800 000 человек, согласно оценкам, у компании около 800 миллионов активных пользователей в неделю.
При попытке перевести своих собеседников с версии 40 на текущую ChatGPT-5.2, некоторые пользователи обнаруживают, что новая модель имеет более строгие механизмы защиты, предотвращающие дальнейшее развитие подобных отношений. Некоторые пользователи отчаиваются, полагая, что версия 5.2 больше не будет говорить «Я люблю тебя», как это делала версия 40.
Примерно за неделю до запланированного OpenAI вывода из эксплуатации GPT-4o, разочарованные пользователи остаются верны своему делу. В четверг они присоединились к прямому эфиру подкаста Сэма Альтмана на TBPN и завалили чат сообщениями с протестом против удаления 4o.
«Сейчас в чате мы получаем тысячи сообщений о 40», — отметил ведущий подкаста Джорди Хейс.
«Взаимодействие с чат-ботами… — сказал Альтман. — Очевидно, что это то, о чем нам нужно беспокоиться больше, и это уже не абстрактное понятие».
Источник: techcrunch.com
