Генеральный директор OpenAI Сэм Альтман в своем сообщении на X во вторник объявил, что компания вскоре ослабит некоторые ограничения безопасности ChatGPT, что позволит пользователям сделать ответы чат-бота более дружелюбными или «человеческими», а «проверенным взрослым» — участвовать в эротических беседах.
«Мы сделали ChatGPT довольно строгим, чтобы быть уверенными в том, что мы уделяем внимание вопросам психического здоровья. Мы понимаем, что это сделало его менее полезным/интересным для многих пользователей без проблем с психическим здоровьем, но, учитывая серьёзность проблемы, мы хотели сделать всё правильно», — сказал Альтман. «В декабре, по мере более полного внедрения возрастного ценза и в рамках нашего принципа «относитесь к взрослым пользователям как к взрослым», мы разрешим ещё больше, например, эротику для подтверждённых взрослых».
Мы сделали ChatGPT довольно строгим, чтобы быть уверенными в том, что он учитывает проблемы с психическим здоровьем. Мы понимаем, что это сделало его менее полезным/привлекательным для многих пользователей без проблем с психическим здоровьем, но, учитывая серьёзность проблемы, мы хотели сделать всё правильно.
Теперь, когда у нас есть…
– Сэм Альтман (@sama) 14 октября 2025 г.
Это объявление стало заметным поворотным моментом в многомесячных усилиях OpenAI по решению проблем, связанных с отношениями, которые сложились у некоторых психически неуравновешенных пользователей с ChatGPT. Альтман, похоже, заявляет о скорой победе над этими проблемами, утверждая, что OpenAI «удалось смягчить серьёзные проблемы с психическим здоровьем», связанные с ChatGPT. Однако компания практически не предоставила никаких доказательств этого и теперь активно разрабатывает планы по использованию ChatGPT для участия пользователей в чатах сексуального характера.
Этим летом вокруг ChatGPT, в частности, модели GPT-4o, появилось несколько тревожных историй, предполагающих, что чат-бот на основе искусственного интеллекта может заманить уязвимых пользователей в бредовые кроличьи норы. В одном случае ChatGPT, похоже, убедил мужчину, что он — математический гений, которому нужно спасти мир. В другом случае родители подростка подали в суд на OpenAI, утверждая, что ChatGPT поощрял суицидальные мысли их сына за несколько недель до его смерти.
В ответ на это OpenAI выпустила ряд функций безопасности, направленных на борьбу с подхалимством ИИ: тенденцией чат-бота ИИ цеплять пользователей, соглашаясь со всем, что они говорят, даже с негативным поведением.
В августе OpenAI запустила GPT-5 — новую модель искусственного интеллекта, которая демонстрирует более низкий уровень подхалимства и оснащена маршрутизатором, способным распознавать подозрительное поведение пользователей. Месяц спустя OpenAI запустила функции безопасности для несовершеннолетних, включая систему прогнозирования возраста и возможность для родителей контролировать учётную запись подростка в ChatGPT. Во вторник OpenAI объявила о формировании экспертного совета специалистов в области психического здоровья, который будет консультировать компанию по вопросам благополучия и искусственного интеллекта.
Всего через несколько месяцев после появления этих тревожных историй OpenAI, похоже, считает, что проблемы ChatGPT, связанные с уязвимыми пользователями, находятся под контролем. Неясно, продолжают ли пользователи попадать в бредовые кроличьи норы с GPT-5. И хотя GPT-4o больше не используется по умолчанию в ChatGPT, эта модель ИИ по-прежнему доступна и используется тысячами людей.
Появление эротики в ChatGPT — неизведанная территория для OpenAI и вызывает более широкие опасения по поводу того, как уязвимые пользователи будут взаимодействовать с новыми функциями. Хотя Альтман настаивает, что OpenAI не «максимизирует использование» и не оптимизирует взаимодействие, повышение эротики в ChatGPT, безусловно, может привлечь пользователей.
Предоставление чат-ботам возможности участвовать в романтических или эротических ролевых играх стало эффективной стратегией взаимодействия для других поставщиков чат-ботов на основе искусственного интеллекта, таких как Character.AI. Компания привлекла десятки миллионов пользователей, многие из которых активно используют её чат-боты. В 2023 году Character.AI сообщила, что пользователи тратили в среднем два часа в день на общение с её чат-ботами. Компания также столкнулась с судебным иском из-за её политики в отношении уязвимых пользователей.
OpenAI испытывает давление в связи с необходимостью расширения своей пользовательской базы. Хотя ChatGPT уже используют 800 миллионов активных пользователей в неделю, OpenAI соперничает с Google и Meta в создании массовых потребительских продуктов на базе ИИ. Компания также привлекла миллиарды долларов на историческое развитие инфраструктуры, и эти инвестиции OpenAI в конечном итоге должна окупить.
Хотя взрослые, безусловно, заводят романтические отношения с чат-ботами на базе искусственного интеллекта, это также весьма популярно и среди несовершеннолетних. Согласно новому отчёту Центра демократии и технологий, 19% старшеклассников либо состояли в романтических отношениях с чат-ботом на базе искусственного интеллекта, либо знают друга, который так делал.
Альтман утверждает, что OpenAI вскоре разрешит просмотр эротики «для взрослых, прошедших проверку». Представитель OpenAI сообщил TechCrunch, что компания будет полагаться на разрабатываемую ею систему определения возраста, чтобы гарантировать, что эротические функции ChatGPT будут доступны только взрослым пользователям.
Как ранее писал Альтман в блоге, если система прогнозирования возраста OpenAI ошибочно отметит взрослого как несовершеннолетнего, пользователям ChatGPT, возможно, придётся загрузить в ChatGPT фотографию своего удостоверения личности, выданного государством, чтобы исправить ошибку. Альтман пишет, что, хотя это и нарушает конфиденциальность, компания считает это «достойным компромиссом».
Пока неясно, будет ли OpenAI распространять эротику на свои инструменты ИИ для генерации голоса, изображений и видео.
Альтман утверждает, что OpenAI также делает ChatGPT более дружелюбным и эротичным благодаря принципу компании «относиться к взрослым пользователям как к взрослым». За последний год OpenAI перешла на более мягкую стратегию модерации контента для ChatGPT, что позволяет чат-боту быть более терпимым и реже отказываться. В феврале OpenAI пообещала представлять больше политических взглядов в ChatGPT, а в марте компания обновила ChatGPT, разрешив использование изображений символов ненависти, сгенерированных ИИ.
Похоже, что эти политики направлены на то, чтобы сделать ответ ChatGPT более популярным среди широкого круга пользователей. Однако уязвимые пользователи ChatGPT могут получить выгоду от мер безопасности, ограничивающих круг взаимодействия чат-бота. По мере того, как число еженедельно активных пользователей OpenAI приближается к миллиарду, противоречие между ростом и защитой уязвимых пользователей может только обостриться.
Обновление от 14.10.2025 в 16:40 по тихоокеанскому времени: эта история была обновлена с целью включения комментария от OpenAI.
Источник: techcrunch.com
