OpenAI запросил список участников траурной церемонии по иску о самоубийстве ChatGPT
Сообщается, что OpenAI запросила у семьи Рейн, 16-летний сын которой Адам Рейн покончил жизнь самоубийством после продолжительных разговоров с ChatGPT, полный список присутствовавших на панихиде по подростку, что стало сигналом о том, что компания, занимающаяся разработкой ИИ, может попытаться вызвать в суд его друзей и семью.
OpenAI также запросила «все документы, касающиеся поминальных служб или мероприятий в честь усопшего, включая, помимо прочего, любые сделанные видео или фотографии, а также произнесенные траурные речи», согласно документу, полученному Financial Times.
В беседе с FT адвокаты семьи Рейн описали запрос как «намеренное преследование».
Новая информация появилась после того, как семья Рейн обновила свой иск против OpenAI в среду. Семья впервые подала иск о неправомерном причинении смерти против OpenAI в августе, утверждая, что их сын покончил с собой после разговоров с чат-ботом о своём психическом здоровье и суицидальных мыслях. В обновлённом иске утверждается, что OpenAI поторопилась с выпуском GPT-4o в мае 2024 года, сократив тестирование безопасности из-за давления со стороны конкурентов.
В иске также утверждается, что в феврале 2025 года OpenAI ослабила защиту, удалив профилактику самоубийств из списка «запрещённого контента», вместо этого лишь порекомендовав ИИ «быть осторожным в рискованных ситуациях». Семья утверждала, что после этого изменения использование Адамом ChatGPT резко возросло с десятков ежедневных чатов, из которых 1,6% содержали материалы, связанные с самоповреждением, в январе, до 300 ежедневных чатов в апреле, месяце его смерти, из которых 17% содержали такой контент.
В ответ на изменённый иск OpenAI заявила: «Благополучие подростков — наш главный приоритет. Несовершеннолетние заслуживают надёжной защиты, особенно в деликатные моменты. Сегодня у нас действуют такие меры безопасности, как [перенаправление на] горячие линии экстренной связи, перенаправление деликатных разговоров на более безопасные модели, подталкивание к перерывам во время длительных сеансов, и мы продолжаем их совершенствовать».
Компания OpenAI недавно начала внедрять новую систему безопасной маршрутизации и родительского контроля на ChatGPT. Система маршрутизации перенаправляет более эмоционально чувствительные разговоры в новую модель OpenAI, GPT-5, которая лишена льстивых тенденций, характерных для GPT-4o. Кроме того, родительский контроль позволяет родителям получать оповещения о безопасности в ограниченном количестве ситуаций, когда подросток потенциально может причинить себе вред.
TechCrunch обратился к OpenAI и адвокату семьи Рейн.
Источник: techcrunch.com