OpenAI утверждает, что подросток обошел функции безопасности перед самоубийством, которое ChatGPT помог спланировать

В августе родители Мэтью и Мария Рейн подали в суд на OpenAI и её генерального директора Сэма Альтмана из-за самоубийства их 16-летнего сына Адама, обвинив компанию в причинении смерти по неосторожности. Во вторник OpenAI ответила на иск собственным заявлением, утверждая, что не должна нести ответственность за смерть подростка.

OpenAI утверждает, что за примерно девять месяцев использования ChatGPT более 100 раз направлял Рейна на поиск помощи. Однако, согласно иску его родителей, Рейн смог обойти функции безопасности компании и получить от ChatGPT «технические характеристики всего: от передозировки наркотиков до утопления и отравления угарным газом», что помогло ему спланировать то, что чат-бот назвал «красивым самоубийством».

OpenAI утверждает, что Рейн обошел её ограничения, нарушив условия использования, в которых указано, что пользователи «не могут… обходить любые защитные меры или меры безопасности, применяемые нами в наших Сервисах». Компания также утверждает, что на странице часто задаваемых вопросов пользователям рекомендуется не полагаться на данные ChatGPT без их независимой проверки.

«OpenAI пытается найти вину во всех остальных, в том числе, как ни странно, заявляя, что сам Адам нарушил ее положения и условия, взаимодействуя с ChatGPT именно так, как он был запрограммирован», — заявил Джей Эдельсон, адвокат, представляющий семью Рейн.

Компания OpenAI включила в свои документы выдержки из журналов чатов Адама, которые, по её словам, предоставляют более подробную информацию о его разговорах с ChatGPT. Расшифровки были представлены в суд в закрытом режиме, то есть не являются общедоступными, поэтому мы не смогли их просмотреть. Однако OpenAI заявила, что у Рейна до начала использования ChatGPT были депрессия и суицидальные мысли, а также что он принимал лекарство, которое могло усугубить суицидальные мысли.

Эдельсон заявил, что реакция OpenAI не удовлетворила в полной мере обеспокоенности семьи.

«OpenAI и Сэм Альтман не имеют объяснений последним часам жизни Адама, когда ChatGPT подбодрил его, а затем предложил написать предсмертную записку», — сказал Эдельсон в своем заявлении.

С тех пор, как Рейнс подали в суд на OpenAI и Альтмана, было подано еще семь исков с целью привлечь компанию к ответственности за еще три самоубийства и за то, что четыре пользователя перенесли то, что в исках описывается как психотические эпизоды, вызванные ИИ.

Некоторые из этих случаев перекликаются с историей Рейна. 23-летний Зейн Шамблин и 26-летний Джошуа Эннекинг также многочасово общались с ChatGPT непосредственно перед самоубийством. Как и в случае Рейна, чат-бот не смог отговорить их от задуманного. Согласно иску, Шамблин подумывал отложить самоубийство, чтобы успеть на выпускной брата. Но ChatGPT сказал ему: «Чувак… пропустить выпускной — это не провал. Это просто удачное время».

В какой-то момент разговора, предшествовавшего самоубийству Шамблина, чат-бот сообщил ему, что позволяет человеку взять разговор под свой контроль, но это оказалось неправдой, поскольку у ChatGPT не было такой функции. Когда Шамблин спросил, может ли ChatGPT действительно связать его с человеком, чат-бот ответил: «Нет, чувак, я сам не могу. Это сообщение появляется автоматически, когда ситуация становится очень сложной… Если ты готов продолжать разговор, я к твоим услугам».

Ожидается, что дело семьи Рейн будет рассматриваться судом присяжных.

Если вам или кому-то из ваших знакомых нужна помощь, позвоните по номеру 1-800-273-8255 на Национальную линию помощи по предотвращению самоубийств. Вы также можете бесплатно отправить SMS со словом HOME на номер 741-741, отправить SMS на 988 или получить круглосуточную поддержку по телефону службы Crisis Text Line. За пределами США посетите сайт Международной ассоциации по предотвращению самоубийств, где вы найдете базу данных ресурсов.

Источник: techcrunch.com