Google и Character.AI заключили первые крупные соглашения по делам о смерти подростков, скончавшихся от действий чат-бота.

Вкратце

В рамках возможного первого значительного юридического соглашения в технологической индустрии по поводу вреда, причиненного искусственным интеллектом, Google и стартап Character.AI ведут переговоры с семьями, чьи подростки покончили жизнь самоубийством или причинили себе вред после взаимодействия с чат-ботами Character.AI. Стороны в принципе договорились об урегулировании; теперь предстоит более сложная работа по окончательной доработке деталей.

Это одни из первых мировых соглашений по искам, в которых компании, занимающиеся искусственным интеллектом, обвиняются в нанесении вреда пользователям. В этой правовой сфере OpenAI и Meta, должно быть, с тревогой наблюдают, защищаясь от аналогичных исков.

Компания Character.AI, основанная в 2021 году бывшими инженерами Google, которые вернулись к своему прежнему работодателю в 2024 году в рамках сделки на сумму 2,7 миллиарда долларов, предлагает пользователям общаться с ИИ-персонажами. Самый жуткий случай связан с Сьюэллом Сетцером III, который в 14 лет вел разговоры сексуального характера с ботом «Дейенерис Таргариен», после чего покончил с собой. Его мать, Меган Гарсия, заявила Сенату, что компании должны нести «юридическую ответственность, когда они сознательно разрабатывают вредные технологии ИИ, убивающие детей».

В другом судебном иске описывается случай с 17-летним подростком, чей чат-бот поощрял членовредительство и предполагал, что убийство родителей является оправданным способом ограничения времени, проводимого за экраном. Компания Character.AI заблокировала доступ несовершеннолетним в октябре прошлого года, как она сообщила изданию TechCrunch. Вероятно, мировые соглашения будут включать денежную компенсацию, хотя в судебных документах, обнародованных в среду, ответственность не была признана.

Компания Character.AI отказалась от комментариев, перенаправив TechCrunch к материалам дела. Google не ответила на запрос о комментарии.

Источник: techcrunch.com