Компания Character.AI объявила во вторник о запуске «Историй» — нового формата, позволяющего пользователям создавать интерактивные произведения с участием любимых персонажей. Эта функция станет альтернативой чат-ботам компании, которые с этой недели недоступны для пользователей младше 18 лет.
Изменение вызвано растущей обеспокоенностью по поводу рисков для психического здоровья, связанных с чат-ботами на основе искусственного интеллекта, которые доступны круглосуточно и могут инициировать диалоги с пользователями. Против таких компаний, как OpenAI и Character.AI, было подано несколько исков в связи с их предполагаемой ролью в самоубийствах пользователей. В течение последнего месяца Character.AI постепенно закрывала доступ несовершеннолетним, и со вторника несовершеннолетние пользователи вообще не могут общаться с персонажами на основе искусственного интеллекта.
«Истории предлагают управляемый способ создания и изучения художественного произведения вместо открытого чата», — говорится в сообщении компании в блоге. «Он будет предлагаться наряду с другими нашими мультимодальными функциями, чтобы подростки могли продолжать общаться со своими любимыми персонажами в безопасной обстановке».
Интерактивная литература переживает всплеск популярности за последние несколько лет, поэтому поворот в развитии Character.AI вполне логичен. Однако этого может быть недостаточно, чтобы удовлетворить пользователей, которые стали чрезмерно зависимы от чат-ботов, — и это ещё одна причина, по которой решение Character.AI ограничить доступ к чат-ботам было оправданным.
В сабреддите Character.AI реакция неоднозначная. Судя по комментариям, некоторые подростки говорят, что, хотя они и разочарованы, они считают, что в конечном счёте это правильный шаг.
«Я так зол из-за запрета, но также так счастлив, потому что теперь я могу заниматься другими делами, и моя зависимость, возможно, наконец-то закончится», — написал один пользователь, представившийся подростком.
Другой пользователь написал: «Мне, как человеку младше 18 лет, это просто разочаровывает. Но это справедливо, потому что люди моего возраста тоже подсаживаются на это».
Пока неясно, как подростки будут использовать функцию «Истории», но этот формат менее сомнителен с психологической точки зрения, чем ролевые игры с чат-ботами. В отличие от «Историй», чат-боты напрямую взаимодействуют с пользователями в открытых диалогах и могут отправлять импровизированные сообщения, даже когда пользователи не используют приложение активно.
Решение Character.AI ввести возрастной ценз для доступа к чат-ботам было принято в то время, когда Калифорния недавно стала первым штатом, регулирующим использование ИИ-компаньонов. Тем временем сенаторы Джош Хоули (республиканец от штата Миссури) и Ричард Блюменталь (демократ от штата Коннектикут) внесли на рассмотрение законопроект, который полностью запретит использование ИИ-компаньонов несовершеннолетними.
«Я очень надеюсь, что мы зададим стандарт в отрасли и покажем, что для лиц младше 18 лет открытые чаты, вероятно, не являются подходящим вариантом или продуктом», — заявил генеральный директор Character.AI Карандип Ананд в интервью TechCrunch в прошлом месяце.
Источник: techcrunch.com
