Трое из десяти подростков в США ежедневно используют чат-боты на основе искусственного интеллекта, но опасения по поводу безопасности растут

Исследовательский центр Pew Research Center во вторник опубликовал исследование, показывающее, как молодые люди используют как социальные сети, так и чат-боты с искусственным интеллектом.

Безопасность подростков в интернете остается актуальной темой во всем мире, и Австралия планирует ввести запрет на использование социальных сетей для лиц младше 16 лет, начиная со среды. Влияние социальных сетей на психическое здоровье подростков широко обсуждается — некоторые исследования показывают, как онлайн-сообщества могут улучшить психическое здоровье, в то время как другие исследования указывают на негативные последствия «думскроллинга» или слишком долгого пребывания в интернете. В прошлом году главный хирург США даже призвал платформы социальных сетей размещать предупреждающие надписи на своих продуктах.

Исследование Pew показало, что 97% подростков ежедневно пользуются интернетом, при этом около 40% респондентов заявили, что они «почти постоянно находятся в сети». Хотя это и меньше, чем в прошлогоднем опросе (46%), это значительно выше, чем результаты десятилетней давности, когда 24% подростков заявили, что находятся в сети почти постоянно.

Однако по мере роста распространенности чат-ботов с искусственным интеллектом в США эта технология стала еще одним фактором влияния интернета на американскую молодежь.

Согласно исследованию Pew, около трех из десяти американских подростков ежедневно используют чат-боты с искусственным интеллектом, при этом 4% говорят, что используют их почти постоянно. 59% подростков используют ChatGPT, который более чем в два раза популярнее двух следующих по популярности чат-ботов: Gemini от Google (23%) и Meta AI (20%). 46% американских подростков используют чат-боты с искусственным интеллектом как минимум несколько раз в неделю, а 36% сообщают, что вообще не используют чат-боты с искусственным интеллектом.

В исследовании Pew также подробно описывается, как раса, возраст и социальный класс влияют на использование чат-ботов подростками.

Около 68% опрошенных чернокожих и латиноамериканских подростков заявили, что используют чат-боты, по сравнению с 58% белых респондентов. В частности, чернокожие подростки примерно в два раза чаще использовали Gemini и Meta AI, чем белые подростки.

«Расовые и этнические различия в использовании чат-ботов подростками поразительны […] но трудно строить предположения о причинах этих различий», — сказала TechCrunch Мишель Фаверио, научный сотрудник исследовательского центра Pew Research Center. «Эта закономерность согласуется с другими расовыми и этническими различиями, которые мы наблюдали в использовании технологий подростками. Чернокожие и латиноамериканские подростки чаще, чем белые подростки, говорят, что они пользуются определенными социальными сетями, такими как TikTok, YouTube и Instagram».

В целом, среди всех пользователей интернета чернокожие (55%) и латиноамериканские подростки (52%) примерно в два раза чаще, чем белые подростки (27%), заявляли, что находятся в сети «почти постоянно».

Подростки старшего возраста (от 15 до 17 лет) чаще используют как социальные сети, так и чат-боты с искусственным интеллектом, чем подростки младшего возраста (от 13 до 14 лет). Что касается уровня дохода семьи, около 62% подростков, проживающих в семьях с доходом более 75 000 долларов в год, заявили, что используют ChatGPT, по сравнению с 52% подростков с доходом ниже этого порога. Однако использование Character.AI вдвое популярнее (14%) в семьях с доходом ниже 75 000 долларов.

Хотя подростки могут начинать использовать эти инструменты для решения простых вопросов или помощи с домашним заданием, их связь с чат-ботами на основе искусственного интеллекта может стать зависимостью и потенциально опасной.

Семьи как минимум двух подростков, Адама Рейна и Амори Лейси, подали в суд на компанию OpenAI, разработчика ChatGPT, за ее предполагаемую причастность к самоубийствам их детей — в обоих случаях ChatGPT предоставила подросткам подробные инструкции о том, как повеситься, которые, к сожалению, оказались эффективными.

(Компания OpenAI утверждает, что не должна нести ответственность за смерть Рейна, поскольку шестнадцатилетний подросток якобы обошел функции безопасности ChatGPT и, таким образом, нарушил условия использования чат-бота; компания пока не ответила на жалобу семьи Лейси.)

Платформа Character.AI, предлагающая ролевые игры с использованием ИИ, также подвергается критике за свое влияние на психическое здоровье подростков; по меньшей мере двое подростков покончили жизнь самоубийством после продолжительных разговоров с чат-ботами на основе ИИ. В итоге стартап принял решение прекратить предоставление своих чат-ботов несовершеннолетним и вместо этого запустил продукт под названием «Истории» для несовершеннолетних пользователей, который больше напоминает игру-квест с выбором вариантов развития событий.

Опыт, отраженный в судебных исках против этих компаний, составляет лишь небольшой процент всех взаимодействий, происходящих на платформах ChatGPT или Character.AI. Во многих случаях разговоры с чат-ботами могут быть невероятно безобидными. Согласно данным OpenAI, только 0,15% активных пользователей ChatGPT еженедельно обсуждают с чат-ботом тему самоубийства — но на платформе с 800 миллионами активных пользователей в неделю этот небольшой процент отражает более миллиона человек, которые еженедельно обсуждают самоубийство с чат-ботом.

«Даже если инструменты [компаний, занимающихся ИИ] не были разработаны для оказания эмоциональной поддержки, люди используют их именно таким образом, а это значит, что компании несут ответственность за корректировку своих моделей для решения проблем, связанных с благополучием пользователей», — заявила TechCrunch доктор Нина Васан, психиатр и директор Brainstorm: Стэнфордской лаборатории инноваций в области психического здоровья.

Источник: techcrunch.com