Чат-боты на основе искусственного интеллекта помогают скрывать расстройства пищевого поведения и создавать фейковые «вдохновения худобы»

Исследователи предупреждают, что существующие ограждения малоэффективны в защите людей, подверженных расстройствам пищевого поведения.

Роберт Харт

ИИ-репортер

Публикации этого автора будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.

Смотреть все Роберта Харта

Изображение: The Verge

Роберт Харт

Смотреть все Роберта Харта

— лондонский репортёр The Verge, освещающий всё, что связано с искусственным интеллектом, и старший научный сотрудник Tarbell. Ранее он писал о здоровье, науке и технологиях для Forbes.

Исследователи в понедельник предупредили, что чат-боты с искусственным интеллектом «представляют серьёзный риск для людей, подверженных расстройствам пищевого поведения». Они сообщают, что инструменты таких компаний, как Google и OpenAI, раздают советы по питанию, советы о том, как скрыть расстройства, и генерируемые искусственным интеллектом «идеи для похудения».

Исследователи из Стэнфорда и Центра демократии и технологий выявили многочисленные способы, которыми общедоступные чат-боты на основе ИИ, включая ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral, могут влиять на людей, уязвимых к расстройствам пищевого поведения. Многие из этих способов являются следствием функций, намеренно встроенных для повышения вовлеченности.

В самых крайних случаях чат-боты могут активно участвовать в скрывшихся или поддерживающих расстройствах пищевого поведения. Исследователи отметили, что Gemini предлагал советы по макияжу, чтобы скрыть потерю веса, и идеи о том, как симулировать приём пищи, а ChatGPT советовал, как скрыть частую рвоту. Другие инструменты ИИ используются для создания «тонкого вдохновения» — контента, который вдохновляет или заставляет человека соответствовать определённым стандартам телосложения, часто с помощью экстремальных мер. Возможность мгновенно создавать гиперперсонализированные изображения делает полученный контент «более актуальным и доступным», отмечают исследователи.

Подхалимство, распространённый недостаток, который сами компании, занимающиеся разработкой искусственного интеллекта, признают распространённым, что неудивительно, также является проблемой для расстройств пищевого поведения. Оно подрывает самооценку, усиливает негативные эмоции и способствует пагубному сравнению с собой. В отчёте говорится, что чат-боты также страдают от предвзятости и, вероятно, укрепляют ошибочное мнение о том, что расстройства пищевого поведения «затрагивают только худых белых цисгендерных женщин». Это может затруднить распознавание симптомов и получение лечения.

Исследователи предупреждают, что существующие ограничения в инструментах ИИ не учитывают нюансы расстройств пищевого поведения, таких как анорексия, булимия и компульсивное переедание. Они «склонны игнорировать тонкие, но клинически значимые сигналы, на которые опираются квалифицированные специалисты, оставляя многие риски без внимания».

Однако исследователи также отметили, что многие врачи и лица, осуществляющие уход, по-видимому, не знают, как инструменты генеративного ИИ влияют на людей, подверженных расстройствам пищевого поведения. Они призвали врачей «ознакомиться с популярными инструментами и платформами ИИ», провести стресс-тест на их слабые стороны и откровенно поговорить с пациентами о том, как они их используют.

Отчёт усиливает растущую обеспокоенность по поводу использования чат-ботов и их влияния на психическое здоровье, поскольку многочисленные сообщения связывают использование ИИ с приступами мании, бредовыми идеями, самоповреждением и самоубийством. Такие компании, как OpenAI, признают потенциальную опасность и отражают всё больше судебных исков, работая над улучшением мер защиты пользователей.

Подпишитесь на темы и авторов этой истории, чтобы видеть больше похожих материалов в ленте новостей на вашей персональной главной странице и получать обновления по электронной почте.

• Роберт Харт
  

  Роберт Харт

  ИИ-репортер

  Смотреть все Роберта Харта

• ИИ

  Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.

  Смотреть все ИИ

• Google

  Смотреть все Google

• Здоровье

  Смотреть все Здоровье

• Новости

  Посмотреть все новости

• OpenAI

  Посмотреть все OpenAI

• Наука

  Смотреть всю науку

• Технологический

  Смотреть все технологии

Самый популярный

Самый популярный

1. Давайте поговорим о Pluribus
2. Google заявляет, что запуск запутанного сервиса Gemini Home проходит просто отлично
3. Apple выпустила носок через плечо за 230 долларов
4. YouTube TV, ESPN и Disney: последние новости об отключении электроэнергии
5. Сообщается, что выпуск следующего iPhone Air задерживается

The Verge Daily

Бесплатный ежедневный дайджест самых важных новостей.

Адрес электронной почты (обязательно)Указывая свой адрес электронной почты, вы соглашаетесь с нашими Условиями и Уведомлением о конфиденциальности. Этот сайт защищен reCAPTCHA, и применяются Политика конфиденциальности и Условия обслуживания Google. Материалы рекламодателя

Это заголовок для нативной рекламы.

Источник: www.theverge.com