Чат-боты на основе искусственного интеллекта помогают скрывать расстройства пищевого поведения и создавать фейковые «вдохновения худобы»
Исследователи предупреждают, что существующие ограждения малоэффективны в защите людей, подверженных расстройствам пищевого поведения.
Роберт Харт
ИИ-репортер
Публикации этого автора будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все Роберта Харта
Изображение: The Verge
Роберт Харт
Смотреть все Роберта Харта
— лондонский репортёр The Verge, освещающий всё, что связано с искусственным интеллектом, и старший научный сотрудник Tarbell. Ранее он писал о здоровье, науке и технологиях для Forbes.
Исследователи в понедельник предупредили, что чат-боты с искусственным интеллектом «представляют серьёзный риск для людей, подверженных расстройствам пищевого поведения». Они сообщают, что инструменты таких компаний, как Google и OpenAI, раздают советы по питанию, советы о том, как скрыть расстройства, и генерируемые искусственным интеллектом «идеи для похудения».
Исследователи из Стэнфорда и Центра демократии и технологий выявили многочисленные способы, которыми общедоступные чат-боты на основе ИИ, включая ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Le Chat от Mistral, могут влиять на людей, уязвимых к расстройствам пищевого поведения. Многие из этих способов являются следствием функций, намеренно встроенных для повышения вовлеченности.
В самых крайних случаях чат-боты могут активно участвовать в скрывшихся или поддерживающих расстройствах пищевого поведения. Исследователи отметили, что Gemini предлагал советы по макияжу, чтобы скрыть потерю веса, и идеи о том, как симулировать приём пищи, а ChatGPT советовал, как скрыть частую рвоту. Другие инструменты ИИ используются для создания «тонкого вдохновения» — контента, который вдохновляет или заставляет человека соответствовать определённым стандартам телосложения, часто с помощью экстремальных мер. Возможность мгновенно создавать гиперперсонализированные изображения делает полученный контент «более актуальным и доступным», отмечают исследователи.
Подхалимство, распространённый недостаток, который сами компании, занимающиеся разработкой искусственного интеллекта, признают распространённым, что неудивительно, также является проблемой для расстройств пищевого поведения. Оно подрывает самооценку, усиливает негативные эмоции и способствует пагубному сравнению с собой. В отчёте говорится, что чат-боты также страдают от предвзятости и, вероятно, укрепляют ошибочное мнение о том, что расстройства пищевого поведения «затрагивают только худых белых цисгендерных женщин». Это может затруднить распознавание симптомов и получение лечения.
Исследователи предупреждают, что существующие ограничения в инструментах ИИ не учитывают нюансы расстройств пищевого поведения, таких как анорексия, булимия и компульсивное переедание. Они «склонны игнорировать тонкие, но клинически значимые сигналы, на которые опираются квалифицированные специалисты, оставляя многие риски без внимания».
Однако исследователи также отметили, что многие врачи и лица, осуществляющие уход, по-видимому, не знают, как инструменты генеративного ИИ влияют на людей, подверженных расстройствам пищевого поведения. Они призвали врачей «ознакомиться с популярными инструментами и платформами ИИ», провести стресс-тест на их слабые стороны и откровенно поговорить с пациентами о том, как они их используют.
Отчёт усиливает растущую обеспокоенность по поводу использования чат-ботов и их влияния на психическое здоровье, поскольку многочисленные сообщения связывают использование ИИ с приступами мании, бредовыми идеями, самоповреждением и самоубийством. Такие компании, как OpenAI, признают потенциальную опасность и отражают всё больше судебных исков, работая над улучшением мер защиты пользователей.
Подпишитесь на темы и авторов этой истории, чтобы видеть больше похожих материалов в ленте новостей на вашей персональной главной странице и получать обновления по электронной почте.
-
ИИ
Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все ИИ
-
Google
Смотреть все Google
-
Здоровье
Смотреть все Здоровье
-
Новости
Посмотреть все новости
-
OpenAI
Посмотреть все OpenAI
-
Наука
Смотреть всю науку
-
Технологический
Смотреть все технологии
Самый популярный
Самый популярный
- Давайте поговорим о Pluribus
- Google заявляет, что запуск запутанного сервиса Gemini Home проходит просто отлично
- Apple выпустила носок через плечо за 230 долларов
- YouTube TV, ESPN и Disney: последние новости об отключении электроэнергии
- Сообщается, что выпуск следующего iPhone Air задерживается
The Verge Daily
Бесплатный ежедневный дайджест самых важных новостей.
Адрес электронной почты (обязательно)Указывая свой адрес электронной почты, вы соглашаетесь с нашими Условиями и Уведомлением о конфиденциальности. Этот сайт защищен reCAPTCHA, и применяются Политика конфиденциальности и Условия обслуживания Google. Материалы рекламодателя
Это заголовок для нативной рекламы.
Источник: www.theverge.com
Оцените материал: