Вы доверяете чат-ботам с искусственным интеллектом в вопросах медицинского консультирования? А как насчет такого бота в вашем пациентском портале?
Источник: Getty | Inkoly Настройки текстаТекст рассказа Размер Маленький Стандартный Большой Ширина * Стандартный Широкий Ссылки Стандартный Оранжевый * Только для подписчиков
Узнать больше Свернуть в навигацию
Поскольку многие американцы обращаются к крупным языковым моделям за советами по вопросам здоровья, системы здравоохранения по всей стране рассматривают и даже внедряют собственные фирменные чат-боты, пытаясь использовать этот уже популярный инструмент и привлечь больше людей к своим услугам. Однако эта набирающая популярность тенденция вызывает насущные вопросы и опасения в отношении сложной и в целом неэффективно работающей системы здравоохранения страны.
Руководители позиционируют новые предложения как удобство для пациентов, позволяющее взаимодействовать с людьми там, где им удобно, и предоставлять услуги с использованием цифровых технологий. Они также предполагают, что их чат-боты станут более безопасной альтернативой коммерческим версиям, которые используются в настоящее время.
«Мы находимся на переломном этапе в здравоохранении», — заявил в своем заявлении Аллон Блох, генеральный директор компании K Health, занимающейся разработкой клинического искусственного интеллекта. «Спрос растет, и пациенты уже используют ИИ для управления своей жизнью».
Компания K Health совместно с партнером Hartford HealthCare в Коннектикуте внедряет чат-бот PatientGPT для десятков тысяч своих существующих пациентов.
«Вопрос не в том, изменит ли ИИ здравоохранение, а в том, как мы это сделаем безопасным и прозрачным способом, внутри системы здравоохранения, которая связана с вашими медицинскими записями и вашей командой врачей. PatientGPT представляет собой этот поворотный момент», — сказал Блох.
Однако некоторые эксперты с опаской относятся к внедрению подобных решений, выражая опасения по поводу готовности чат-ботов к таким брендированным дебютам, достаточного ли будет контроля, какой будет характер ответственности, а также является ли это решением реальных проблем в сфере здравоохранения, о которых говорят пациенты.
Хотя эти риски и вопросы остаются актуальными, польза для пациентов пока носит лишь гипотетический характер. «Это заманчивая идея», — заявил недавно изданию Stat News Адам Родман, исследователь клинического мышления и терапевт из Медицинского центра Бет Израэль Диконесс в Бостоне. Но пока нет доказательств того, что интеграция чат-ботов в системы здравоохранения улучшает результаты лечения пациентов. «Мы еще не достигли этого», — сказал он.
Ключевой контекст
Чтобы оценить потенциальную роль ИИ, полезно рассмотреть более широкий контекст здравоохранения США. Америка — одна из самых богатых стран мира, но её система здравоохранения постоянно и значительно отстаёт от систем других стран с высоким уровнем дохода. У американцев ниже ожидаемая продолжительность жизни, больше предотвратимых смертей, выше показатели материнской и младенческой смертности, а также выше показатели ожирения и хронических заболеваний. Американцы имеют меньший доступ к медицинской помощи и худшие показатели здоровья. США являются исключением, поскольку не обеспечивают всеобщую медицинскую помощь. В отчёте за 2023 год было установлено, что почти треть американцев — более 100 миллионов человек — не имеют лечащего врача.
Теперь в эту систему вошел искусственный интеллект. Любой, у кого есть доступ к интернету, может получить доступ к успокаивающим, уверенно звучащим чат-ботам на базе LLM, и американцы массово используют эти новые инструменты, чтобы задавать вопросы о здоровье и медицине. Опрос, проведенный KFF в прошлом месяце, показал, что каждый третий взрослый использовал чат-бот с ИИ для получения информации о здоровье.
Среди тех, кто использовал ИИ, 41 процент сообщили о загрузке в инструмент личной медицинской информации, такой как результаты анализов. На вопрос о «главных» причинах обращения к ИИ 19 процентов ответили, что не могли позволить себе медицинскую помощь, а 18 процентов сослались на отсутствие постоянного врача или невозможность записаться на прием. 65 процентов, тем временем, заявили, что просто хотели получить быстрый ответ. В итоге многие сказали, что не обращались к врачу после консультаций с использованием ИИ, в том числе 58 процентов, которые спрашивали о психическом здоровье, и 42 процента, которые спрашивали о физическом здоровье.
Ясные опасения
В связи с тем, что многие американцы используют ИИ для восполнения пробелов в здравоохранении, сейчас появляется все больше тревожных и ужасных историй. Примеры подчеркивают недостатки как в том, какие вопросы задают магистрам права, так и в том, какую информацию они собирают.
В феврале в журнале Nature Medicine было опубликовано исследование с участием почти 1300 человек, в котором предпринята попытка оценить медицинскую точность LLM (в частности, GPT-4o, Llama 3 и Command R+) в реальных ситуациях. Когда исследователи предоставляли LLM текст с описанием конкретных медицинских сценариев, LLM правильно определяли медицинское состояние примерно в 95% случаев и правильно указывали на дальнейшие шаги — например, обращение в отделение неотложной помощи — примерно в 56% случаев. Но когда участники использовали свои собственные подсказки для вопросов о тех же медицинских сценариях, LLM смогли помочь правильно определить медицинское состояние лишь примерно в трети случаев. LLM направляли участников к соответствующему следующему шагу всего в 43% случаев.
Исследование, по сути, показывает, что «люди не знают, что они должны говорить модели», — заявил в прошлом месяце в интервью NPR ведущий автор исследования Эндрю Бин, исследователь в области искусственного интеллекта из Оксфордского университета.
Ведущий автор исследования Адам Махди добавил: «Разрыв между результатами бенчмарков и реальной производительностью должен стать тревожным сигналом для разработчиков ИИ и регулирующих органов».
Кроме того, вызывает опасение качество медицинской информации, которую могут использовать специалисты по медицинскому праву. Буквально на прошлой неделе Nature News сообщило, что специалисты по медицинскому праву общались с пользователями по поводу «биксонимании» — кожного заболевания, полностью выдуманного шведскими исследователями. Команда опубликовала в интернете два фейковых исследования по этому заболеванию, желая посмотреть, насколько легко медицинская дезинформация будет распознана инструментами искусственного интеллекта. Ответ был: слишком легко. С тех пор они удалили эти исследования.
Внедрение новых решений уже началось.
Тем не менее, несколько систем здравоохранения внедряют собственные чат-боты. По данным Stat, в прошлом месяце бета-версия PatientGPT от Hartford HealthCare и K Health была запущена для ограниченного числа пациентов, и компания планирует расширить ее использование на десятки тысяч человек на этой неделе.
Компания Hartford опубликовала предварительную версию (не прошедшую рецензирование) исследования с участием 75 человек, в котором предполагалось, что итеративный стресс-тест (так называемый подход «красной команды») со временем улучшил показатель отказов, особенно в сценариях «высокого риска». Тестирование снизило показатель отказов в сценариях высокого риска с 30% до 8,5%. Но что это означает для реальных условий, пока неясно, как и то, насколько серьезными могут быть эти 8,5% отказов.
Согласно данным Stat, PatientGPT работает в двух режимах: в режиме общих медицинских вопросов и ответов, который может включать информацию о пациенте, или в режиме «медицинского сбора», в котором пациент начинает предоставлять информацию о симптомах, а чат-бот становится менее разговорчивым и начинает проходить по клиническим схемам. После того, как ИИ-агент соберет достаточно информации в режиме сбора, он предложит следующий шаг, включая назначение повторного приема у врача общей практики или обращение за неотложной или экстренной помощью. Если рекомендуется последнее, чат-бот прекращает отвечать на дальнейшие вопросы.
Компания Hartford заявила, что продолжит отслеживать производительность чат-бота в процессе его более широкого внедрения. На этапе пилотного тестирования Hartford отслеживала каждое взаимодействие. Но теперь система сократит количество проверок до 20 в день, в то время как отдельный агент с искусственным интеллектом будет отслеживать остальные. Также будут проводиться пакетные исследования по каждой тысяче бесед.
«Наша миссия — стать самой ориентированной на потребителя системой здравоохранения в стране», — заявил в прошлом месяце Джефф Флэкс, президент и генеральный директор Hartford HealthCare. «Здравоохранение традиционно во многом строилось вокруг поставщика услуг, но очевидно, что мы должны учитывать потребности людей и их пожелания. С помощью PatientGPT мы представляем новый инструмент, который поддерживает ваше здоровье и обеспечивает круглосуточный доступ к команде специалистов, одновременно защищая человеческие отношения, лежащие в основе оказания медицинской помощи».
Более осторожный инструмент
Помимо PatientGPT, есть еще Emmie, чат-помощник на основе искусственного интеллекта, выпускаемый компанией Epic, гигантом в сфере электронных медицинских карт, стоящим за MyChart. Несколько медицинских учреждений постепенно внедряют Emmie для пользователей через онлайн-портал, в том числе калифорнийская Sutter Health и индианская Reid Health.
Как сообщает издание Becker's Hospital Review, в своем выступлении в прошлом году основатель и генеральный директор Epic Джуди Фолкнер описала Эмми как помощницу, которая может помочь пациентам подготовиться к приему у врача, составляя планы визитов, а затем помочь пациентам понять результаты анализов и ответить на дополнительные вопросы.
В разделе часто задаваемых вопросов (FAQ) компании Sutter Health об Emmie отмечается, что чат-бот может «отвечать на общие вопросы о здоровье, а также находить или обобщать информацию, уже видимую в вашей медицинской карте, такую как заметки, результаты анализов, предыдущие посещения или сообщения». Однако подчеркивается, что он «не дает персонализированных медицинских советов и не принимает решений о лечении. Emmie не предназначен для использования в диагностике заболеваний или других состояний, а также для лечения, смягчения, терапии или профилактики заболеваний. Emmie также не предназначен для замены, изменения или подмены профессионального клинического суждения врача».
В настоящее время Эмми доступна лишь небольшой группе пациентов клиники Саттер. Эти пациенты могут оставлять отзывы об ответах Эмми, просто выражая одобрение или неодобрение.
Компания Reid Health следует по стопам Sutter, став вторым участником внедрения системы Emmie. В интервью изданию Becker's на прошлой неделе Мухаммад Сиддики, директор по информационным технологиям Reid Health, отметил, что система в основном обслуживает сельские общины и что компания рассматривает Emmie как способ расширить доступ к медицинской помощи и помочь пациентам ориентироваться в ней.
«Пациенты хотят более четких ответов, более легкого доступа и большей поддержки между визитами», — сказала Сиддики. «Если мы сможем обеспечить это внутри системы здравоохранения, в рамках проверенных клинических рабочих процессов, это будет гораздо лучшим вариантом, чем оставлять людей наедине с общедоступными инструментами, которые могут быть неточными, а могут и нет».
Источник: arstechnica.com
