Доктор Сина Бари, практикующий хирург и руководитель направления искусственного интеллекта в здравоохранении в компании iMerit, занимающейся обработкой данных, лично убедился в том, как ChatGPT может вводить пациентов в заблуждение ошибочными медицинскими рекомендациями.
«Недавно ко мне приходил пациент, и когда я рекомендовал ему лекарство, у него была распечатанная диалоговая таблица из ChatGPT, в которой говорилось, что вероятность развития легочной эмболии при приеме этого препарата составляет 45%», — рассказал доктор Бари изданию TechCrunch.
Когда доктор Бари провел дальнейшее расследование, он обнаружил, что статистические данные были взяты из статьи о влиянии этого лекарства на узкую подгруппу людей, больных туберкулезом, что не относилось к его пациенту.
И все же, когда на прошлой неделе компания OpenAI анонсировала свой специализированный чат-бот ChatGPT Health, доктор Бари испытал скорее волнение, чем беспокойство.
ChatGPT Health, запуск которого запланирован на ближайшие недели, позволит пользователям общаться с чат-ботом о своем здоровье в более конфиденциальной обстановке, где их сообщения не будут использоваться в качестве обучающих данных для базовой модели ИИ.
«Я думаю, это замечательно, — сказала доктор Бари. — Это уже происходит, поэтому формализация этого процесса для защиты информации о пациентах и введения определенных мер безопасности […] сделает его еще более эффективным для пациентов».
Пользователи могут получить более персонализированные рекомендации от ChatGPT Health, загрузив свои медицинские записи и синхронизировав их с такими приложениями, как Apple Health и MyFitnessPal. Для тех, кто заботится о безопасности, это сразу же вызывает подозрения.
«Внезапно произошла передача медицинских данных от организаций, соответствующих требованиям HIPAA, к поставщикам, не соответствующим этим требованиям», — сказал TechCrunch Итай Шварц, соучредитель компании MIND, занимающейся предотвращением потери данных. «Поэтому мне любопытно посмотреть, как к этому отнесутся регулирующие органы».
Но, по мнению некоторых профессионалов отрасли, секрет уже раскрыт. Теперь вместо того, чтобы гуглить симптомы простуды, люди общаются с чат-ботами на основе искусственного интеллекта — более 230 миллионов человек уже еженедельно общаются с ChatGPT по поводу своего здоровья.
«Это был один из самых масштабных вариантов использования ChatGPT», — сказал TechCrunch Эндрю Брэкин, партнер Gradient, инвестирующий в медицинские технологии. «Поэтому вполне логично, что они захотели создать более приватную, безопасную и оптимизированную версию ChatGPT для решения подобных вопросов в сфере здравоохранения».
У чат-ботов с искусственным интеллектом есть постоянная проблема с галлюцинациями, что особенно актуально в здравоохранении. Согласно модели оценки фактической согласованности Vectara, GPT-5 от OpenAI более склонен к галлюцинациям, чем многие модели Google и Anthropic. Но компании, занимающиеся ИИ, видят потенциал для устранения недостатков в сфере здравоохранения (Anthropic также анонсировала свой продукт для здравоохранения на этой неделе).
Для доктора Нигама Шаха, профессора медицины в Стэнфорде и главного специалиста по анализу данных в Stanford Health Care, неспособность американских пациентов получить доступ к медицинской помощи является более актуальной проблемой, чем угроза предоставления некачественных консультаций через ChatGPT.
«Сейчас, если вы обращаетесь в любую медицинскую систему и хотите попасть на прием к врачу общей практики, время ожидания составляет от трех до шести месяцев», — сказал доктор Шах. «Если у вас есть выбор: ждать шесть месяцев приема у настоящего врача или поговорить с кем-то, кто не является врачом, но может вам чем-то помочь, что бы вы выбрали?»
Доктор Шах считает, что более очевидный путь внедрения ИИ в системы здравоохранения лежит на стороне поставщиков медицинских услуг, а не на стороне пациентов.
В медицинских журналах часто сообщается, что административные задачи могут занимать около половины времени врача общей практики, что значительно сокращает количество пациентов, которых он может принять за день. Если бы подобную работу можно было автоматизировать, врачи смогли бы принимать больше пациентов, возможно, уменьшив необходимость использования таких инструментов, как ChatGPT Health, без дополнительного участия реального врача.
Доктор Шах возглавляет группу в Стэнфорде, которая разрабатывает ChatEHR — программное обеспечение, интегрируемое в систему электронных медицинских карт (ЭМК), позволяющее врачам взаимодействовать с медицинскими записями пациентов более упорядоченным и эффективным способом.
«Повышение удобства использования электронных медицинских карт означает, что врачи смогут тратить меньше времени на поиск необходимой информации в каждом ее уголке», — сказала доктор Снеха Джайн, одна из первых тестировщиц ChatEHR, в статье Стэнфордской медицинской школы. «ChatEHR может помочь им получить эту информацию заранее, чтобы они могли сосредоточиться на действительно важных вещах — общении с пациентами и выяснении того, что происходит».
Компания Anthropic также работает над продуктами на основе искусственного интеллекта, которые можно использовать на стороне врачей и страховых компаний, а не только на стороне своего общедоступного чат-бота Claude. На этой неделе Anthropic анонсировала Claude for Healthcare, объяснив, как его можно использовать для сокращения времени, затрачиваемого на утомительные административные задачи, такие как отправка запросов на предварительное согласование страховым компаниям.
«Некоторые из вас еженедельно сталкиваются с сотнями, тысячами подобных случаев предварительного согласования», — сказал Майк Кригер, главный операционный директор Anthropic, в недавней презентации на конференции JP Morgan по здравоохранению. «Представьте, что вы сократите время обработки каждого из них на 20-30 минут — это существенная экономия времени».
По мере того как искусственный интеллект и медицина все больше переплетаются, между этими двумя мирами неизбежно возникает напряжение: главный стимул врача — помогать своим пациентам, в то время как технологические компании в конечном итоге подотчетны своим акционерам, даже если их намерения благородны.
«Я думаю, что это важное противоречие, — сказала доктор Бари. — Пациенты рассчитывают на наш цинизм и консервативность в вопросах их защиты».
Источник: techcrunch.com
