Системы искусственного интеллекта врачей галлюцинируют несуществующие медицинские проблемы во время приема пациентов

Если вы были на приеме у врача в течение последних двух или трех лет, велика вероятность, что ваш врач использовал ИИ-писца: программное обеспечение, которое прослушивает разговор, расшифровывает его и структурирует в формат медицинских записей.

Теоретически это классная идея, но болевых точек предостаточно. Ранее на этой неделе генеральный аудитор Онтарио — ответственный сотрудник, действующий при Законодательном собрании Онтарио — опубликовал специальный отчет, предупреждающий, что медицинские писцы ИИ «не оценивались должным образом». и может представлять “сфабрикованную информацию” медицинским работникам.

По данным Global News, в ходе аудита были рассмотрены 20 платформ ИИ-писцов и обнаружено, что “все системы ИИ-писцов от 20 одобренных [правительством] поставщиков показали одну или несколько неточностей на этапе тестирования закупок,” такие как “галлюцинации (фальсификация), неверная информация или отсутствующая или неполная информация.”

“Неточности в медицинских записях, генерируемых системами AI Scribe, потенциально могут привести к неадекватным или вредным планам лечения, которые потенциально могут повлиять на исходы здоровья пациентов,” — заявлено в отчете.

Замутив ситуацию, министр государственных и деловых услуг и закупок Онтарио Стивен Кроуфорд отметил, что галлюцинации наблюдались во время тестирования регулирующими органами штата и не были зафиксированы во время реальных посещений врача.

“Давайте проясним это очень четко: на самом деле это не используется врачами, это необязательный этап, на котором мы проверяем различных писцов,” Кроуфорд рассказал Global News.

Тем не менее, генеральный аудитор Шелли Спенс отметила, что различные писцы, тем не менее, используются примерно 5000 врачами по всему Онтарио. В беседе с журналистами Спенс сказала, что зашла так далеко, что попросила своего врача «пожалуйста, просмотрите стенограмму, когда вы закончите мой визит».

Эта новость появилась в то время, когда другая система ИИ-писцов, OpenEvidence, сталкивается с растущим вниманием в США из-за галлюцинаций и неполных ответов.

Как, например, рассказали NBC News несколько врачей, OpenEvidence иногда может делать слишком убедительные выводы из медицинских исследований с относительно небольшими размерами выборки.

Хотя многие врачи выражают признательность за новый инструмент, еще неизвестно, как они поведут себя в реальных условиях — и как медицинский мир будет судить их, когда шумиха вокруг ИИ утихнет.

Подробнее о галлюцинациях ИИ: Новый клон Википедии, полностью созданный из галлюцинаций ИИ

Пост Доктора’ Системы искусственного интеллекта галлюцинируют несуществующие медицинские проблемы во время приема пациентов. Впервые появилось в «Футуризме».

Источник: futurism.com