Агентства здравоохранения США протестируют модели OpenAI и Anthropic AI.

Искусственный интеллект в действии

Агентства здравоохранения США протестируют модели OpenAI и Anthropic AI.

В рамках новой программы, в которой участвуют Coalition for Health AI, OpenAI, Anthropic и Accenture, департаменты здравоохранения по всей территории Соединенных Штатов будут тестировать инструменты генеративного искусственного интеллекта.

Система PULSE (Public Health Use Case and Learning Scaling Engine) будет поддерживать проведение испытаний в 10 штатах, местных органах власти, племенных и территориальных образованиях. Цель программы – разработка рекомендаций по внедрению для учреждений здравоохранения, рассматривающих аналогичные проекты.

Компании OpenAI и Anthropic предоставили 10 корпоративных лицензий, рассчитанных на 2000 специалистов в области общественного здравоохранения. Компания Accenture будет заниматься привлечением участников и поможет разработать руководства на основе результатов испытаний.

Программа предоставит специалистам в области общественного здравоохранения доступ к корпоративным продуктам искусственного интеллекта от OpenAI и Anthropic. CHAI не сообщила, какие именно продукты, версии моделей или конфигурации будут использоваться, а также не объяснила, как будут распределяться между двумя поставщиками в рамках пилотных проектов.

«Успех или неудача любой крупной технологической трансформации зависят от доверия, управления и реализации», — сказал доктор Дэвид Лейки, бывший комиссар здравоохранения штата Техас. «Программа PULSE окажет поддержку ведомствам в этом начинании и специально разработана для практической реализации».

Пять примеров использования в сфере общественного здравоохранения

Руководящий совет Коалиции по искусственному интеллекту в здравоохранении выберет участвующие юрисдикции и назначит специалистов в сообщества, ориентированные на пять вариантов использования. К ним относятся: биомониторинг и прогнозирование распространения наркотиков, социальные детерминанты здоровья и картирование социальных детерминантов здоровья, операционная деятельность и эффективность, а также анализ обратной связи от сообщества, публичные коммуникации и многоязычный центр перевода, а также автоматизированный поиск клинических данных и система запросов FHIR.

В рамках системы управления рисками в области ИИ, разработанной NIST, рекомендуется оценивать системы ИИ с учетом их предполагаемого использования, операционной среды, заинтересованных сторон и потенциальных последствий. CHAI не опубликовала отдельных требований к оценке, конфиденциальности, безопасности или экспертизе со стороны человека для пяти вариантов использования PULSE.

FHIR — это стандарт HL7, используемый для электронного обмена медицинской информацией между совместимыми системами.

PULSE включает в себя автоматизированный механизм поиска клинических данных и обработки запросов FHIR, хотя в объявлении не определяется роль генеративного ИИ в этом рабочем процессе. В нем не указано, будут ли модели генерировать запросы, извлекать записи, обобщать полученную информацию или комбинировать эти функции.

В объявлении также не объясняется, будут ли сотрудники проверять некорректные запросы, неполные результаты поиска или неподтвержденные сводки перед использованием информации.

Некоторые из предлагаемых приложений могут включать демографическую, географическую, клиническую информацию или информацию о состоянии здоровья населения. CHAI не сообщила, будут ли в пилотных проектах использоваться идентифицируемые записи, обезличенная информация, синтетические данные или агрегированные наборы данных.

Министерство здравоохранения и социальных служб США требует от организаций, подпадающих под действие HIPAA, защиты определенной электронной медицинской информации. В его руководстве по облачным вычислениям указано, что регулируемые организации и поставщики услуг должны соблюдать требования HIPAA при создании, получении, хранении или передаче защищенной электронной медицинской информации с помощью облачных систем.

Закон HIPAA не будет применяться ко всем участвующим организациям или рабочим процессам. Его применение будет зависеть от ведомства, обрабатываемых данных и выполняемой функции.

Компания OpenAI заявляет, что входные и выходные данные её бизнес-сервисов, включая ChatGPT Enterprise и его API, по умолчанию не используются для обучения или улучшения её моделей. Компания Anthropic также заявляет, что по умолчанию не использует входные и выходные данные своих коммерческих продуктов для обучения моделей.

В этих политиках поставщиков услуг не определено, как будут настраиваться развертывания PULSE. В объявлении не указаны сроки хранения, контроль доступа, порядок аудита, требования к хранению данных или правила, регулирующие предоставление защищенной медицинской информации.

«Мы считаем, что ИИ должен быть полезным, безопасным и доступным для людей, решающих важнейшие социальные проблемы», — заявил Фелипе Миллон, руководитель отдела выхода на рынок государственных структур OpenAI. Он добавил, что лицензии призваны помочь организациям здравоохранения оценить инструменты в рамках структурированного процесса.

Управление и оценка остаются неопределенными.

Начало пилотных проектов запланировано на осень 2026 года. CHAI ожидает, что разработанные на их основе руководства будут опубликованы в 2027 году и будут использоваться в качестве справочного материала другими учреждениями здравоохранения.

CHAI не опубликовала критерии, которые будут использоваться для оценки пилотных проектов, и не пояснила, будет ли каждый вариант использования оцениваться по отдельным техническим, эксплуатационным критериям, а также критериям конфиденциальности и безопасности.

В объявлении также не объясняется, как будут проверяться результаты работы модели. В нем не указано, должны ли сотрудники утверждать сгенерированные публичные сообщения, проверять переводы, подтверждать достоверность полученной клинической информации или проверять результаты биомониторинга и анализа данных о применении лекарственных препаратов перед их использованием.

В рекомендациях NIST предлагается определить, какие функции ИИ требуют человеческого контроля, и обучить пользователей пониманию производительности и ограничений системы. В рекомендациях по генеративному ИИ также рассматриваются вопросы тестирования, проверки, мониторинга, документирования, конфиденциальности и управленческого контроля.

«От специалистов в области общественного здравоохранения требуют делать больше с меньшими ресурсами, и ИИ может в этом помочь — при условии, что его внедрение осуществляется с осторожностью и с соблюдением необходимых мер предосторожности», — сказала Элизабет Келли, руководитель отдела внедрения полезных технологий в компании Anthropic. Она отметила, что PULSE позволит специалистам тестировать инструменты в своих собственных условиях, обеспечивая с самого начала соблюдение мер по обеспечению конфиденциальности, управления и ответственного использования.

Данные Национальной ассоциации должностных лиц здравоохранения округов и городов, на которые ссылается CHAI, показали, что почти 40% местных департаментов здравоохранения не используют ИИ. Коалиция заявила, что некоторые департаменты заинтересованы в пересмотре рабочих процессов и повышении операционной эффективности.

PULSE предоставит корпоративные лицензии, помощь в адаптации, сообщества коллег и руководства по внедрению. CHAI не указала минимальные требования к численности персонала, инфраструктуре, совместимости или кибербезопасности для участвующих юрисдикций.

К числу участников, имеющих право на участие, относятся департаменты здравоохранения штатов и территорий, окружные и муниципальные учреждения, племенные власти, организации здравоохранения коренных американцев, а также департаменты здравоохранения крупных городов.

В рамках проекта PULSE планируется преобразовать результаты исследований, проведенных в 10 юрисдикциях, в рекомендации для более широкого применения. В объявлении не объясняется, как эти руководства будут учитывать различия в размерах ведомств, технических системах, юридических обязанностях, штатном расписании или порядке закупок.

В объявлении также не объясняется, будут ли результаты биомониторинга, прогнозирования распространения наркотиков или поиска клинических данных использоваться только для тестирования, представляться сотрудникам для ознакомления или включаться в операционные рабочие процессы.

PULSE является частью более широкой работы Коалиции по искусственному интеллекту в здравоохранении по разработке стандартов управления для ИИ в здравоохранении. В мае организация объявила о планах разработки руководства, охватывающего восемь областей управления, посредством семинаров и рабочих групп с участием более 150 представителей сферы ИИ в здравоохранении.

С тех пор коалиция начала публиковать руководства по организационной политике в отношении ИИ, структурам управления и внутренним ресурсам. Ожидается, что дополнительные рекомендации будут охватывать и другие области управления ИИ в здравоохранении.

Отдельно CHAI сотрудничала с Объединенной комиссией над разработкой руководств по управлению, соответствующих ее добровольной сертификации по ответственному использованию ИИ в здравоохранении. В объявлении PULSE не говорится о том, что участвующие государственные учреждения здравоохранения будут оцениваться в рамках этой сертификации.

Доктор Брайан Андерсон, исполнительный директор Коалиции за искусственный интеллект в здравоохранении, заявил, что органы здравоохранения вступили в пандемию COVID-19 после многих лет ограниченных инвестиций в технологии. Он сказал, что программа PULSE была призвана дать ведомствам практический опыт работы с ИИ до его более широкого внедрения.

«Мы знаем, что ИИ изменит то, как мы обеспечиваем общественное здравоохранение — вопрос в том, будем ли мы делать это обдуманно или нет», — сказал доктор Ашиш Джа, бывший координатор Белого дома по борьбе с COVID-19. Он добавил, что программа проверит, какие приложения работают, и задокументирует результаты для других ведомств.

См. также: Компания Bunkerhill привлекла 55 миллионов долларов для масштабирования агентного ИИ в системах здравоохранения.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com