Безопасность ИИ начинается с осведомленности и управления.

Дипеш Рандери, главный специалист по информационной безопасности детской больницы Акрона, обсуждает важность фундаментальных процессов управления, начиная с интерфейса (который, по его словам, наиболее важен) и заканчивая внутренней работой. Глобальная конфиденциальность и безопасность.

Дипеш Рандери, директор по информационной безопасности и вице-президент по информационной безопасности и инфраструктуре в детской больнице Акрона.

Фото: Дипеш Рандери

Конечно, ажиотаж вокруг искусственного интеллекта в здравоохранении высок, как в административных приложениях, так и в некоторых ключевых клинических случаях. Но перспективы реальны. Появляются первые результаты, и они показывают, что ИИ может помочь всем — от программистов до хирургов.

Но искусственный интеллект также создает новые уязвимости в системе безопасности больниц и систем здравоохранения.

В детской больнице Акрона применяется структурированный подход к внедрению ИИ — и любых новых технологий — в своих стенах, говорит Дипеш Рандери, главный специалист по информационной безопасности и вице-президент по информационной безопасности и инфраструктуре.

«Мы требуем, чтобы все подразделения больницы следовали этой процедуре», — пояснил Рандери.
«Будь то через комитет по новым технологиям, комитет по управлению ИИ, совет генеральных директоров, мы должны обеспечить соблюдение стандартов обслуживания, оптимизацию затрат, окупаемость инвестиций и, что наиболее важно, безопасность, необходимую для успешной реализации».

Юридическая экспертиза

В детской больнице Акрона действуют строгие требования к проверке новых технологий; любой новый поставщик или система, поступающие в организацию, должны пройти тщательную процедуру проверки.

«Мы не разрешаем внедрение оборудования или систем без контроля и проверки», — сказал Рандери. «Поскольку у нас есть централизованный ИТ-отдел, наши сотрудники прошли обучение и знают, что не могут подключать какие-либо устройства к сети или внедрять какие-либо системы, если эти устройства и системы не прошли проверку».

«Для обеспечения безопасности ИИ мы должны убедиться, что технология проходит через процесс управления, и что мы учитываем как на начальном, так и на заключительном этапе этого процесса, что система, запланированная к внедрению, обеспечивает стандарты безопасности, изначально предполагавшиеся», — продолжил он.

Многие медицинские организации очень хорошо справляются с обеспечением управления ИИ на начальном этапе внедрения любой новой системы — проблема заключается в том, кто будет контролировать ИИ на этапе после его внедрения, добавил он.

Без предвзятости, с множеством ограничений.

«Как вы можете гарантировать отсутствие предвзятости?» — спросил Рандери. «Как вы можете гарантировать, что утвержденная система действительно внедрена? Как вы можете гарантировать, что упомянутые в процессе управления меры предосторожности были фактически реализованы?»

«Поэтому для успешной реализации проекта организациям необходимо осуществлять такой контроль от начала до конца, — продолжил он. — И именно к этому мы стремимся».

Руководители высшего звена больниц и медицинских учреждений, а также другие лидеры в области информационных технологий в этих организациях, предоставляющих медицинские услуги, сталкиваются с множеством задач, связанных с обеспечением безопасности искусственного интеллекта.

«В первую очередь, необходимо задавать четкий тон сверху», — заявил Рандери. «Безопасность — дело каждого. Она начинается не сверху и не снизу. Но четкий тон сверху гарантирует, что даже высшее руководство будет хорошо осведомлено о последствиях для безопасности. В случае с любой новой технологией, будь то искусственный интеллект сейчас или мэйнфреймы в 1990-х годах, обеспечение надлежащих мер безопасности имеет первостепенное значение».

Больше никаких рвов

«Мы отошли от принципа защиты периметра системы, перейдя к защите в облаке, и теперь безопасность — это новая форма защиты, — пояснил он. — Поэтому мы должны учитывать все эти факторы, которые привнесут новые технологии. Точно так же, как фишинг — один из самых простых способов для злоумышленников проникнуть в чью-либо среду, так и эти технологии».

И дело не только в технологиях, которые находятся исключительно в сторонних хранилищах, добавил он.

«Речь может идти о технологиях, которые находятся непосредственно на территории медицинской организации», — заключил он. «Если не будут приняты надлежащие меры контроля для защиты технологий, персонала и процессов, могут возникнуть потенциальные инциденты в области безопасности».

Следите за публикациями Билла Сивики о медицинских информационных технологиях в LinkedIn: Bill Siwicki
Напишите ему по электронной почте: [email protected]
Healthcare IT News — это издание HIMSS Media.

СМОТРИТЕ СЕЙЧАС: Управление данными лежит в основе контрактов, основанных на ценности

Источник: www.healthcareitnews.com