Вопросы и ответы: Deloitte о прозрачности ИИ и будущем компьютерного зрения в здравоохранении | MobiHealthNews

Доктор Билл Фера, главный специалист Deloitte, подчеркивает важность человеческого контроля в сфере искусственного интеллекта в здравоохранении и делится своими взглядами на будущие крупные инновации в этой отрасли. Технологии

Доктор Билл Фера, руководитель компании Deloitte.

Фото предоставлено компанией Deloitte.

ЛОС-АНДЖЕЛЕС – Доктор Билл Фера, главный специалист компании Deloitte, дал личное интервью MobiHealthNews, в котором обсудил важность человеческого контроля, особенно с учетом того, что искусственный интеллект может изменять свое поведение с течением времени, а также компьютерное зрение как следующий важный рубеж в здравоохранении.

MobiHealthNews: Считаете ли вы, что в настоящее время существует достаточная прозрачность в отношении того, как обучаются модели искусственного интеллекта?

Доктор Билл Фера: Нет.

Я думаю, это природа коммерческого предприятия. Я думаю, это природа исторических норм разработки программного обеспечения, в которых всегда существует «черный ящик», и теперь нам нужна — мы требуем — прозрачность. И я думаю, что это происходит, возможно, немного медленнее, чем хотелось бы большинству, но я думаю, мы к этому придем.

Нам необходимы эти надежные механизмы. Давление в пользу открытости будет усиливаться, но прямо сейчас нам предстоит проделать определенную работу.

MHN: Вы считаете, что мы находимся в «пузыре» искусственного интеллекта?

Фера: Нет.

MHN: Это просто шумиха?

Фера: Нет. Я думаю, это реально, и я думаю, это будет продолжаться. Если мы посмотрим на здравоохранение и вспомним, что чуть более трех лет назад, до ChatGPT в ноябре 2022 года, никто не знал, что такое генеративный ИИ. А теперь мы наблюдаем колоссальный рост числа врачей, использующих систему документирования в фоновом режиме. И здравоохранение лидирует в использовании технологий, а это обычно не свойственно здравоохранению.

Таким образом, если мы подумаем о количестве людей, которые уже используют генеративный ИИ, то оно довольно значительное, а вслед за ним идет агентный ИИ, который является еще одним огромным шагом вперед. Итак, у нас была контекстная среда с генеративным ИИ, а теперь, менее чем через три года, у нас есть рассуждения.

Что касается вашего замечания о прозрачности, я думаю, нам предстоит многое выяснить о том, как управлять этими очень мощными технологиями, но я не думаю, что это просто ажиотаж. Я не думаю, что это пузырь. Я думаю, мы продолжим наблюдать широкое внедрение и масштабирование.

Я думаю, мы будем наблюдать все большее развитие оркестровки по мере того, как реальные агенты начнут ответственно использоваться, а затем мы начнем видеть больше оркестровки между агентами.

Будет интересно посмотреть, как будут взаимодействовать поставщики/агенты поставщиков, и увидим ли мы больше разработок на инфраструктурных платформах, будь то облачные платформы или локальные? Но я думаю, что мы увидим больше разработок, чтобы заполнить эту нишу внутриприложенийной агентизации, если можно так выразиться.

MHN: Когда вы размышляете о том, как система здравоохранения и поставщики медицинских услуг могут обеспечить внедрение ИИ с большей пользой, чем вредом, какие рекомендации вы бы дали системам здравоохранения?

Фера: Мы считаем, что самая сложная часть всего этого — это мониторинг. Создавать что-то новое — это увлекательно, и приятно говорить: «Эй, я это построил! Я это сделал!» Но что с этим происходит через шесть месяцев?

MHN: И агентный ИИ сам себя меняет.

Фера: Да. Оно само себя моделирует. Оно учится самостоятельно, поэтому важно направлять его работу, отслеживать и выявлять несоответствия в режиме реального времени, чтобы обеспечить обратную связь.

Меня немного нервирует, когда я слышу, как люди… и нам по-прежнему предстоит много самореферентного обучения, но оно все равно должно быть наблюдаемо людьми на каком-то уровне.

Но я думаю, что самая сложная работа заключается в том, чтобы люди поняли, как они будут продолжать это делать.

MHN: Что вы думаете о компьютерном зрении?

Фера: Я имею в виду, это отличный вопрос, потому что всем, очевидно, хочется поговорить о больших языковых моделях, и это неспроста — сейчас они наиболее доступны для людей.

Но я думаю, что следующая реальная инновация, которую мы увидим, будет связана с компьютерным зрением – способностью прогнозировать падения, способностью прогнозировать насилие, способностью естественным образом повышать пропускную способность больницы. Мы видим довольно впечатляющую отдачу от инвестиций в больницы, которые пошли по этому пути.

Я думаю, это следующий большой шаг – распознавание лиц, которое будет автоматически обрабатывать всю информацию, даже без необходимости использовать агента или аватар, а просто ваше лицо будет делать всю работу за вас.

MHN: Что вы подразумеваете под предотвращением насилия?

Фера: Таким образом, эти модели теперь могут предсказывать возбуждение у людей или то, как они двигаются, что может предсказывать агрессию. Это одна из вещей, которые им удалось сделать. И, к сожалению, с ростом насилия в отношении лиц, осуществляющих уход, это то, о чем мы должны помнить.

Если мы посмотрим на горизонты инноваций, то увидим, что большие языковые модели уже существуют, и люди их используют. Компьютерное зрение уже не за горами, а затем, я думаю, физический искусственный интеллект в сочетании с робототехникой будет продолжать ускоряться, и это будет третий горизонт, который мы наблюдаем.

Теги: Deloitte, ViVE 2026, искусственный интеллект, компьютерное зрение

Источник: www.healthcareitnews.com