Компании, занимающиеся разработкой чат-ботов для оказания услуг в сфере психического здоровья, начинают заниматься клиническим косплеем.
Роберт Харт
ИИ-репортер
Публикации этого автора будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все Роберта Харта
Фото: Кэт Вирджиния / The Verge, Getty Images
Роберт Харт
Публикации этого автора будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все Роберта Харта
— лондонский репортёр The Verge, освещающий всё, что связано с искусственным интеллектом, и старший научный сотрудник Tarbell. Ранее он писал о здоровье, науке и технологиях для Forbes.
Ранее в этом месяце компания Lyra Health анонсировала чат-бот с искусственным интеллектом «клинического уровня», который поможет пользователям справиться с такими «проблемами», как выгорание, нарушения сна и стресс. В пресс-релизе слово «клинический» упоминается восемнадцать раз, включая «клинически разработанный», «клинически строгий» и «прошедший клиническую подготовку». Для большинства людей, включая меня, «клинический» ассоциируется с «медицинским». Проблема в том, что это не означает «медицинский». На самом деле, «клинический уровень» вообще ничего не значит.
«Клинического класса» — пример маркетинговой хвастовства, призванного заимствовать авторитет у медицины, не обременяя себя обязательствами по ответственности или регулированию. Он стоит в одном ряду с другими модными маркетинговыми терминами, такими как «медицинского класса» или «фармацевтического класса» для таких товаров, как сталь, силикон и добавки, которые подразумевают качество; «рецептурного» или «созданного врачом» для кремов и мазей, указывающих на эффективность; а также «гипоаллергенный» и «некомедогенный», подразумевающие результаты — меньшую вероятность аллергических реакций и отсутствие закупорки пор соответственно, — для которых нет стандартных определений или процедур тестирования.
Руководство Lyra подтвердило это, заявив Stat News, что, по их мнению, регулирование FDA не распространяется на их продукт. Медицинский язык в пресс-релизе, где чат-бот назван «клинически разработанным разговорным ИИ-руководством» и «первым клиническим ИИ-решением для психиатрической помощи», используется лишь для того, чтобы выделить его среди конкурентов и показать, насколько тщательно они его разрабатывали, утверждают они.
Lyra позиционирует свой ИИ-инструмент как дополнение к услугам в области психического здоровья, которые уже оказывают сотрудники клиники, такие как терапевты и врачи, позволяя пользователям получать круглосуточную поддержку между сеансами. По словам Стата, чат-бот может использовать предыдущие клинические беседы, находить ресурсы, такие как упражнения на релаксацию, и даже использовать неопределённые терапевтические техники.
Описание поднимает очевидный вопрос: что вообще означает здесь «клинический уровень»? Несмотря на то, что Lyra активно использует этот термин, она не даёт на него прямого ответа. Компания не ответила на запросы The Verge о комментариях или конкретном определении «клинического уровня ИИ».
«Термин „искусственный интеллект клинического уровня“ не имеет конкретного нормативного значения», — говорит Джордж Хорват, врач и профессор права в Калифорнийском университете в Сан-Франциско. «Я не нашёл ни одного документа FDA, где бы упоминался этот термин. Его точно нет ни в одном законе. Его нет и в нормативных актах».
Как и в случае с другими популярными маркетинговыми терминами, похоже, что компания сама придумала или позаимствовала этот термин. «Этот термин явно пришёл из индустрии», — говорит Хорват. «Мне кажется, у него нет единого значения… У каждой компании, вероятно, есть своё собственное определение».
Хотя «термин сам по себе мало что значит», Вейл Райт, лицензированный психолог и старший директор офиса инноваций в здравоохранении Американской психологической ассоциации, говорит, что очевидно, почему Lyra хочет на него опираться. «Я думаю, что это термин, который был придуман некоторыми из этих компаний как маркер дифференциации на очень переполненном рынке, в то же время очень намеренно не подпадающий под компетенцию Управления по санитарному надзору за качеством пищевых продуктов и медикаментов». FDA контролирует качество, безопасность и эффективность множества пищевых продуктов и медицинских продуктов, таких как лекарства и имплантаты. Существуют приложения для психического здоровья, которые подпадают под его компетенцию, и чтобы получить одобрение, разработчики должны соответствовать строгим стандартам безопасности, надежности и эффективности с помощью таких шагов, как клинические испытания, которые доказывают, что они делают то, что заявляют, и делают это безопасно.
По словам Райт, процедура FDA обходится разработчикам дорого и отнимает много времени, поэтому подобная «размытая формулировка» становится удобным способом выделиться из толпы. По словам Райт, это проблема для потребителей, но она разрешена. Регуляторный путь FDA «не был разработан для инновационных технологий», — говорит она, из-за чего некоторые маркетинговые формулировки кажутся нелепыми. «В сфере психического здоровья такого не наблюдается», — говорит Райт. «Никто же не говорит о когнитивно-поведенческой терапии клинического уровня, верно? Мы просто не так об этом говорим».
Помимо Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA), Федеральная торговая комиссия, чья миссия включает защиту потребителей от недобросовестного или обманного маркетинга, может решить, что что-то стало слишком размытым и вводит общественность в заблуждение. Председатель FTC Эндрю Фергюсон ранее в этом году объявил о расследовании чат-ботов на основе искусственного интеллекта, уделив особое внимание их влиянию на несовершеннолетних, однако при этом приоритетом остается «обеспечение того, чтобы Соединенные Штаты сохранили свою роль мирового лидера в этой новой и многообещающей отрасли». Ни FDA, ни FTC не ответили на запросы The Verge о комментариях.
В то время как компании «безусловно хотят получить всё сразу», Стивен Гилберт, профессор кафедры нормативного регулирования медицинских приборов Дрезденского технического университета (Германия), считает, что регулирующим органам следует упростить свои требования и сделать контроль более прозрачным. Если компании смогут предъявлять подобные требования на законных основаниях (или смогут избежать ответственности за их незаконные действия), они это сделают, говорит он.
Эта неопределённость свойственна не только искусственному интеллекту или психическому здоровью, где существует целый ряд научно звучащих «оздоровительных» продуктов, обещающих строгость без регулирования. Лингвистическая неопределённость расползается по потребительской культуре, как плесень по хлебу. «Клинически протестированная» косметика, «иммуностимулирующие» напитки и витамины, обещающие мир, — всё это находится в серой зоне регулирования, которая позволяет компаниям делать широкие, научно звучащие заявления, которые не всегда выдерживают критику. Это может быть тонкая грань, но она законна. Инструменты ИИ просто наследуют эту лингвистическую уловку.
Компании тщательно формулируют свои заявления, чтобы не допустить попадания приложений под огонь FDA и обеспечить определённую степень правовой неприкосновенности. Это заметно не только в маркетинговых материалах, но и в мелком шрифте, если вам удастся его прочитать. Большинство инструментов для оздоровления на основе ИИ подчёркивают, где-то на своих сайтах или в условиях использования, что они не заменяют профессиональную помощь и не предназначены для диагностики или лечения заболеваний. С юридической точки зрения это препятствует их классификации как медицинских устройств, хотя всё больше данных свидетельствует о том, что люди используют их в терапевтических целях и могут получить доступ к инструментам без медицинского контроля.
Ash, приложение для потребительской терапии от Slingshot AI, открыто и неопределённо позиционируется как приложение для «эмоционального здоровья», в то время как Headspace, конкурент Lyra в сфере здравоохранения, рекламирует своего «компаньона ИИ» Ebb как «нового лучшего друга вашего разума». Все они подчёркивают свой статус продуктов для здоровья, а не терапевтических инструментов, которые могли бы считаться медицинскими устройствами. Даже универсальные боты, такие как ChatGPT, имеют схожие оговорки, открыто отрицая любое формальное медицинское применение. Посыл последователен: говорите и действуйте как терапевт, но не говорите, что это так.
Регулирующие органы начинают обращать на это внимание. FDA планирует 6 ноября созвать консультативную группу для обсуждения медицинских устройств с поддержкой ИИ для охраны психического здоровья, хотя пока неясно, состоится ли это заседание, учитывая приостановку работы правительства.
Однако Lyra, возможно, играет в рискованную игру со своим «клиническим ИИ». «Думаю, они очень скоро подойдут к той черте, которая позволит им диагностировать, лечить и выполнять все остальные функции, которые позволят им соответствовать определению медицинского устройства», — говорит Хорват.
Гилберт, в свою очередь, считает, что компании, занимающиеся разработкой ИИ, должны называть вещи своими именами. «Бессмысленно говорить о „клиническом уровне“ в той же области, в которой пытаются притвориться, что не предоставляют клинический инструмент», — говорит он.
Подпишитесь на темы и авторов этой истории, чтобы видеть больше похожих материалов в ленте новостей на вашей персональной главной странице и получать обновления по электронной почте.
- Роберт Харт
Роберт Харт
ИИ-репортер
Публикации этого автора будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все Роберта Харта
ИИ
Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все ИИ
Здоровье
Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все Здоровье
Отчет
Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Посмотреть все отчеты
Наука
Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть всю науку
Технологический
Публикации по этой теме будут добавляться в вашу ежедневную рассылку по электронной почте и на вашу домашнюю страницу.
Смотреть все технологии
Самый популярный
Самый популярный
- Nike заявляет, что ее первая «электрическая обувь» — это как электровелосипед для ваших ног
- Вот как будет выглядеть реклама на вашем умном холодильнике Samsung стоимостью 2000 долларов
- Сериал HBO «Добро пожаловать в Дерри» — это просто нечто
- Моя любимая электронная книга только что получила большое обновление.
- Готов ли Waymo к зиме?
The Verge Daily
Бесплатный ежедневный дайджест самых важных новостей.
Адрес электронной почты (обязательно)Указывая свой адрес электронной почты, вы соглашаетесь с нашими Условиями и Уведомлением о конфиденциальности. Этот сайт защищен reCAPTCHA, и применяются Политика конфиденциальности и Условия обслуживания Google. Материалы рекламодателя 
Это заголовок для нативной рекламы.
Источник: www.theverge.com
