Что на самом деле нужно ученым от ИИ

Комментарий предоставлен Ставрулой Нтуфой, доктором философии, Causaly.

28 августа 2026 г. | На бумаге цель выглядит многообещающе. Научная литература подтверждает это, механизм кажется правдоподобным, и три независимые группы опубликовали результаты, указывающие в одном направлении. Однако есть и противоречивый результат, который кто-то обнаружил на раннем этапе, упомянул на совещании и отложил в сторону, поскольку он показался менее убедительным, чем остальные. Команда выстраивает свою аргументацию, и программа продвигается. Спустя годы, в доклинической проверке или, что еще хуже, в клинике, этот отброшенный результат оказывается самым важным.

Я 14 лет занимался исследованиями, прежде чем перейти к научному искусственному интеллекту. Оценка одной-единственной научной статьи редко представляла собой сложность; опытный учёный читает описание методов и статистики и может увидеть, что подтверждается. Людей сбивает с толку то, что они не находят подходящих статей, а затем не видят ничего за пределами своей собственной веры в гипотезу. Когда вы верите в проект, вы придаёте подтверждающим доказательствам больший вес, чем исследованиям, которые его усложняют.

Сложные решения кажутся обманчиво обычными. Когда два исследования сообщают о противоположных результатах, действительно ли они противоречат друг другу, или одно работает на мышиной модели, а другое на клеточной, измеряя разные конечные точки по разным статистическим стандартам? Результат широко цитируется, но основан на одном-единственном эксперименте, который никто не воспроизвел. Сигнал безопасности проявляется только в одном наборе данных и нигде больше, и только если присмотреться. Доказательства в каждом случае вполне понятны. Сложность решения заключается в том, что человек, принимающий его, обычно заинтересован в ответе, а протокол ничего об этом не говорит.

Узким местом никогда не был поиск.

В настоящее время большая часть дискуссий об ИИ в биомедицинских исследованиях посвящена поиску. Он стал быстрее, резюме лучше, а литературу, на сбор которой раньше уходили недели, теперь можно собрать за один день. Это реальные достижения, и я не хочу их преуменьшать. Но более быстрый поиск не решает более сложную проблему и может её усугубить; теперь стало проще накапливать доказательства в пользу вывода, который вы уже «предпочитаете».

Рассмотрим, что на самом деле идёт не так в процессе разработки лекарств. Дорогостоящие неудачи возникают из-за доказательств, которые поначалу казались более убедительными, чем были на самом деле, из-за противоречий, которые никто так и не выявил, и из-за неопределённости, которая оставалась скрытой достаточно долго, чтобы остановить программу стало политически сложно. Целевой препарат продвигается через экспертную комиссию на основании аргументов, которые на тот момент казались обоснованными, и за ним накапливаются ресурсы. Вареспладиб — один из задокументированных примеров. Многолетние данные по биомаркерам указывали на то, что ингибирование фермента sPLA2 снизит сердечно-сосудистый риск, и препарат изменил показатели, как и предсказывалось. Но третья фаза клинических испытаний была остановлена в 2012 году после того, как препарат не принес пользы более чем 5000 пациентам и повысил частоту сердечных приступов. Маркер риска был ошибочно принят за причину.

Судебное решение, которое никогда не будет записано.

Логика, препятствующая такому результату, в значительной степени невидима. Исследовательские организации документируют свои выводы гораздо надежнее, чем то, как эти выводы были сделаны. Стандартные операционные процедуры описывают этапы рабочего процесса: что делать в первую очередь, что делать дальше и как выглядит завершение. Они не описывают, как старший научный сотрудник решает, что одно противоречащее исследование перевешивает 10, которые с ним согласны, или какие методологические различия объясняют расхождение, а какие указывают на реальную проблему с гипотезой. Ученые иногда называют это развитием «чувства литературы». Оно формируется на протяжении всей карьеры из тысяч небольших решений о том, чему следует доверять, и они редко формулируют это словами даже для самих себя.

Оценка доказательств — это совсем другая работа, чем их поиск.

Именно здесь, на мой взгляд, ИИ играет наиболее полезную роль. Система, созданная для того, чтобы помочь учёному оценивать доказательства, выглядит совсем иначе, чем система, созданная для того, чтобы помочь учёному их находить.

Разница заключается в том, что это показывает. Противоречия остаются видимыми, вместо того чтобы быть сглаженными в связное резюме. Шесть статей, ссылающихся на один и тот же исходный набор данных, не считаются шестью независимыми подтверждениями. Каждое утверждение восходит к эксперименту, который его дал. Ученые не читают слова. Они читают рисунки, таблицы, методы и цифры, и оценивают каждую статью по-своему.

Почему исследователи не доверяют

Последний пункт объясняет, почему так много универсальных инструментов ИИ с трудом находят применение в исследовательских целях. Ученые задают вопрос, получают правдоподобный ответ, не могут проверить его источник и перестают доверять системе. Их обучение учит их скептически относиться именно к таким ситуациям, и они применяют это обучение к новому типу источников. Исследователи, с которыми я общаюсь, предполагают, что ИИ может дать ответ. Их вопрос в том, смогут ли они его обосновать.

Учёные, оценивающие эти системы, обращают внимание на качества, которые в значительной степени игнорируются в бенчмарках. Показатели точности и качество сводных данных дают определённую информацию, но мало что говорят о том, улучшит ли система принятие решений в исследовательской организации. Исследователи хотят знать, выявила ли система противоречивые данные или незаметно их сгладила. Они хотят проследить связь вывода с лежащими в его основе данными. Трудно построить рабочий процесс вокруг системы, которая не может ответить на эти вопросы.

Сокращение разрыва между доказательствами и решением.

По мере того как сбор доказательств становится проще, их интерпретация превращается в сложную задачу: необходимо понимать, какие выводы подтверждаются, а когда доказательства еще не оправдывают принятие решения. Система, которая выдает ответы, не раскрывая свою логику, лишь переносит точку отказа на более поздний этап, где устранение неполадок обходится дороже.

Наука развивается благодаря оценке доказательств. Объём биомедицинской литературы давно превысил тот уровень, когда любой человек может всесторонне её обобщить, и ИИ предлагает один из немногих практических способов работы в таком масштабе. Но именно разрыв между доказательствами и решением определяет успех или неудачу исследований, и именно здесь ИИ обладает наибольшим потенциалом для оказания помощи. Решающее значение будут иметь те системы, которые помогут учёным сократить этот разрыв, сохранив при этом логику рассуждений, и защитить принятые ими решения.

Ставрула Нтуфа , директор по научным вопросам, — молекулярный биолог и генетик с глубокими знаниями в области иммунологии, гематологии и онкологии, имеет докторскую степень Афинского университета. До прихода в Causaly она 13 лет работала в финансируемых ЕС многоцентровых исследовательских программах в Уппсальском университете, Университете Вита-Салуте Сан-Раффаэле и CERTH, уделяя особое внимание хроническому лимфоцитарному лейкозу. Ее работы опубликованы в ведущих международных журналах и охватывают сигнальные пути толл-подобных рецепторов, иммуногенетические субпопуляции и молекулярные основы прогрессирования ХЛЛ. В Causaly она применяет свой трансляционный исследовательский подход к тому, как научные группы в фармацевтической отрасли находят, оценивают и используют биомедицинские данные. С ней можно связаться по адресу [email protected]

Источник: www.bio-itworld.com