Что необходимо для того, чтобы генеративный ИИ соответствовал требованиям GMP?

Комментарии предоставлены Валентиной Армиенто и Пьером Бонзани, Genedata.

11 сентября 2026 г. | Искусственный интеллект меняет фармацевтическое производство. Мы видим, как он используется для автоматизации задач, выявления закономерностей и оптимизации качества. Анализируя сложные, обширные наборы данных, ИИ может прогнозировать отклонения, точно настраивать процессы и ускорять рутинные задачи и документацию, что приводит к ускорению производства и повышению качества продукции.

Надлежащая производственная практика (GMP) требует точности, отслеживаемости и контроля. Однако по мере масштабирования и усложнения производства поддержание стандартов GMP становится все более сложной задачей. Именно здесь на помощь приходит искусственный интеллект (ИИ). Такие методы, как машинное обучение и глубокое обучение, позволяют выявлять закономерности в огромных массивах операционных данных, которые в противном случае остались бы незамеченными, обеспечивая раннее обнаружение аномалий и принятие более обоснованных решений. Поскольку производители сталкиваются с растущим давлением, требующим более быстрой поставки продукции при сохранении качества, ИИ является неотъемлемой частью современного цифрового инструментария.

Генеративный искусственный интеллект (GenAI) поднимает совершенно иной набор вопросов. Вместо того чтобы выдавать прогноз или классификацию, он генерирует новый контент, включая резюме, черновики текста и ответы. Результат может варьироваться в зависимости от подсказок, контекста и присущей генерации стохастичности, а также зависит от конфигурации и версии модели, что затрудняет демонстрацию отслеживаемости и воспроизводимости на уровне, ожидаемом в соответствии с требованиями GMP. Возможности остаются значительными, особенно в документообороте и рабочих процессах обработки знаний, но путь к использованию GenAI в GMP отличается от пути для машинного обучения и глубокого обучения. Он требует четко ограниченного контекста использования, прочной связи с исходной информацией и человеческого контроля, заложенного в сам процесс, а не добавленного в конце.

Проблемы ИИ: адаптивный, вероятностный и сложный для проверки.

По нашему опыту, отсутствие прозрачности является одной из основных проблем использования ИИ в средах, регулируемых стандартами GMP. Традиционные компьютерные системы GMP представляют собой детерминированное программное обеспечение, основанное на правилах, с фиксированным поведением. В отличие от них, современные модели ИИ, особенно большие языковые модели (LLM) и сети глубокого обучения, часто являются адаптивными и вероятностными. Их поведение может меняться при переобучении, а логика принятия решений часто непрозрачна, функционируя как «черный ящик», который не может четко объяснить, как приходят к выводам.

Отсутствие прозрачности является камнем преткновения для регулирующих органов. В условиях GMP каждое решение, влияющее на качество продукции, должно быть отслеживаемым и обоснованным. Если система ИИ рекомендует действие, но не может объяснить его обоснование, она рискует нарушить основные принципы целостности данных и возможности аудита. Недавние проекты нормативных актов, такие как проект Приложения 22 GMP ЕС об искусственном интеллекте, отражают эту обеспокоенность, ограничивая использование динамических или генеративных моделей в критически важных операциях. В этом проекте в проверенных рабочих процессах разрешены только статические модели с фиксированными выходными данными; адаптивные системы должны использоваться только в задачах с низким риском под контролем человека. В частности, генеративный ИИ (тот, который лежит в основе чат-ботов и LLM) не разрешен в критически важных операциях и может использоваться только в областях с низким риском под строгим контролем человека.

В то же время эта позиция активно обсуждается. В июне-июле 2026 года Рабочая группа инспекторов EMA по надлежащей производственной практике (GMP) и ВВП (GDP) проводит семинар с участием многих заинтересованных сторон для сбора экспертных мнений о том, можно ли и в рамках каких ограничений использовать адаптивные или генеративные модели ИИ в рамках Приложения 22, основанного на оценке рисков. Центральной темой станет применение подхода к управлению качеством и рисками, в частности, с учетом принципов ICH Q9(R1), на протяжении всего жизненного цикла таких систем ИИ, особенно в зонах высокого риска GMP, где недостатки могут быть труднообнаружимыми, но могут оказать существенное влияние на пациентов. Это отражает развивающийся диалог в сфере регулирования, а не окончательную позицию.

В отличие от традиционного программного обеспечения, системы ИИ зависят от обучающих данных, архитектуры модели и версионирования. Любое обновление, будь то переобучение на новых данных или переход на более новую модель, может изменить поведение, что потребует повторной валидации. Это создает дилемму: чем больше мы обновляем и улучшаем модель, тем больше рискуем нарушить ее валидированное состояние и понести значительные затраты на повторную валидацию. В регулируемом производстве ИИ должен не только хорошо работать, но и уметь обосновывать свои ответы.

Лучшие практики проверки ИИ

Внедрение ИИ в производство — сложная, но выполнимая задача. Для его проверки необходим переход от статической, основанной на коде валидации к более динамичным, основанным на оценке рисков системам. Цель состоит в том, чтобы адаптировать существующие модели к особенностям вероятностных систем, не ставя под угрозу отслеживаемость или контроль. Вот несколько рекомендаций.

1. Определение предполагаемого использования . Каждая система искусственного интеллекта должна иметь четко определенную роль, включая принимаемые ею решения и условия ее работы. Например, если модель используется для проверки флаконов, протокол валидации должен указывать типы изображений, разрешение и критерии приемлемости. Это гарантирует, что модель тестируется на соответствующих данных и используется в рамках своего предполагаемого назначения, подход, одобренный EFPIA и другими отраслевыми организациями.
2. Оценка рисков и человеческий контроль . Системы ИИ должны оцениваться с точки зрения степени их безопасной автономности. В областях высокого риска, таких как выпуск качественной продукции, ИИ должен оставаться в консультативной роли, а решения должны подтверждаться квалифицированным персоналом. Такой подход в целом соответствует принципам человеческого контроля, изложенным в Регламенте (ЕС) 2024/1689 . Кроме того, адаптивные модели должны быть заблокированы после развертывания и во время эксплуатации или лишены возможности самообучения.
   
3. Отслеживаемость данных . Каждый этап процесса ИИ должен быть задокументирован, включая входные и выходные данные, а также взаимодействие с пользователем. Версии моделей и обучающих данных должны быть задокументированы и поддерживаться в рамках системы управления изменениями. Это соответствует принципам GMP по отслеживанию цепочки поставок и гарантирует, что любой отмеченный результат может быть отслежен до его источника.
4. Объяснимый искусственный интеллект (XAI) . XAI набирает популярность, делая сложные модели более прозрачными и понятными. Такие методы, как оценка достоверности или атрибуция признаков, помогают прояснить процесс принятия решений. Регуляторы все чаще ожидают от систем ИИ предоставления удобочитаемых обоснований, особенно когда результаты влияют на действия, имеющие отношение к надлежащей производственной практике (GMP).
5. Интеграция . Для соответствия требованиям ИИ должен интегрироваться с существующими системами качества. Это включает в себя применение контроля изменений, требований пользователей, а также соответствующих мероприятий по проверке и квалификации. Обновления моделей должны инициировать формальный анализ и документирование, а также повторную проверку и повторную валидацию, где это применимо, на основе оценки рисков, как и любые другие контролируемые изменения. Сопоставление процессов ИИ с привычными элементами компьютерной валидации систем (CSV), такими как квалификация проекта или квалификация установки, помогает внедрить их в систему соответствия требованиям.
6. Межфункциональное управление . Успешная проверка ИИ требует сотрудничества между отделами обеспечения качества (QA), ИТ, анализа данных и экспертами в предметной области. Многие компании сейчас создают советы по управлению ИИ для контроля за внедрением и обеспечения согласованности действий между различными дисциплинами. Это помогает гарантировать, что как технические характеристики, так и влияние на регулирование учитываются с самого начала.

Эти стратегии не устраняют сложность проверки ИИ, но предлагают практический путь вперед. Сочетая технические меры защиты с процедурным контролем, производители могут с уверенностью интегрировать генеративный ИИ в среды GMP.

Более интеллектуальное секвенирование: ИИ в рабочих процессах NGS, соответствующих стандартам GMP.

Многие из этих принципов уже применяются в секвенировании нового поколения (NGS), технологии, которая все чаще используется в биотерапии и клеточной терапии для контроля качества, обнаружения загрязнений и проверки генетической идентичности в соответствии с требованиями GMP. NGS генерирует огромные массивы данных, которые необходимо анализировать быстро и надежно, а любое программное обеспечение для анализа, используемое в целях GMP, должно быть валидировано. В этой области компании начинают использовать ИИ как для ускорения анализа NGS, так и для автоматизации проверки ошибок.

Некоторые платформы теперь интегрируют автоматизацию со встроенными функциями обеспечения соответствия требованиям, такими как журналы аудита, контроль версий и структурированная передача данных между отделами исследований и разработок и контроля качества. Доступны инструменты для поддержки проверенных рабочих процессов NGS с помощью агентов искусственного интеллекта, которые позволяют пользователям «общаться со своими данными», задавая вопросы о показателях выполнения, качестве образцов или результатах анализа на естественном языке.

Исследуются модели глубокого обучения для обнаружения аномалий в процессах секвенирования, выявления выпадения сигнала и предложения корректирующих действий до необходимости повторной обработки. Генеративный ИИ также играет вспомогательную роль, помогая обобщать стандартные операционные процедуры (СОП) или составлять проекты документации, при этом все результаты проверяются квалифицированным персоналом. Эти примеры показывают, как ИИ может повысить скорость и надежность рабочих процессов NGS, оставаясь при этом в рамках валидации и контроля GMP.

Дилемма LLM: инновации ценой переподтверждения квалификации.

Генеративный ИИ обещает значительное повышение эффективности в фармацевтической отрасли, позволяя обобщать данные, составлять отчеты и ускорять устранение неполадок. Однако в условиях GMP его динамический характер создает знакомую проблему: каждое обновление модели, среды или даже формата входных данных может изменить выходные данные и инициировать повторную валидацию.

Регуляторы проявляют осторожность по веским причинам. Текущие рекомендации делают акцент на происхождении данных, отслеживаемости и мониторинге производительности, особенно когда речь идет о безопасности пациентов. В результате большинство компаний ограничивают работу лаборантов-исследователей задачами, смежными с GxP, такими как обобщение литературы, поиск знаний или разработка формулировок стандартных операционных процедур (СОП), — все это под контролем человека и с контролем изменений. Это обеспечивает соответствие требованиям, но замедляет научные обновления и увеличивает технический долг. В результате некоторые регулируемые лаборатории по-прежнему используют устаревшие референсные геномы не потому, что лучшие версии неизвестны, а потому, что обновление запускает каскад работ по валидации: сравнительные исследования, пересмотр СОП, переобучение и иногда уведомления регулирующих органов. Со временем это увеличивает разрыв между тем, что научно возможно, и тем, что практикуется, и сам этот разрыв может стать риском для качества.

Больше, чем любая другая технология ИИ, LLM-модели бросают вызов фундаменту, лежащему в основе фармацевтической валидации на протяжении десятилетий: детерминизму. Традиционно валидация GMP ожидает идентичных результатов для идентичных входных данных. Но LLM-модели генерируют текст на основе вероятностных распределений. Каждый токен выбирается из нескольких правдоподобных следующих токенов, и, если выборка не отключена полностью, они не всегда выбирают продолжение с наибольшей вероятностью. Добавьте к этому тот факт, что пользовательские запросы в реальной работе редко бывают идентичными байт за байтом, различный контекст, метаданные или скрытые детали системного уровня изменяют входные данные, и вы получите естественную изменчивость результатов даже без обновления самой модели.

Это не обязательно означает автоматическое исключение моделей с длительным жизненным циклом из регулируемых сред. Вместо этого мы рассматриваем это как сигнал о необходимости развития систем валидации. Вместо предположения о статичности систем нам необходимо контролируемое управление жизненным циклом моделей: модели с фиксированной версией, четко определенный контроль изменений и, где это уместно, заранее установленные протоколы обновления. И вместо того, чтобы считать недетерминированность неприемлемой, мы можем определить допустимые диапазоны выходных данных и критерии производительности, постоянно отслеживать качество и дрейф выходных данных, а также использовать соразмерные риску средства контроля в зависимости от задачи.

Цель состоит не в том, чтобы заморозить инновации, а в том, чтобы разумно ими управлять. При наличии соответствующей инфраструктуры и подхода, проверяемых потоков данных, контролируемых обновлений моделей и мониторинга производительности, ИИ может укрепить соответствие нормативным требованиям, ускорить получение аналитических данных и высвободить ресурсы экспертов, при этом безопасность пациентов остается в центре внимания.

Заключение – Внедрение ИИ с соблюдением дисциплины.

Регуляторы четко дали понять: ИИ можно использовать в условиях GMP, но только при строгих условиях. В настоящее время отраслевые рекомендации делают акцент на интеграции на основе оценки рисков, объяснимости и отслеживаемости. Для фармацевтических компаний это означает разработку пилотных проектов с использованием ИИ с учетом требований соответствия с самого начала, при поддержке межфункционального сотрудничества и надежной инфраструктуры данных.

Для безопасного масштабирования ИИ компаниям необходимо инвестировать в системы управления данными, соответствующие стандартам GMP, которые упрощают повторную валидацию и поддерживают контролируемые обновления. По мере развития стандартов инструменты валидации и контроля будут совершенствоваться. Генеративный ИИ, при дисциплинированном применении, может повысить соответствие требованиям, ускорить получение аналитических данных и высвободить ресурсы экспертов, не снижая при этом качества продукции.

Валентина Армиенто — менеджер по науке и технологиям в компании Genedata, где она разрабатывает стратегический научный контент, связывающий научные инновации с аудиторией отрасли. Она работает в биофармацевтической отрасли, сфере анализа данных и технологиях, помогая преобразовывать научные достижения и отраслевые тенденции в практические решения.

Пьер Бонзани — менеджер по обеспечению качества в компании Genedata, где он курирует процессы системы управления качеством, внутренние аудиты и инициативы по обеспечению соответствия требованиям в программной и операционной средах. Он работает на стыке качества, управления и регулируемых цифровых систем, поддерживая внедрение инновационных технологий в рамках соответствующих нормативных требований.

С ними можно связаться по адресу [email protected]

Источник: www.bio-itworld.com