Анализ усилий Google DeepMind по повышению биоустойчивости с помощью ИИ.

Искусственный интеллект в действии

Анализ усилий Google DeepMind по повышению биоустойчивости с помощью ИИ.

Google DeepMind и Isomorphic Labs представили программу повышения биоустойчивости, направленную на предотвращение злоупотреблений ИИ в биологии и оказание помощи в реагировании на вспышки заболеваний.

Обе организации опубликовали обновленную информацию о совместной инициативе, которая началась незаметно и за последние 12 месяцев позволила установить более 15 партнерских отношений с государственными органами, организациями по биобезопасности и исследовательскими группами.

Раскрытие информации сопровождается определенной проблемой формулировки. Передовые модели, такие как Gemini, обладают все более детальным пониманием биологии, и DeepMind признает, что сочетание этих систем со специализированными биологическими моделями, агентами, такими как платформа Antigravity, и сторонними базами данных только еще больше усовершенствует эти возможности.

Однако те же знания, которые помогают исследователю определить мишень для вакцины, в принципе, могут помочь злоумышленнику восполнить пробелы в собственном понимании проблемы. DeepMind и Isomorphic описывают это как двойную задачу: способствовать научным достижениям, которые делает возможным передовой ИИ, и одновременно не допустить попадания этих инструментов в руки тех, кто мог бы ими злоупотребить.

По словам компаний, программа опирается на три основных принципа: предотвращение злоупотреблений, более быстрое выявление вспышек и реагирование в случае возникновения вспышки или атаки.

Более 15 партнерских соглашений, заключенных за последний год, охватывают все три направления, хотя в обновленной информации содержится ограниченное количество подробностей о том, какие организации участвуют в проекте, помимо нескольких названных партнеров, включая Национальную лабораторию Лоуренса Ливермора, Британский институт безопасности ИИ, CEPI и Институт Фрэнсиса Крика.

Компания DeepMind заявляет о намерении расширить эти связи в течение следующих шести-двенадцати месяцев, уделяя особое внимание анализу угроз, методам оценки агентов ИИ и мерам противодействия взлому джейлбрейка. Она также координирует свои действия с Frontier Model Forum по таким вопросам, как обработка более рискованных категорий обучающих данных, в качестве примера приводятся вирусологические наборы данных.

Как заблокировать доступ к Gemini, не препятствуя при этом проведению легитимных научных исследований.

Работа по предотвращению угроз основана на моделировании угроз, призванном выявить, какие субъекты с наибольшей вероятностью попытаются злоупотребить своими правами, и какие препятствия в настоящее время им мешают. DeepMind заявляет, что использует сочетание экспертной проверки на проникновение и рандомизированных контролируемых исследований, чтобы оценить, может ли Gemini помочь устранить эти препятствия.

Методы постобучения призваны научить модель отклонять вредоносные запросы, избегая при этом, по словам компании, чрезмерного отклонения законных научных вопросов — баланс, который оказался сложным в отрасли в целом, а не только для DeepMind. Классификаторы и зонды используются для выявления рискованной активности в режиме реального времени, и компания заявляет, что проводит целевой анализ логов для обнаружения более тонких моделей злоупотреблений, которые могут быть пропущены автоматическими фильтрами.

Ни одно из этих решений не описывается как решенная проблема. DeepMind рассматривает их как непрерывный процесс, а не как завершенную систему, что важно для любого предприятия или государственного органа, оценивающего целесообразность использования существующих мер защиты. Классификатор, настроенный на основе известных шаблонов джейлбрейка в контролируемой оценке, не гарантирует эквивалентной производительности против новых методов атак, появляющихся в реальных условиях, и компания не утверждает обратного.

Проблема скрининга синтеза ДНК

Один из наиболее конкретных рисков, находящихся в стадии изучения, связан с синтезом ДНК. Компании, входящие в Международный консорциум по синтезу генов, в настоящее время проверяют заказы на соответствие спискам известных опасных патогенов и токсинов, используя алгоритмы скрининга. Компания DeepMind прямо заявляет, что этот подход начинает давать сбои, поскольку искусственный интеллект теперь может помогать разрабатывать последовательности ДНК с функциями, аналогичными опасному патогену, не совпадая с его последовательностью достаточно точно, чтобы активировать существующие скрининговые алгоритмы.

Предлагаемое решение заимствует элементы из существующей системы водяных знаков DeepMind, SynthID, которая, по словам компании, стала отраслевым стандартом для маркировки изображений и текста, созданных с помощью ИИ. Адаптация этой системы к биологическим последовательностям представлена как исследовательская работа, а не как готовый продукт.

Более долгосрочная цель, которую описывают скорее как открытую техническую задачу, чем как нечто близкое к решению, включает в себя скрининг, позволяющий предсказать, является ли новая последовательность ДНК, вероятно, токсичной или патогенной, на основе ее функции, независимо от того, похожа ли она на что-либо в существующих базах данных.

Более дешевое секвенирование в качестве слоя обнаружения.

Обнаружение основано на метагеномном секвенировании, которое характеризует каждый микроорганизм в образце, а не проверяет наличие лишь ограниченного списка известных патогенов, как это делают традиционные методы диагностики. Ограничивающим фактором является стоимость, и для масштабирования этого подхода в регионах, где вспышки заболеваний наиболее вероятны, необходимо значительно снизить эти затраты.

Компания DeepMind указывает на сотрудничество Google и Pacific Biosciences, в рамках которого использовался кодирующий агент AlphaEvolve для повышения точности секвенирования, как на один из примеров достижения этой цели. Компания заявляет, что сейчас рассматривает дальнейшие возможности — от оптимизации алгоритмов обработки данных секвенирования до разработки аппаратного обеспечения — и отдельно изучает возможность использования AlphaGenome для характеристики патогенов непосредственно на основе данных секвенирования.

Это по-прежнему скорее исследовательские проекты, чем системы, развернутые на местах, и разрыв между повышением точности секвенирования в контролируемом процессе и функционирующей сетью раннего предупреждения в очистных сооружениях и транспортных узлах в условиях ограниченных ресурсов немал.

Публикации AlphaFold и пробел в мерах противодействия

Основной принцип реагирования заключается в устранении пробела в медицинских мерах противодействия, из-за которого для многих известных патогенов отсутствуют лицензированные диагностические средства, вакцины или методы лечения. Компания DeepMind приводит данные более чем из 10 000 публикаций по инфекционным заболеваниям, в которых за пять лет упоминалась AlphaFold, включая работы по изучению передачи туберкулеза и малярии, а также картированию целей для таких угроз, как оспа и нипах.

Новейшим дополнением к этому списку стало партнерство с программой биоустойчивости Лоуренс-Ливерморского колледжа, в рамках которого планируется использовать AlphaFold 3 для разработки антител широкого спектра действия, включая разработку антител против всех филовирусов. DeepMind заявляет, что в этом году продолжит добавлять структуры белков и комплексов в базу данных структур белков AlphaFold, уделяя приоритетное внимание мишеням, имеющим отношение к разработке контрмер.

Доступ к более новым агентным системам, включая Co-Scientist, предоставляется избранным исследователям, в том числе ученым из национальных лабораторий Министерства энергетики США, работающим в рамках миссии Genesis.

Компания Isomorphic Labs пошла еще дальше, создав специализированное подразделение, предназначенное для быстрого развертывания своей системы разработки лекарств во время вспышки нового заболевания, работая совместно с государственными и национальными исследовательскими организациями, такими как Институт безопасности ИИ Лоуренса Ливермора, Британский институт безопасности ИИ, CEPI и Институт Фрэнсиса Крика. Компания также выделила 7 миллионов долларов программе Health for Human Potential, реализуемой Philanthropy Asia Alliance, на исследования инфекционных заболеваний в Азии.

Рекомендации DeepMind американским политикам напрямую соответствуют трем основным принципам компании и опираются на конкретные законопроекты, находящиеся на рассмотрении:

1. В части профилактики организация поддерживает федеральную программу обеспечения безопасности ИИ на рубеже освоения новых технологий, Закон о стандартах биоданных, готовых к внедрению ИИ (HR 7907), обязательный скрининг синтеза ДНК в рамках Закона о модернизации и инновациях в области биобезопасности (S. 3741) и Закон SCALE Biology (HR 8981).

2. Что касается обнаружения , то предлагается расширить использование метагеномного секвенирования в транспортных узлах и густонаселенных районах, при поддержке Закона об американской живой библиотеке (S. 4023) и дополнительного финансирования от DARPA и HHS для исследований в области раннего предупреждения.

3. В ответ на это предлагается принять Закон о сети биологических данных (HR 9307 / S. 4770) и инвестировать в производственные мощности, которые должны быть «подготовлены к быстрой активации», наряду с уже созданными сетями клинических испытаний и ускоренными процедурами регулирования.

Ни один из этих законов не принят, и именно разрыв между желаемым списком мер компании и функционирующей федеральной системой биобезопасности станет настоящим испытанием для этой программы в течение следующих 6-12 месяцев.

См. также: Компания Neko Health привлекла 700 миллионов долларов для расширения использования сканирования тела с помощью ИИ в США.

Хотите узнать больше об искусственном интеллекте и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими выставками, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.

AI News — это проект TechForge Media. Здесь вы можете ознакомиться с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям.

Источник: www.artificialintelligence-news.com