План Трампа по тестированию моделей ИИ столкнулся с проблемой — подразделениям безопасности США были практически уничтожены в результате действий DOGE.

Критики утверждают, что план Трампа по тестированию моделей искусственного интеллекта недальновидный и носит показательный характер.

Фото: Aurich Lawson | Getty Images Фото: Aurich Lawson | Getty Images

Во вторник Дональд Трамп наконец подписал указ, расширяющий усилия правительства по проведению добровольного тестирования безопасности передовых моделей искусственного интеллекта. Теперь критики предупреждают, что указ может быть недальновидным, предлагая лишь показные заверения в том, что правительство активно отслеживает риски, связанные с ИИ, и практически ничего не меняя в том, как и когда развертываются модели.

В прошлом месяце Трамп внезапно отменил мероприятие по подписанию указа, на котором он надеялся представить более раннюю версию указа в присутствии генеральных директоров ведущих компаний, занимающихся искусственным интеллектом. Приглашенные в последний момент, несколько генеральных директоров просто не смогли присутствовать на подписании, но все же выразили поддержку указу. Официально Трамп заявил, что отложил мероприятие, потому что опасался, что указ может зайти слишком далеко и стать «препятствием», сдерживающим инновации в области ИИ. Сообщения указывали на внутренние разногласия в его администрации, поскольку эксперты по кибербезопасности конфликтовали с чиновниками, приверженными дерегулированию ИИ.

Смягченный указ, подписанный Трампом, обещает не «подавлять эти инновации чрезмерно обременительным регулированием» и не устанавливает никаких требований к компаниям, занимающимся искусственным интеллектом. Вместо этого он создает добровольный процесс сотрудничества компаний с правительством в проведении проверок безопасности, которые, как утверждалось в указе Трампа, «обеспечат быстрое внедрение лучших и наиболее безопасных технологий для противодействия любым угрозам нашей стране».

В соответствии с этим указом, написал Трамп, «мы продолжим возглавлять усилия по обеспечению кибербезопасности в рамках принципа «Америка прежде всего», которые укрепляют как нашу национальную безопасность, так и наше глобальное доминирование в области искусственного интеллекта».

Однако эксперты, изучающие указ, предполагают, что между просочившимся в прессу проектом, вызвавшим негативную реакцию в отрасли, и указом, который Трамп в итоге подписал, не произошло существенных изменений, не устраивая масштабных мероприятий с участием руководителей компаний.

Как сообщили источники Politico, самое большое различие заключается в количестве времени, которое правительство получит для проведения добровольного тестирования. Отменённый указ Трампа предусматривал доступ к моделям за 90 дней до других доверенных партнёров, что дало бы федеральному правительству более широкий период для тестирования и устранения уязвимостей. Но Трамп, по-видимому, посчитал, что такой широкий период может отбросить США назад в гонке за ИИ, поэтому он изменил свою позицию и подписал версию указа, которая сокращает этот период до 30 дней.

Что говорится в указе?

В соответствии с указом Трамп поручил Агентству национальной безопасности создать секретный процесс оценки для определения порогового значения, позволяющего отнести модель ИИ к «моделям, находящимся в зоне досягаемости». АНБ также должно сотрудничать с Министерством финансов США и Агентством по кибербезопасности и защите инфраструктуры (CISA) для создания «центра обмена информацией по кибербезопасности» для сканирования и устранения уязвимостей в больших масштабах, а также добровольной системы для разработчиков ИИ, позволяющей представлять модели для тестирования безопасности.

Однако критики отмечают, что текст указа ясно показывает, насколько правительство не готово к проведению значимых испытаний на безопасность в столь короткие сроки.

Трамп хочет, чтобы эти процессы были налажены в течение 30 дней, но, по всей видимости, правительству потребуется больше времени, чтобы набрать талантливых специалистов и развить экспертизу для проведения проверок безопасности. Указ предоставляет Управлению по кадрам 60 дней на «расширение путей найма и трудоустройства специалистов по информационной кибербезопасности в составе Сил специальных операций США».

В указе также указывается, что финансирование может оказаться краткосрочной проблемой, и поручается Управлению по бюджету и управлению «определить, имеются ли в каких-либо федеральных грантовых программах доступные и соответствующие средства, которые можно направить заявителям, разрабатывающим передовые системы обнаружения уязвимостей в искусственном интеллекте».

В качестве временной меры, пока правительство пытается реализовать программу, Трамп, по всей видимости, планирует усилить контроль, чтобы запугать людей, которые могут использовать непроверенные модели ИИ в своих целях. Указ предписывает генеральному прокурору «приоритетно преследовать в судебном порядке лиц, использующих ИИ для незаконного доступа или повреждения компьютерных систем, кражи данных или содействия другой преступной деятельности», говорится в информационном бюллетене Белого дома.

В информационном бюллетене Трампа утверждалось, что указ обеспечивает «правильный баланс между инновациями и безопасностью». Однако критики обеспокоены тем, что указ Трампа, принятый в ответ на общественные опасения по поводу рисков кибербезопасности, создаваемых моделью Mythos компании Anthropic, кажется недальновидным и слишком сильно зависит от доброй воли компаний, занимающихся искусственным интеллектом, которые ставят общественную безопасность выше прибыли.

Вероятно, некоторые инсайдеры также сохраняют критическое отношение. Издание Politico отметило, что один из бывших советников Трампа по вопросам ИИ, Дин Болл, написал на X, что преимущества добровольных проверок кажутся «едва поддающимися описанию».

«Что именно разведывательное сообщество собирается сделать за 30 дней, чтобы повысить безопасность моделей?» — написал Болл.

Сокращение финансирования DOGE может отложить проведение испытаний на безопасность.

В статье, посвященной разбору указа Трампа, два эксперта из независимого аналитического центра Совета по международным отношениям (CFR) объяснили значение этого указа и выявили, по-видимому, вопиющие его недостатки.

Мэтью Феррен, научный сотрудник в области международных отношений и национальной безопасности, предположил, что этот указ «лучше всего понимать как попытку создать окно возможностей в сфере кибербезопасности», которое «предоставляет защитникам преимущественный доступ к передовым кибервозможностям, одновременно пытаясь задержать доступ противника».

«Цель состоит в том, чтобы защитники находили и устраняли критические уязвимости быстрее, чем противники смогут их использовать, но это, вероятно, окажется сложной задачей», — написал Феррен.

Феррен предположил, что, хотя обнаружение уязвимостей может быть простым делом, постоянное обновление критически важных государственных систем для защиты от рисков, вероятно, будет сложной задачей, особенно без специализированной группы государственных экспертов. В прошлом году CISA была одним из наиболее пострадавших ведомств во время сокращений в Министерстве эффективности государственного управления. Как сообщило CBS News, лучшие специалисты по кибербезопасности были «уничтожены»: высокопоставленные сотрудники были уволены, агентство было реорганизовано, а контракты в сфере кибербезопасности были расторгнуты, сообщило издание Time Magazine.

Феррен написал, что резкое сокращение финансирования CISA, возможно, стало причиной того, почему Трампу пришлось отвести «важную оперативную роль» Министерству финансов, а не «более очевидным сторонам», таким как CISA или Управление национального директора по кибербезопасности. Это «может отражать тот факт, что это одно из немногих мест, где сохранился институциональный потенциал», — сказал Феррен.

Указ Трампа, возможно, не запретит опасные развертывания войск.

Хотя вопрос о том, «кто будет тестировать передовые модели», остается актуальным для администрации Трампа, «самым сложным в исполнении» положением указа, по словам Винь Нгуена, старшего научного сотрудника CFR по искусственному интеллекту, будет «определение того, что считается „подпадающей под действие передовой моделью“». Как пояснил Нгуен:

«Передовые системы искусственного интеллекта являются вероятностными, целеориентированными, все более автономными и непрозрачными. У них нет фиксированных пределов возможностей. Они демонстрируют эмергентное поведение, которое меняется в зависимости от масштаба, тонкой настройки, структур поддержки программного обеспечения и контекста развертывания. Модель, которая кажется ничем не примечательной при изолированном тестировании, может стать мощным инструментом кибербезопасности при интеграции в автономный конвейер с доступом к реальной цифровой инфраструктуре».

По словам Нгуена, правительство должно проявлять осторожность при решении вопроса о том, какие модели требуют испытаний на безопасность, поскольку существует риск поставки моделей с «действительно опасными возможностями», если определение модели, подлежащей проверке, будет «слишком узким». Но если оно будет «слишком широким», то процесс оценки рискует исчерпать «ограниченные ресурсы, имеющиеся для выполнения этой работы».

После определения моделей, подлежащих проверке, Нгуен предупредил, что эффективность тестирования безопасности, вероятно, будет зависеть от того, насколько прозрачными будут компании, занимающиеся искусственным интеллектом, и будут ли они рассматривать этот процесс как «подлинное сотрудничество».

«В основе проблемы определения лежит проблема наблюдаемости, — написал Нгуен. — Правительство не может оценить то, чего не видит, а передовые возможности видны только тем лабораториям, которые их создают».

Феррен предположил, что «окно возможностей для создания надлежащей киберзащиты для новых моделей ИИ может быстро закрыться», и что даже хорошо разработанная государственная программа может столкнуться с трудностями при надлежащей проверке перспективных моделей в столь короткие сроки. «Даже при хорошей реализации предварительное тестирование имеет свои ограничения», — сказал Феррен, отметив, что группа Google по анализу угроз обнаружила, что связанные с государством субъекты используют перспективные модели для автоматизации кибератак, а «исследователи показали, что логика уязвимостей в стиле Mythos может быть воспроизведена с помощью систем с открытыми весами».

Таким образом, хотя ИИ может добровольно соглашаться на тестирование, у разработчиков может быть финансовая мотивация добиваться формального одобрения, а не сотрудничать с правительством для всестороннего изучения известных перспективных возможностей.

«Вероятно, будет сложно разработать модели, которые были бы неспособны к злонамеренному взлому, но при этом оставались бы коммерчески привлекательными», — сказал Феррен.

Он пришел к выводу, что указ президента «может принести краткосрочные выгоды в сфере кибербезопасности», но «долгосрочный эффект» остается «неясным».

Нгуен предположил, что указ предпринимает необходимые шаги для создания «секретной системы оценки кибербезопасности, добровольной предварительной оценки и скоординированного сканирования уязвимостей», которые «потребуются сообществу национальной безопасности на протяжении десятилетий» для «постоянной оценки систем, которые являются вероятностными, а не детерминированными, автономными, а не управляемыми, и возможности которых меняются с каждым обновлением».

Однако, по словам Нгуена, испытания на безопасность должны развиваться так же быстро, как и технологии, иначе мы рискуем оценивать новые модели, сравнивая их с «рисками прошлого».

Именно поэтому, по сути, этот процесс будет зависеть от честного обмена мнениями между заинтересованными сторонами, обладающими глубокими техническими знаниями и конфиденциальной информацией, касающейся национальной безопасности. Это единственный способ гарантировать, что США сосредоточат свои усилия на защите населения от наиболее серьезных и существенных рисков, связанных с ИИ, а не просто на предоставлении «показательных заверений», — написал Нгуен.

Источник: arstechnica.com