От PGP до Mythos: краткая история экспортного контроля, который никого не остановил.

В прошлую пятницу, сославшись на неуказанные соображения национальной безопасности, Белый дом приказал компании Anthropic ограничить экспорт своих мощных моделей искусственного интеллекта Fable и Mythos всем, кто находится за пределами Соединенных Штатов, а также иностранным гражданам внутри страны. Вскоре после этого гигант в области ИИ поспешно отключил обе модели, которые теперь недоступны никому уже неделю.

Этот эпизод — первое настоящее испытание того, сможет ли правительство США использовать экспортный контроль для сдерживания развития искусственного интеллекта на передовой, как оно пыталось, с весьма неоднозначными результатами, сдерживать распространение шифрования и шпионского ПО. И как бы драматично это ни звучало, то, как разрешится это противостояние, может повлиять не только на доступ Anthropic к зарубежным рынкам, но и на свод правил, в соответствии с которыми придется строить работу другим лабораториям искусственного интеллекта.

Для начала немного контекста. С момента запуска Mythos компанией Anthropic в апреле, она позиционировала его как некую кибермашину судного дня, способную посеять хаос в интернете, если её слишком широко распространить — именно поэтому до запрета доступ к ней имели лишь около 150 проверенных компаний и правительственных организаций. Цель заключалась в том, чтобы помочь специалистам по кибербезопасности защитить своё программное обеспечение и сервисы до того, как злоумышленники смогут получить доступ к возможностям, подобным Mythos.

Что же послужило причиной запрета? Как сообщается, это произошло в результате двух последующих событий. Первое: компания Anthropic предоставила южнокорейской телекоммуникационной компании доступ к Mythos через свою программу ограниченного партнерства, и американские чиновники забеспокоились, идентифицировав эту компанию как ту, которая, по их подозрениям, имеет связи с Китаем. (Компания, которая, как широко сообщается, является SK Telecom, отрицает какие-либо связи с Китаем.) Генеральный директор Amazon Энди Джасси также, как сообщается, предупредил администрацию после того, как, по его словам, собственные исследователи Amazon нашли способ обойти средства защиты Fable 5. Anthropic оспаривает определение «взлом», называя это узкоспециализированной, уже исправленной проблемой, а не полным провалом мер безопасности модели.

Результат был тот же: Министерство торговли издало директиву об экспортном контроле, и компании Anthropic пришлось в спешке ограничить доступ к своей продукции — по некоторым данным, примерно через 90 минут после получения уведомления.

Впрочем, ничего нового в этом нет. Правительства десятилетиями пытались использовать экспортный контроль для ограничения распространения того, что они считают опасными кибертехнологиями, но их результаты в лучшем случае оставляют желать лучшего.

Правительство США стояло за, пожалуй, самым впечатляющим в истории провалом этого подхода в начале-середине 1990-х годов. В то время специалисты по информатике разрабатывали технологии шифрования для защиты данных при их передаче через интернет. Одним из таких продуктов шифрования было программное обеспечение под названием Pretty Good Privacy, или PGP, которое могло шифровать данные и делать их практически невозможными для расшифровки даже в случае перехвата во время передачи получателю через интернет.

Правительство США первоначально рассматривало PGP как опасное оружие, опасаясь, что оно помешает разведывательным службам прослушивать электронные письма, передаваемые по каналам связи. Чтобы остановить распространение PGP, Таможенная служба США начала уголовное расследование в отношении создателя PGP Фила Циммермана за предполагаемое нарушение контроля за экспортом оружия. В ответ он опубликовал исходный код PGP в виде печатной книги, что положило начало тому, что сегодня известно как «криптовойны».

Впоследствии, после закрытия расследования, Циммерманн одержал ключевую победу, что открыло путь для важнейших алгоритмов сквозного шифрования, таких как тот, который используют миллиарды пользователей Signal и WhatsApp.

В начале 2010-х годов исследователи начали обнаруживать разработанное на Западе шпионское программное обеспечение, используемое против диссидентов на Ближнем Востоке. В ответ на это несколько правительств договорились расширить Вассенарское соглашение — международный договор, ограничивающий экспорт программного обеспечения и технологий двойного назначения, используемых как в гражданских, так и в военных целях.

Идея заключалась в том, чтобы классифицировать программное обеспечение для слежки и взлома как программное обеспечение двойного назначения, тем самым вынуждая производителей шпионских программ получать экспортные лицензии для продажи своей продукции за рубежом.

Связаться с нами

У вас есть дополнительная информация о блокировке Mythos? С любого устройства и сети, не связанных с работой, вы можете безопасно связаться с Лоренцо Франчески-Биккьераи через Signal по номеру +1 917 257 1382, или через Telegram и Keybase @lorenzofb, или по электронной почте.

Однако у Вассенаара всегда были две существенные слабости. Некоторые страны не соблюдают соглашение, в том числе Израиль, где расположены одни из самых активных в мире производителей шпионского программного обеспечения.

Соглашение также зависит от того, будут ли страны применять его к компаниям, находящимся на их территории, по своему усмотрению. Некоторое время итальянское правительство разрешало одному из ведущих на тот момент производителей шпионского ПО, компании Hacking Team, экспортировать свои инструменты по всему миру, несмотря на то, что компания продавала шпионское ПО репрессивным правительствам, которые использовали его для взлома аккаунтов журналистов и правозащитников.

С тех пор другие страны Европы, такие как Италия, проявляют снисходительность к производителям шпионского ПО. Несмотря на многочисленные скандалы, Европа, где сосредоточено множество производителей шпионского ПО и инструментов для взлома, постоянно не справляется с задачей пресечения экспорта шпионского ПО в авторитарные режимы. Критики утверждают, что недавно возобновленные усилия стран блока из 27 государств-членов по решению растущей проблемы экспорта шпионского ПО в авторитарные государства «недостаточны».

Некоторые производители шпионского ПО, такие как Intellexa, консорциум компаний, занимающихся шпионским ПО, находящихся под санкциями, просто перенесли свою деятельность в страны с мягким экспортным контролем. Другие производители шпионского ПО стремились перенести свою деятельность в Саудовскую Аравию по аналогичным причинам.

Были и победы. Немецкая компания FinFisher, занимавшаяся разработкой шпионского ПО, прекратила свою деятельность в 2022 году после многолетнего расследования немецкой прокуратуры по обвинению в продаже шпионского ПО Турции без экспортной лицензии. Ранее следователи установили, что шпионское ПО FinFisher использовалось на телефонах критиков турецкого правительства.

На момент написания статьи тупиковая ситуация между Anthropic и администрацией Трампа сохраняется. Существует разумная вероятность того, что администрация уступит и отменит ограничение в интересах сохранения конкурентоспособности американских компаний, занимающихся ИИ, на мировом рынке — шаг, который будет равносилен молчаливому признанию того, что лаборатории ИИ в других странах, включая Китай, скорее всего, достигнут аналогичных возможностей независимо от ограничений, введенных США. Или же американским компаниям, занимающимся ИИ, может потребоваться государственное одобрение, прежде чем они начнут обслуживать иностранных клиентов, что неизбежно негативно скажется на их прибыли.

Учитывая прошлый опыт правительств стран мира в попытках контролировать распространение программного обеспечения, введение государственного экспортного контроля вряд ли станет правильным подходом для предотвращения злоупотреблений со стороны злоумышленников в отношении мощных кибертехнологий двойного назначения.

Источник: techcrunch.com