В ходе испытаний подразделение морской пехоты в Тихоокеанском регионе использовало генеративный ИИ не только для сбора разведданных, но и для их интерпретации. Рутинная разведывательная работа — это только начало.
Большую часть прошлого года около 2500 американских военнослужащих из 15-го экспедиционного отряда морской пехоты США провели на трёх кораблях в Тихом океане, проводя учения у берегов Южной Кореи, Филиппин, Индии и Индонезии. В это же время на борту кораблей разворачивался эксперимент: морские пехотинцы подразделения, ответственного за анализ иностранных разведданных и информирование начальства о возможных локальных угрозах, впервые использовали для этого генеративный ИИ, тестируя передовой инструмент искусственного интеллекта, финансируемый Пентагоном.
Два офицера рассказали нам, что использовали новую систему для анализа тысяч открытых разведывательных данных — несекретных статей, отчётов, изображений и видео, — собранных в разных странах, где они действовали, — и что она работала гораздо быстрее, чем старый метод ручного анализа. Например, капитан Кристин Энценауэр говорит, что использовала большие языковые модели для перевода и обобщения зарубежных новостных источников, а капитан Уилл Лоудон использовал ИИ для написания ежедневных и еженедельных разведывательных отчётов, которые он предоставлял своим командирам.
«Нам всё ещё нужно проверить источники», — говорит Лоудон. Но командиры подразделения, по его словам, поощряли использование обширных языковых моделей, «потому что они обеспечивают гораздо большую эффективность в динамичной ситуации».
Инструменты генеративного ИИ, которые они использовали, были разработаны оборонной технологической компанией Vannevar Labs, которая в ноябре получила контракт на производство на сумму до 99 миллионов долларов от ориентированного на стартапы Подразделения оборонных инноваций Пентагона с целью внедрения своих разведывательных технологий в большее число воинских подразделений. Компания, основанная в 2019 году ветеранами ЦРУ и разведывательного сообщества США, присоединяется к таким компаниям, как Palantir, Anduril и Scale AI, став одним из основных бенефициаров внедрения искусственного интеллекта в вооруженные силы США — не только в области физических технологий, таких как беспилотные летательные аппараты и автономные транспортные средства, но и в области программного обеспечения, которое коренным образом меняет методы сбора, обработки и интерпретации данных Пентагоном для ведения боевых действий и наблюдения.
Хотя военные США разрабатывают модели компьютерного зрения и аналогичные инструменты ИИ, подобные тем, что используются в проекте Maven, с 2017 года, использование генеративного ИИ — инструментов, способных вести диалог, подобный человеческому, подобно тем, что разработаны Vannevar Labs, — представляет собой новый рубеж.
Компания применяет существующие крупные языковые модели, в том числе от OpenAI и Microsoft, а также несколько собственных, к массивам данных из открытых источников, которые компания собирает с 2021 года. Масштаб сбора этих данных трудно представить (и это большая часть того, что отличает продукты Vannevar): терабайты данных на 80 различных языках собираются каждый день в 180 странах. Компания заявляет, что может анализировать профили в социальных сетях и обходить межсетевые экраны в таких странах, как Китай, чтобы получать труднодоступную информацию; она также использует несекретные данные, которые трудно получить в интернете (собираемые оперативниками на местах), а также отчеты физических датчиков, которые скрытно отслеживают радиоволны для обнаружения незаконной судоходной деятельности.
Затем Ванневар создаёт модели искусственного интеллекта для перевода информации, выявления угроз и анализа политических настроений, предоставляя результаты через интерфейс чат-бота, во многом похожий на ChatGPT. Цель — предоставлять клиентам критически важную информацию по таким разнообразным темам, как международные цепочки поставок фентанила и усилия Китая по обеспечению доступа к редкоземельным минералам на Филиппинах.
«Наша настоящая цель как компании — собирать данные, анализировать их и помогать США принимать правильные решения», — говорит Скотт Филипс, главный технический директор Vannevar Labs.
Такой подход особенно привлекателен для разведывательного аппарата США, поскольку на протяжении многих лет мир был завален данными в большем объеме, чем могут интерпретировать специалисты-аналитики. Эта проблема способствовала основанию в 2003 году компании Palantir, рыночная стоимость которой превышает 200 миллиардов долларов и которая известна своими мощными и противоречивыми инструментами, включая базу данных, помогающую иммиграционной и таможенной полиции искать и отслеживать информацию о нелегальных иммигрантах.
В 2019 году Ванневар увидел возможность использования больших языковых моделей, которые тогда были новинкой, в качестве нового решения головоломки с данными. Эта технология могла позволить ИИ не только собирать данные, но и интерактивно обсуждать с пользователем результаты анализа.
Инструменты Ванневара оказались полезными во время операции в Тихом океане, и Энценауэр и Лоудон утверждают, что, хотя им было поручено всегда перепроверять работу ИИ, они не считали неточности серьёзной проблемой. Энценауэр регулярно использовала этот инструмент для отслеживания любых зарубежных новостных репортажей, в которых упоминались учения подразделения, и для анализа тональности текста, выявляя эмоции и мнения, выраженные в тексте. Определение того, отражает ли зарубежная новостная статья угрожающее или дружелюбное отношение к подразделению, — это задача, которую в предыдущих операциях ей приходилось выполнять вручную.
«В основном это была ручная работа — исследование, перевод, кодирование и анализ данных», — говорит она. «Это определённо заняло гораздо больше времени, чем при использовании ИИ».
Тем не менее, Энценауэр и Лоудон говорят, что были и сбои, некоторые из которых повлияли на большинство цифровых инструментов: большую часть времени у кораблей было нестабильное интернет-соединение, что ограничивало скорость, с которой модель ИИ могла синтезировать разведывательную информацию извне, особенно если речь шла о фотографиях или видео.
После завершения первого испытания командир подразделения полковник Шон Дайнан в феврале в телефонном разговоре с журналистами заявил, что предстоит более интенсивное использование генеративного ИИ; этот эксперимент — «вершина айсберга».
Именно в этом направлении на полной скорости движутся все американские военные. В декабре Пентагон заявил, что в течение следующих двух лет потратит 100 миллионов долларов на пилотов, специализирующихся на генеративных приложениях ИИ. Помимо Vannevar, он также обращается к Microsoft и Palantir, которые совместно работают над моделями ИИ, использующими секретные данные. (Разумеется, США не одиноки в этом подходе; в частности, Израиль использует ИИ для сортировки информации и даже составления списков целей в ходе своей войны в Газе, что подвергается широкой критике.)
Связанная история
Неудивительно, что многие за пределами Пентагона предупреждают о потенциальных рисках этого плана, включая Хейди Хлааф, главного специалиста по ИИ в исследовательской организации AI Now Institute, обладающую опытом проведения аудитов безопасности систем на базе ИИ. Она утверждает, что эта спешка с внедрением генеративного ИИ в процесс принятия военных решений игнорирует более фундаментальные недостатки этой технологии: «Мы уже знаем, насколько неточны LLM, особенно в контексте критически важных для безопасности приложений, требующих точности».
Хлааф добавляет, что даже если люди «перепроверяют» работу ИИ, нет оснований полагать, что они способны обнаружить каждую ошибку. «“Человек в системе” не всегда является эффективным средством смягчения последствий», — говорит она. Когда модель ИИ опирается на тысячи точек данных для вывода выводов, «человеку фактически не под силу проанализировать такой объём информации, чтобы определить, были ли результаты ИИ ошибочными».
Одним из конкретных вариантов использования, который ее беспокоит, является анализ настроений, который, по ее словам, является «крайне субъективной метрикой, которую даже людям будет сложно адекватно оценить, основываясь только на медиа».
Если ИИ обнаружит враждебность по отношению к американским силам там, где аналитик-человек ее не заметит, или если система не заметит реальной враждебности, военные могут принять неверное решение или неоправданно обострить ситуацию.
Анализ настроений — это действительно задача, которую искусственный интеллект ещё не довёл до совершенства. Технический директор Ванневара Филипс утверждает, что компания разработала модели специально для оценки проамериканской направленности статьи, но MIT Technology Review не смог их оценить.
Крис Мутон, старший инженер RAND, недавно проверил, насколько хорошо генеративный ИИ подходит для этой задачи. Он оценил ведущие модели, включая GPT-4 от OpenAI и более старую версию GPT, доработанную для выполнения подобной разведывательной работы, по тому, насколько точно они маркируют иностранный контент как пропаганду по сравнению с экспертами-людьми. «Это сложно», — говорит он, отмечая, что ИИ с трудом распознаёт более тонкие виды пропаганды. Но он добавляет, что эти модели всё ещё могут быть полезны для множества других аналитических задач.
Ещё одним ограничением подхода Ванневара, по словам Хлаафа, является сомнительность полезности разведданных из открытых источников. Мутон утверждает, что данные из открытых источников могут быть «довольно необычными», но Хлааф отмечает, что, в отличие от секретной информации, собранной с помощью разведки или прослушки, она доступна в открытом интернете, что делает её гораздо более уязвимой для кампаний по дезинформации, бот-сетей и преднамеренных манипуляций, как предупреждала армия США.
Для Мутона самый важный вопрос сейчас заключается в том, станут ли эти генеративные технологии ИИ лишь одним из множества инструментов расследования, используемых аналитиками, или же они станут источником субъективного анализа, на который можно положиться и который будет использоваться при принятии решений. «Это центральная тема для обсуждения», — говорит он.
Все согласны с тем, что модели ИИ доступны — достаточно задать им вопрос о сложных интеллектуальных системах, и они ответят простым языком. Но до сих пор ведутся споры о том, какие несовершенства допустимы ради эффективности.
Обновление: эта история была обновлена и дополнена контекстом от Хейди Хлааф.
Источник: www.technologyreview.com
