Этот шаг является благом для компаний, занимающихся разработкой систем искусственного интеллекта для обороны, которые хотят еще быстрее внедрить их.
Механический подход администрации Трампа к федеральным расходам продолжает существовать, даже несмотря на то, что Илон Маск выступает против президента. 28 мая министр обороны Пит Хегсет объявил о ликвидации ключевого подразделения Министерства обороны, отвечающего за испытания и оценку безопасности оружия и систем искусственного интеллекта.
В рамках серии мер, направленных на «сокращение раздутой бюрократии и расточительных расходов в пользу повышения боеспособности», Хегсет вдвое сократил штат Управления директора по эксплуатационным испытаниям и оценке. Эта группа была создана в 1980-х годах по распоряжению Конгресса после критики Пентагона в отношении того, что он поставляет на вооружение оружие и системы, которые не были столь безопасными и эффективными, как заявлено. Хегсет сокращает штат агентства с 94 до 45 человек, а также увольняет и назначает нового директора. Он дал Управлению всего семь дней на реализацию изменений.
Это серьёзная перестройка ведомства, которое за 40 лет никогда ещё не оказывалось под таким строгим контролем. Вот как сегодня могут выиграть компании оборонных технологий, тесно связанные с администрацией Трампа, и почему в результате могут пострадать испытания на безопасность.
Отдел эксплуатационных испытаний и оценки — это «последний этап перед тем, как технология попадёт на боевое дежурство», — говорит Мисси Каммингс, бывший лётчик-истребитель ВМС США, а ныне профессор инженерии и информатики в Университете Джорджа Мейсона. Хотя военные могут проводить небольшие эксперименты с новыми системами, не привлекая к этому отдел, всё, что попадает в эксплуатацию в больших масштабах, должно быть протестировано.
«До сих пор, благодаря двухпартийному подходу, все видели, как это помогает сократить потери, мошенничество и злоупотребления», — говорит она. Это связано с тем, что программа обеспечивает независимую проверку заявлений компаний и подрядчиков о качестве их технологий. Кроме того, она направлена на более строгие испытания систем на безопасность.
Разорение происходит в особенно переломный момент для ИИ и его применения в военных целях: Пентагон экспериментирует с внедрением ИИ во все, такие крупные компании, как OpenAI, теперь более комфортно работают с военными, а такие оборонные гиганты, как Anduril, выигрывают крупные контракты на запуск систем ИИ (в прошлый четверг Anduril объявила о колоссальном раунде финансирования в размере 2,5 млрд долларов, в результате чего ее оценка удвоилась до более чем 30 млрд долларов).
Хегсет утверждает, что его сокращения «повысят эффективность испытаний и поставок оружия», сэкономив 300 миллионов долларов. Но Каммингс обеспокоена тем, что они прокладывают путь к более быстрому внедрению, одновременно увеличивая вероятность того, что новые системы не будут столь безопасными или эффективными, как обещалось. «Увольнения в DOTE чётко показывают, что все предполагаемые препятствия для компаний, пользующихся поддержкой Трампа, будут устранены», — говорит она.
Компании Anduril и Anthropic, запустившие приложения ИИ для военного использования, не ответили на мои вопросы о том, настаивали ли они на сокращениях или одобряли их. Представитель OpenAI заявил, что компания не участвовала в лоббировании реструктуризации.
«Сокращения меня нервируют», — говорит Марк Канчиан, старший советник Центра стратегических и международных исследований, ранее работавший в Пентагоне в сотрудничестве с испытательным отделом. «Дело не в том, что мы превратимся из эффективных в неэффективные, но без этого этапа испытаний можно не заметить некоторые проблемы, которые возникли бы в бою».
Трудно точно сказать, как сокращения повлияют на способность управления тестировать системы, и Канчиан признаёт, что ответственные за внедрение новых технологий иногда жалуются, что это может существенно замедлить их внедрение. Тем не менее, по его словам, управление часто обнаруживает ошибки, которые ранее не были выявлены.
По словам Канчиана, это особенно важный шаг, когда военные внедряют новый тип технологий, такой как генеративный ИИ. Системы, которые могут хорошо себя зарекомендовать в лабораторных условиях, почти всегда сталкиваются с новыми вызовами в более реалистичных сценариях, и группа эксплуатационных испытаний и оценки как раз и занимается этим.
Итак, что же со всем этим делать? Действительно, военные экспериментировали с искусственным интеллектом задолго до нынешнего бума ИИ, особенно с компьютерным зрением для дронов, и компании оборонных технологий получали крупные контракты на это направление в нескольких президентских администрациях. Но сейчас всё иначе. Пентагон объявляет об амбициозных пилотных проектах, специально предназначенных для больших языковых моделей, относительно новой технологии, которая по своей природе порождает галлюцинации и ошибки, и, похоже, стремится внедрить разрекламированный ИИ во всё. Ключевая независимая группа, занимающаяся оценкой точности этих новых и сложных систем, теперь располагает лишь половиной штата. Не уверен, что это выгодно кому-либо.
Эта статья первоначально была опубликована в «Алгоритме», нашей еженедельной рассылке об искусственном интеллекте. Чтобы первыми получать подобные статьи, подпишитесь здесь.
Источник: www.technologyreview.com
