В этой глубоко исследованной книге невероятно увлекательно читать о пути американских военных к ведению войны с использованием искусственного интеллекта. Но что будет дальше, спрашивает Мэтью Спаркс.
Проект Maven был запущен в 2017 году как инструмент для анализа видеоматериалов, снятых дронами. Девон Бистарки, Отдел оборонных инноваций
Проект Maven
Катрина Мэнсон, У. В. Нортон
Израильские военные используют искусственный интеллект для идентификации целей в Газе, США делают то же самое в Иране, а Украина продолжает наращивать боеспособность с помощью интеллектуальных беспилотников. Война с использованием ИИ — это не будущее конфликтов, это настоящее.
Анализ глобальной политики использования ИИ в вооруженных силах — потенциальные преимущества, подводные камни и сомнительная этика — займет целые книги на десятилетия вперед. Но это не то, к чему стремится Катрина Мэнсон в своем проекте «Maven» . Вместо этого она использует интервью с более чем 200 людьми, чтобы рассказать историю пути американских военных к войне с использованием ИИ — или, по крайней мере, одного из них, поскольку в Пентагоне скрывается 800 проектов в области ИИ.
В 2017 году был запущен проект Maven, целью которого было создание инструмента для анализа видеозаписей с дронов и извлечения полезной информации — дроны собрали больше данных, чем мог обработать любой человек. По словам Мэнсона, у Maven был непростой старт. Военные развернули его на солдатах в Сомали через восемь месяцев после запуска проекта, и алгоритмы показали аналитикам, что в облаках находятся школьные автобусы, а деревья — люди.
Мы прослеживаем путь одного руководителя проекта до его работы офицером разведки в Афганистане, когда он пытался планировать миссии и руководить войсками, имея в своем распоряжении лишь пыльный ноутбук с установленным Microsoft Office: где находится враг, где безопасно, как выглядит успех?
Люди на войне неэффективны, устают, совершают ошибки. Как считали обычно скрытные создатели проекта Maven, беседовавшие с Мэнсоном, туман войны можно рассеять с помощью ИИ. Но они планировали пойти гораздо дальше: выбирать цели, выслеживать их, а затем уничтожать. Без медленного, обдуманного принятия решений человеком, роботы-убийцы могли бы быстро сокрушить врагов.
«Мы постоянно убиваем не тех людей. Машина не может быть хуже человека», — говорит один из инсайдеров. Команда разработала Maven, превратив его в набор инструментов, и попыталась убедить людей на передовой их использовать. Результаты улучшились, но ошибки всё ещё случались.
С тех пор США и другие члены НАТО внедрили Maven в конфликтах. По словам Мэнсон, над ним работают около 32 компаний, и 25 000 американских военных пользователей регулярно подключаются к нему. Но она также рассказывает об использовании системы на пограничных переходах и для поиска наркоторговцев в Карибском бассейне. Может ли государство, обладающее такими инструментами, устоять перед соблазном использовать их против своих граждан?
Больше всего беспокоит то, что, по словам Мэнсона, ведется работа по полному исключению человека из процесса. Так называемые летающие дроны Goalkeeper и военно-морские дроны Whiplash могут сами находить цели и уничтожать их. И люди никогда не изобретали оружие и не использовали его.
Трудно не вспомнить Станислава Петрова, советского подполковника, который в 1983 году, руководствуясь собственным суждением, решил, что сообщения о запуске американской ракеты были ложной тревогой, и избежал полномасштабной ядерной войны. Сделал бы искусственный интеллект подобный вывод?
Несмотря на захватывающие подробности о Maven, книга рассказывает нам больше о бюрократии Пентагона и готовности Кремниевой долины браться за любые проекты — какими бы неприятными они ни были — если есть подходящие деньги, чем об искусственном интеллекте. Доступ Мэнсона к информации феноменален, однако природа военной секретности означает, что мы, вероятно, не узнаем точно, какие технологии разработало правительство США, как и когда они используются, еще долгие годы.
Война всегда была крайне неприятной, но современные конфликты, в которых люди наблюдают за кем-то за тысячи километров с помощью дронов и решают, заслуживает ли он смертельного удара, сделали её безличной. Передача этой задачи искусственному интеллекту рискует сделать войну слишком лёгкой для ведения, а её последствия — слишком легко игнорируемыми.
« Беспилотники Goalkeeper и морские беспилотники Whiplash могут находить собственные цели и уничтожать их ».
Нам необходимо обеспечить, чтобы к возможностям, предоставляемым оружием на основе искусственного интеллекта, относились со всей серьезностью, которой оно заслуживает, но Мэнсон рассказывает нам леденящую душу историю, которая предполагает, что реальность иная. Сообщается, что один из кандидатов, надеявшихся присоединиться к проекту Maven, заявил комиссии, что его мотивацией является «сокращение численности неамериканского населения», — и в итоге получил работу.
Еще две замечательные книги об искусственном интеллекте и войне.
Создание атомной бомбы (автор Ричард Роудс)
Здесь можно извлечь много уроков о том, куда может развиваться военный ИИ. Как и Манхэттенский проект, он грозит навсегда обострить глобальную напряженность и повысить ставки в войне, и это только начало.
Следует ли запретить роботов-убийц ? Автор: Дин Бейкер
Это углублённый анализ дискуссии с точки зрения профессора этики, рассматривающий сложные проблемы надёжности, контроля и подотчётности, возникающие, когда правительства передают работу солдат компьютерам.
Темы:
- война /
- искусственный интеллект /
- книги
Реклама
Подпишитесь на нашу еженедельную рассылку.
Зарегистрироваться
Источник: www.newscientist.com
