Энциклика Папы Римского об искусственном интеллекте на самом деле не об ИИ.

В понедельник Папа Лев XIV опубликовал свою первую энциклику под названием Magnifica Humanitas, посвященную «защите человеческой личности в эпоху искусственного интеллекта». И хотя ИИ является отправной точкой, проблемы, на которых сосредоточивается Лев, более старые и распространенные: неравенство, войны, эрозия демократии и концентрация власти в руках тех, кому не обязательно важно, останется ли человечество в целом великолепным.

В этом 200-страничном документе, представленном Папой Римским вместе с Крисом Олахом, соучредителем компании Anthropic, занимающейся разработкой искусственного интеллекта, Лев утверждает, что технологии, созданные и управляемые небольшой элитой, по определению не могут служить общему благу.

«Когда такая власть сосредоточена в руках немногих, она, как правило, становится непрозрачной и ускользает от общественного контроля, что увеличивает риск искаженных форм развития, порождающих новые зависимости, исключения, манипуляции и неравенство», — пишет он.

«На самом деле, как и в случае с любым крупным технологическим сдвигом, ИИ, как правило, усиливает власть тех, кто уже обладает экономическими ресурсами, опытом и доступом к данным», — говорится в энциклике, подчеркивая опасения, что элиты могут использовать свою власть для «формирования информационных и потребительских моделей, влияния на демократические процессы и управления экономической динамикой в своих собственных интересах».

Энциклика появилась спустя несколько дней после того, как президент Дональд Трамп отложил подписание своего указа по искусственному интеллекту, который предоставил бы правительству надзор за новыми моделями до их выпуска, предположительно по настоянию венчурного инвестора и бывшего советника Белого дома по вопросам ИИ Дэвида Сакса.

Папа Лев призвал к тому, чтобы развитие ИИ основывалось на «четких критериях и эффективном надзоре», предполагающем участие сообществ, на которые он повлияет. Более конкретно, Лев призвал положить конец гонке вооружений в области ИИ — стремлению создавать «все более мощные алгоритмы и большие наборы данных», которые, по мнению компаний и стран, «обеспечат геополитическое или коммерческое доминирование».

«Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право на управление», — написал он.

Опять же, эти процессы существовали задолго до ИИ. В послании Папы Льва XIII «Rerum Novarum» 1891 года рассматривалась аналогичная концентрация власти во время промышленной революции, но нам не нужно заглядывать так далеко в прошлое. Вспомним приобретение Илоном Маском Twitter и использование им платформы для поддержки избрания Трампа, или сотни миллионов, поступавшие от технологической элиты в суперкомитеты политических действий для блокирования регулирования ИИ — модели, которые явно вдохновили работу Льва XIV.

Папа Римский приходит к выводу, к которому многие уже пришли: сюрреалистическая мощь и возможности современного искусственного интеллекта значительно повышают ставки.

Профессор юридической школы Нотр-Дам Паоло Кароцца, член Папской академии социальных наук и председатель наблюдательного совета Meta, заявил TechCrunch, что дезинформация, распространяемая с помощью ИИ, и дипфейки «подорвали нашу способность различать правду и ложь, и это действительно имеет последствия для демократической политики». Практика технологической индустрии «сбора и манипулирования» данными о людях, добавил он, создает «фундаментальные проблемы для когнитивной свободы».

Источник: techcrunch.com