«Обезвредить ИИ»: Папа Лев осуждает всепоглощающую одержимость крупных технологических компаний.
Magnifica Humanitas, что переводится как «великолепное человечество», — это попытка Ватикана обеспечить будущее человечества в эпоху искусственного интеллекта.
Папа Лев опубликовал свою энциклику об искусственном интеллекте в понедельник.
С самых первых дней своего пребывания на посту Папа Лев XIV сделал обсуждение искусственного интеллекта одним из приоритетов своего понтификата. В понедельник он опубликовал свою первую энциклику под названием Magnifica Humanitas (что переводится как «великолепное человечество») — мощный документ объемом 42 300 слов, призывающий к регулированию этой технологии и созданию моральных основ, защищающих человечество для будущих поколений.
70-летний американский папа, по образованию математик, был избран на папский престол в мае 2025 года и сделал «защиту человеческой личности в эпоху искусственного интеллекта», как гласит подзаголовок энциклики, центральным принципом своего первого года пребывания в должности.
Публикация документа происходит в тот момент, когда многие уже сравнивают его с промышленной революцией с точки зрения его влияния на нашу работу и образ жизни. Компании, занимающиеся искусственным интеллектом, включая OpenAI и Anthropic, развивают и совершенствуют возможности своих моделей с невероятной скоростью, разжигая продолжающиеся дебаты о том, будет ли ИИ более полезен или вреден для общества.
На фоне всего этого Папа Лев называет ИИ «ценным инструментом, требующим бдительности», бросая вызов концентрации власти в руках технологических компаний и обращаясь непосредственно к разработчикам. Документ имеет широкий охват, призывая к осторожности при использовании ИИ в военных действиях и на рабочем месте, и, вероятно, станет основополагающим текстом, поскольку политики и технологические компании будут разрабатывать свои стратегии по созданию и регулированию этой технологии в ближайшие годы.
Папа Лев призывает к «разоружению» искусственного интеллекта.
Один из посылок текста, уже привлекающий внимание, — это призыв Папы Льва «разоружить ИИ». Хотя это может звучать как предупреждение против военного использования искусственного интеллекта, на самом деле это гораздо больше, чем просто предупреждение.
«Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право управлять, — пишет папа. — Разоружение не означает отказ от технологий, а предотвращение их господства над человечеством. Это означает освобождение технологий от монополистического контроля и открытие их для обсуждения и дебатов, тем самым делая их удобными для человека и возвращая их в многообразие человеческих культур и образов жизни».
Что говорится в энциклике Папы Римского об использовании нами искусственного интеллекта?
Эта энциклика — не просто послание технологическим компаниям и Католической церкви. Папа, похоже, обращается ко всему человечеству, ставя во главу угла «равное достоинство всех людей», «высшую ценность прав человека» и «построение общего блага». Для католиков и некатоликов «Magnifica Humanitas» предлагает идеи, вокруг которых могут объединиться люди по всему миру, поскольку искусственный интеллект всё больше проникает в нашу жизнь.
Папа Римский предостерегает от того, чтобы позволять тем, кто контролирует ИИ, диктовать и навязывать этические рамки управления этой технологией. Вместо этого, по его словам, этика ИИ должна подчиняться «общим стандартам социальной справедливости» и открыто обсуждаться всеми людьми. «Более морального ИИ недостаточно, если эта мораль определяется немногими», — пишет он. Другими словами, каждый из нас должен иметь право голоса в отношении роли ИИ в нашем мире.
Папа Лев дал всем нам совет по использованию ИИ.
Он также размышляет о том, как нам следует подходить к использованию ИИ в нашей собственной работе. Скорость и простота использования инструментов ИИ могут быть привлекательными, говорит он. Но они также могут «поощрять чрезмерную зависимость и поиск готовых решений, а также ослаблять личную креативность и способность к здравому суждению».
Имитация позитивного человеческого общения искусственным интеллектом может быть увлекательной и даже полезной, добавляет он. «Однако для менее разборчивых пользователей это может ввести в заблуждение, создавая иллюзию отношений с реальным человеком». Это особенно рискованно, добавляет он, когда имитация заботы и поддержки происходит в контекстах, где отсутствуют настоящие человеческие связи.
«Здесь опасность заключается не столько в том, что человек может поверить, что общается с другим человеком, сколько в том, что он постепенно может утратить само желание устанавливать подлинные человеческие связи», — пишет папа.
Почему Папу Римского волнует искусственный интеллект?
Чтобы понять масштабы интереса папы к искусственному интеллекту, нам сначала нужно взглянуть на выбор им имени. Его решение использовать имя Папа Лев XIV отсылает к Папе Льву XIII, который занимал папский престол во времена промышленной революции и написал энциклику Rerum Novarum о капитале и труде.
По словам Брайана Бойда, представителя по связям с религиозными организациями в США при Институте будущего жизни, нынешний Папа Лев во многом продолжает дело своего тезки.
«Лео развивает традицию католического социального учения, задаваясь вопросом, как мы, как общество, можем лучше служить общему благу, признавая, что искусственный интеллект — это самая важная технология, которой мы обладаем за последние пару столетий, возможно, за последние пару тысяч лет, и она повлияет на то, как мы будем жить вместе», — сказал Бойд в интервью CNET накануне публикации энциклики.
В прошлом году папа говорил об ИИ в контексте защиты детей, того, что он называет «священной природой человеческого лица и голоса», а также опасений по поводу прав трудящихся, добавил Бойд. Папа Лев особо подчеркнул необходимость прямого обращения к технологической индустрии, в том числе в своей энциклике, где он говорит, что разработчики «несут особую этическую и духовную ответственность, поскольку каждый проектный выбор отражает видение человечества».
Иногда его позиция встречала негативную реакцию. Например, в ноябре, когда папа римский выступал на форуме Builders AI Forum, венчурный капиталист Марк Андрессен публично высмеял его — хотя использование мемов не возымело эффекта, поскольку многие, в том числе и представители Силиконовой долины, согласились с тем, что папа был прав.
«Было удивительно видеть, как не только католики, но и люди доброй воли самых разных взглядов спрашивали: почему вас расстраивает, что кто-то указывает на то, что должно быть само собой разумеющимся, но за пределами определенных ниш это полностью игнорируется?» — сказал Бойд.
Тот факт, что Лев является первым американским папой римским, вероятно, также играет роль в том, как и почему он обращается к крупным американским технологическим компаниям, добавил Бойд. Хотя он родился в США, он много лет проработал в Католической церкви в Латинской Америке, что дало ему понимание как самовосприятия Америки, так и глобального взгляда на страну.
«Эта двойная точка зрения делает его идеально подходящим как для общения с людьми в Силиконовой долине, так и для представления интересов остального мира в той мере, в какой это крайне необходимо, потому что… многие из этих голосов остаются неуслышанными, к ним не прислушиваются», — сказал он.
Папа Римский, возможно, не обладает властью правительств регулировать деятельность компаний, занимающихся искусственным интеллектом, и привлекать их к ответственности таким образом, чтобы это влияло на их способность вести бизнес и прибыль, но это не означает, что его «мягкую силу» следует недооценивать. Ранее в этом месяце он создал Комиссию по искусственному интеллекту, призванную созывать лидеров во имя содействия процветанию человечества, и моральный авторитет Ватикана вполне может иметь значительный вес по мере дальнейшего развития регулирования.
Добавить комментарий
Для отправки комментария вам необходимо авторизоваться.