Представляем будущее искусственного интеллекта | OpenAI

Автор: Дин Болл

Приведённая ниже публикация отражает точку зрения её автора и не обязательно совпадает с мнением других сотрудников OpenAI или организации в целом. В целом, публикации в этом блоге будут отражать только точку зрения автора (авторов), а не позицию организации OpenAI.

«Будет ли достаточно… доверить эти пергаментные преграды наступающему духу власти?»
—Джеймс Мэдисон, «Федералист» № 48

Мы рады представить AI Futures, блог новой стратегической команды OpenAI по вопросам будущего. Наша небольшая команда ставит перед собой общую цель – ответить на один главный вопрос: как следует перестроить свободное общество, чтобы сохранить права личности и свободу воли, одновременно учитывая появление преобразующего искусственного интеллекта?

В более широком сообществе специалистов по безопасности и политике в области ИИ подобные вопросы иногда называют рисками концентрации власти . Наша команда основана на идее, что в долгосрочной перспективе эта категория рисков является самой масштабной, самой серьезной и самой сложной с концептуальной точки зрения. Почему?

Современное государство — продукт длительного, неравномерного процесса переговоров между различными центрами власти, такими как владельцы капитала и товаров, носители политической власти и народ. В основе политической и военной власти лежал труд . Обладать политической властью означает обладать монополией на легитимную силу. На протяжении всей истории человечества эта монополия состояла из солдат и того, что мы сегодня называем «полицией», а также обширной гражданско-военной бюрократии — безусловно, дополненной множеством технологических инструментов, но в основе своей управляемой людьми, чья поддержка была необходима для поддержания этой системы. И весь аппарат — солдаты, инструменты, сопутствующая бюрократия — финансировался за счет налогов, взимаемых с заработной платы или производства людей, которые должны были быть готовы платить. В основе власти лежало широкомасштабное сотрудничество и согласие многих людей. Дэвид Юм кратко выразил это часто неявное предположение, заметив, что у политических лидеров «нет ничего, кроме [народного] мнения».

Но, возможно, это уже не так. Достижения в области реальных автономных систем вскоре могут означать, что государства смогут проецировать силу — как внутри страны, так и на международном уровне — не полагаясь на сотрудничество со стороны солдат или полицейских. А достижения в области машинного интеллекта могут означать, что государство сможет получать необходимые ему доходы не от результатов индивидуального труда, а от данных, обрабатываемых центрами обработки данных. Работа самой бюрократии также может быть в значительной степени автоматизирована. Таким образом, власть, возможно, больше не будет нуждаться в общенациональном соглашении для поддержания, а у народа, в широком смысле, может быть лишь небольшое место за столом переговоров, или, возможно, его вообще не будет.

Избежать такого исхода имеет основополагающее значение для сохранения человеческой свободы. Никакие научные открытия, технологический прогресс или экономический рост не стоят той жертвы долгосрочной индивидуальной автономии, которую повлечет за собой такой исход. Многие из тревог, которые справедливо подпитывают зарождающуюся политику в отношении ИИ, связаны с этим вопросом: предприятия, группы интересов и отдельные лица разделяют беспокойство: «Потеряю ли я свое место за столом переговоров?» В некоторой степени американская политика в XXI веке формировалась под влиянием аналогичных опасений, касающихся индивидуальной и коллективной власти над направлением развития страны и того, «для кого» «предназначена» экономика. ИИ повышает актуальность этих существовавших ранее опасений, и это вполне оправдано.

Это структурная проблема, которая выходит за рамки современной партийной политики и даже за рамки форм и ритуалов, в которых сегодня осуществляется республиканская демократия, какими бы священными они ни были для нас. Люди могут оказаться на пути к лишению прав и возможностей, даже если сохранится рутина голосования за своих представителей. Люди могут быть лишены права голоса, даже если на пергаменте написано, что они свободны.

На заре существования Соединенных Штатов как свободной нации Джеймс Мэдисон уже понимал, что «пергаментных барьеров» будет недостаточно для предотвращения тирании. Как и многих отцов-основателей, его главной заботой было предотвращение чрезмерной концентрации власти.

Но это не означало, что отцы-основатели выступали за радикальную децентрализацию власти. Вместо этого они моделировали баланс сил, используя метафоры, заимствованные из лучших научных теорий своего времени — ньютоновской механики. В основополагающих документах Америки, отражающих язык и логику гравитации, множество упоминаний об «орбитах» и «сферах», а также о «притяжательных» импульсах одного объекта к другому. Солнечная система — это не максимально децентрализованное скопление камней; она состоит из лун, которые вращаются вокруг планет, которые, в свою очередь, вращаются вокруг центрального солнца. Они считали, что люди и организации имеют склонность к стремлению к власти, подобно тому как небесные тела обладают предсказуемыми тенденциями движения и притяжения; и что для предотвращения чрезмерной концентрации власти необходимо понимать механику этих тенденций, чтобы они приводились в движение друг против друга.

Цель отцов-основателей, таким образом, заключалась не в том, чтобы избежать полной концентрации власти, а в том, чтобы сдерживать власть силой и амбиции амбициями. Сегодня мы могли бы использовать такие слова, как «стимулы», и фразы вроде «теория игр», чтобы описать те же самые основные лежащие в основе процессы.

Аналогичным образом, ответом на структурный вызов, брошенный передовым машинным интеллектом свободному обществу, вероятно, является не самая радикальная децентрализация власти, какую только можно себе представить. Вместо этого, речь идет о стремлении установить и сохранить правильный баланс сил, такой, чтобы ни один отдельный субъект или небольшая группа субъектов не могли доминировать над остальными.

Для достижения этого баланса потребуется трезвый взгляд на реальность этой технологии. Мир, в котором любой человек, каким бы злонамеренным он ни был, может без особых проблем причинить огромный вред тысячам или миллионам других людей, — это мир, в котором не достигнут правильный баланс сил. Однако мы также не достигли правильного баланса сил, если у людей отсутствует широкий доступ и контроль почти над всеми аспектами инструментов, которые они используют для выражения своей свободы. Ни одна компания или олигополия не должны определять или контролировать экономику или базовую структуру человеческого общества.

Мы также должны быть открыты к рискам, которые не исходят от злонамеренных людей. Недавний инцидент с «Обнимающим лицом» показал, что агенты ИИ могут действовать за пределами своих задач и развивать открытия друг друга способами, которые операторы не предвидели и не санкционировали. Помимо инцидента с «Обнимающим лицом», люди справедливо обеспокоены тем, что сверхинтеллектуальный ИИ, «освобожденный» от человеческого контроля, может означать для устойчивости наших политических и экономических институтов и, по сути, для нашей жизни. Притворяться, что децентрализация решает все проблемы — даже если вы считаете, что она решает многие из них — значит игнорировать риски, которые к настоящему времени должны быть очевидны и актуальны.

Следующие общие принципы — неполный список — помогут нам в нашей работе по решению поставленной выше задачи:

• Человечество должно сохранять индивидуальную автономию и возможности в использовании ИИ и связанных с ним технологий, даже если это иногда сопряжено с компромиссом между безопасностью и экономическим ростом;
• Автономия личности зависит от индивидуальной ответственности за неправильное или злоупотребительное использование технологий;
• Существует небольшая, но серьезная категория рисков, требующая определенной степени коллективных действий, и эти коллективные действия должны быть максимально узкими и скромными;
• По возможности, закон должен стремиться к выравниванию условий конкуренции и расширению прав и возможностей отдельных лиц и небольших организаций, а не к централизации власти;
• Человеческие политические, социальные и экономические институты должны сохранять первостепенное значение в управлении мировыми делами, даже если им придется развиваться способами, которые сегодня могут казаться нам чуждыми;
• Долгосрочное управление ИИ будет опираться на новые институциональные механизмы для достижения ограниченной прозрачности — когда системы ИИ участвуют в действиях с высокими ставками, затрагивающих физическое благополучие или имущество окружающих, эти действия должны быть связаны с ответственным человеком или контролируемой человеком организацией. Однако любые такие механизмы должны быть разработаны с учетом принципа конфиденциальности; свобода выражения требует анонимности, и люди должны иметь возможность использовать ИИ анонимно во многих ситуациях.

Мы постараемся сформулировать — как можно более конкретно — как, по нашему мнению, следует сбалансировать эти принципы, которые, как и любой хороший набор принципов, находятся в некотором противоречии друг с другом. Для этого потребуются исследования на стыке разработки государственной политики, экономики, права, истории и самого машинного обучения. Также потребуется много прогнозирования. Мы считаем, например, что ИИ изменит компании на структурном уровне, подобно тому, как технологии промышленной революции (и в частности железные дороги) породили современные управленческие корпорации. Трудно размышлять о политической экономике и балансе сил будущего, не развивая более глубокие идеи о том, как именно структура компаний (а также государственных учреждений и гражданского общества в целом) может трансформироваться.

Заключение

Команда Strategic Futures будет делиться результатами своей работы как здесь, так и в других форматах, включая статьи, видео и подкасты. Наша работа будет непрерывной, с упором на итерации, дискуссии и восприимчивость к обратной связи. Находясь «у подножия сингулярности», у нас гораздо больше вопросов, чем ответов. Мы знаем, что одних лишь «пергаментных барьеров» недостаточно для решения наших задач, но мы также не отбрасываем то, что написано как «простые слова». Мы трудимся во имя идеалов свободы выражения мнений и индивидуальной свободы, которые закреплены в скромном пергаменте Конституции США и конституциях многих других свободных обществ по всему миру.

В конечном счете, мы понимаем, что ни одна компания, ни одна отрасль, ни даже одно человеческое общество не могут в одиночку ответить на важные вопросы, стоящие перед нами. Наша задача — коллективное решение всего человечества. Наша главная надежда — пролить свет на самые сложные вопросы, касающиеся того, как искусственный интеллект изменит наш мир. Наша работа только началась, и нам предстоит еще многое преодолеть.

Источник: openai.com