Неизбежность VS ответственность В свежем интервью историк Юваль Ной Харари…

Неизбежность VS ответственность

В свежем интервью историк Юваль Ной Харари полемизирует с Илоном Маском относительно ИИ. Около месяца назад Маск говорил, что уже через пять лет ИИ может превзойти совокупный интеллект человечества, а примерно через десять лет люди, вероятно, потеряют контроль над ним. Вместе с тем к 2036 году, по его прогнозу, развитие ИИ и робототехники приведет к такому «ошеломляющему изобилию», что деньги попросту потеряют смысл.

Харари же, принимая возможность такого сценария, ловит Маска на противоречиях в связи с подобными прогнозами. Например, Маск прогнозирует гражданскую войну в Великобритании из-за иммиграционной политики в течение ближайших 20 лет. Харари указывает на очевидную нестыковку: если ИИ через десять лет уже будет контролировать планету, почему нас должны так сильно волновать события, которые произойдут через двадцать?

Также, спрашивает Харари, если деньги через десять лет станут бессмысленными из-за «изобилия» в связи с ИИ, зачем прямо сейчас так много внимания уделять их экономии? Харари напоминает, что созданный Маском DOGE как раз занимался сокращением государственных расходов.

В посте о предыдущем интервью Харари мы уже писали о его главном опасении: ИИ представляет опасность не потому, что однажды построит армию роботов, а потому, что люди постепенно передадут ему контроль над системами, которые мы сами уже не способны полностью понимать.

В новом интервью Харари продолжает эту же линию, говоря, что по мере усложнения финансовой системы люди будут всё больше полагаться на ИИ при принятии экономических решений. В какой-то момент мы можем оказаться в положении тех, кто не понимает устройство финансовых инструментов, хотя именно эти инструменты определяют нашу жизнь.

Вместе с тем Харари проблематизирует базовые допущения относительно ИИ, озвученные Маском в интервью. Для Маска потеря контроля над ИИ выглядит как неизбежное следствие технологического прогресса. Харари называет такой взгляд «нарративом безответственности»: если мы утверждаем, что захват власти неизбежен, то людям будто бы уже не за что отвечать.

Сегодня, говорит Харари, контроль всё ещё находится у людей. Значит, вопрос заключается в том, отдадим ли мы ему эту власть сами или нет.

Возникает вопрос, который выходит за рамки тезиса Харари. Проблема ведь не только в том, что мы перестаём понимать сложные системы. Это произошло задолго до появления ИИ: большинство из нас не знает, как устроены банковская система, мобильная связь или даже телевизор. Однако до сих пор это не означало, что мы передали самим этим системам право принимать решения за нас. В случае с ИИ возникает другая ситуация: мы можем постепенно делегировать ему не только отдельные задачи, но и полномочия по управлению самими системами. Потеря контроля в этом случае происходит не потому, что система стала слишком сложной для человека, а потому, что человек сам признал за машиной право действовать и принимать решения вместо него.