По словам Марты Уэллс, автора серии «Дневники робота-убийцы», Клары Московиц, «Клара Московиц — автор статьи», современные большие языковые модели вряд ли имеют отношение к тем видам машинного интеллекта, которые мы видим в научной фантастике.
Много люди опасаются, что если когда-нибудь появится полностью разумный машинный интеллект, он захватит власть над миром. Однако реальная угроза заключается в том, что технологические компании могут поработить роботов для увеличения прибыли, предполагает автор Марта Уэллс в своей серии книг «Дневники роботов-убийц», действие которой происходит в далеком будущем. В мире Уэллса разумные машины населяют космические корабли и роботов, а получеловеческие, полумашинные конструкции обеспечивают людям защиту от опасности (в виде «единиц безопасности»), а также сексуальное удовольствие («единиц комфорта»). Главному герою, сотруднику службы безопасности, который тайно называет себя Murderbot, удается обрести свободу воли, взломав модуль, который компания-владелец использует для его порабощения. Но большинству существ это нравится.
В мире Murderbot корпорации контролируют почти все, конкурируя между собой за эксплуатацию планет и наемный труд. Права людей и роботов часто попираются капиталистической жадностью, что повторяет многие из реальных грехов, которые Уэллс приписывает современным технологическим компаниям. Но сразу за территорией компании (называемой «Корпорация Rim») находится независимая планета под названием «Сохранение», относительно свободное и мирное общество, которое, несмотря ни на что, хочет защитить Murderbot.
Теперь, когда телевизионная адаптация «Робота-убийцы» выходит в эфир на Apple TV+, Уэллс выходит на совершенно новую аудиторию. Сериал получил признание критиков (и, на момент написания статьи, рейтинг аудитории на сайте Rotten Tomatoes составлял 96 процентов) и неизменно входит в число самых просматриваемых сериалов стримера. Недавно сериал был продлен на второй сезон. «Я все еще немного ошеломлен всем, что происходит с сериалом», — говорит Уэллс. «В это трудно поверить».
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Журнал Scientific American поговорил с Уэллсом о разнице между современным искусственным интеллектом и настоящим машинным интеллектом, искусственной личностью и нейродивергентными роботами.
[Далее следует отредактированная стенограмма интервью.]
Корпорация Rim чувствует себя невероятно дальновидной, возможно, даже в большей степени, чем сейчас, когда вы опубликовали первую книгу из серии в 2017 году.
Да, это тревожно. Эта корпоративная тенденция в некотором роде усиливалась в течение последних 10 или 15 лет — это было направление, в котором мы развивались как общество. Как только у нас появляется идея о том, что корпорации обладают индивидуальностью, что корпорация — это в некотором роде больше личность, чем обычный человек, тогда мы действительно начинаем понимать, насколько все может быть плохо. Я чувствую, что это было возможно в любое время; это не просто дело далекого будущего. Но, думаю, если представить это в далеком будущем, это будет не так ужасно. Это позволяет вам думать об этих вещах, не чувствуя, что вы смотрите новости.
В настоящее время частные компании продвигают идею полета на Марс в качестве решения всех проблем.. Но [подразумевается, что те, кто поедет, будут] какими-нибудь миллиардерами, их окружением и наемными слугами, и это каким-то образом станет раем для них, а для всех остальных — наоборот. Когда корпорации захватывают власть, именно тогда прибыль становится главной целью — прибыль и личное возвеличивание того, кто ею управляет. У вас не может быть такого серьезного, тщательного научного прогресса, как у нас с НАСА.
Этот мир, который вы создали, настолько интересен потому что в некотором смысле это антиутопия. Корпорация Rim, безусловно, является таковой. И все же сохранение — это своего рода утопия. Вы думаете о них в таких терминах?
На самом деле нет, потому что по этим меркам мы сейчас живем в антиутопии, и я думаю, что термин «антиутопия» почти не отражает реальность. Это похоже на то, что если вы называете что-то антиутопией, вам не нужно беспокоиться о том, чтобы исправить это или сделать что-то, чтобы попытаться облегчить проблемы. Это кажется безнадежным. И если у вас есть что-то, что вы называете утопией, то это прекрасно, и вам не нужно думать о проблемах, которые это может вызвать, или о том, как вы могли бы сделать это лучше для людей.
Так что я на самом деле не мыслю такими категориями, потому что они кажутся мне очень ограниченными. И очевидно, что в корпорации Rim все еще есть люди, которым удается жить там, в основном, нормально, так же, как и нам здесь, сейчас. И в Conservation все еще есть люди, у которых есть предрассудки, и им все еще есть над чем работать. Но они на самом деле работают над ними, что отличает их от другихКорпорация Rim.
Одной из центральных тем историй о роботах-убийцах является идея индивидуальности. В ваших книгах очень ясно показано, что робот-убийца, будучи наполовину человеком, наполовину искусственным созданием, определенно является личностью. Как вы думаете, с нашими современными технологиями искусственный интеллект, большие языковые модели или ChatGPT следует считать людьми?
Ну, Murderbot — это машинный интеллект, а ChatGPT — нет. Это называется искусственным интеллектом как маркетинговый инструмент, но на самом деле это не искусственный интеллект. Модель большого языка — это не машинный интеллект. На самом деле сейчас у нас этого нет.
У нас есть алгоритмы, которые могут быть очень мощными и способны анализировать большие объемы данных. Но в настоящее время у них нет разумного индивидуального интеллекта. Я все еще думаю, что, вероятно, пройдут годы, прежде чем кто-либо создаст настоящий искусственный интеллект.
Итак, робот-убийца — это вымысел, потому что машинный интеллект сейчас — это вымысел.
Большая языковая модель, в которой шаблон соответствует словам, иногда звучит так, как будто она разговаривает с вами, а иногда звучит так, как будто она просто соединяет шаблоны таким образом, что это выглядит действительно странно- это и близко не похоже на разумный машинный интеллект.
Я испытываю настоящее противоречие, потому что меня часто возмущает вторжение этих языковых моделей и продуктов, которые сегодня называются искусственным интеллектом, в современную жизнь. И все же я испытываю такую привязанность и любовь к вымышленным искусственным интеллектам.
Да! Интересно, это ли та единственная вещь, которая позволила всей афере с искусственным интеллектом получить такую поддержку? Потому что очень многим людям не нравится, когда это используется в их работе, потому что они знают, что, по сути, они собирают все ваши данные, все, над чем вы работаете, все, что вы пишете, и помещают это в этот поток алгоритмов сопоставления с образцом. Вероятно, вымышленные искусственные и машинные интеллекты на протяжении многих лет как бы убеждали людей в том, что это возможно и что это происходит сейчас. Люди думают, что общение с этими большими языковыми моделями каким-то образом помогает им обрести чувствительность или узнать больше, хотя на самом деле это не так. Это пустая трата вашего времени.
Люди действительно склонны к антропоморфизации объектов, особенно таких вещей, как наш ноутбук и телефон, и всех тех вещей, которые реагируют на то, что мы делаем. Я думаю, что это просто заложено в нас, и корпорации используют это в своих интересах, чтобы попытаться заработать деньги, отобрать рабочие места у людей и по своим собственным причинам.
Мой любимый персонаж в этой истории — АРТ, который является космическим кораблем — то есть искусственным интеллектом, управляющим космическим кораблем. Как вы думали о том, чтобы отличить этого персонажа от полумашины-получеловека-робота-убийцы?
Корабельные сознания уже давно встречаются в художественной литературе, так что я могу»не ставьте это себе в заслугу. Но поскольку робот-убийца опирается на нервную ткань человека, именно поэтому он подвержен тревоге, депрессии и другим свойственным людям явлениям. А ИСКУССТВО — нет. ИСКУССТВО было создано специально для того, чтобы работать с людьми и быть частью команды, поэтому ему никогда не приходилось сталкиваться со многими негативными моментами, присущими Murderbot. Кто-то в Интернете описал Арта так, как если бы Скайнет был ученым с семьей. Это, по-моему, одно из лучших описаний, которые я когда-либо видел.
Одна из причин, по которой я и многие другие люди любим эту серию, заключается в том, насколько хорошо в ней исследуется нейроразнообразие. У вас есть такое разнообразие видов интеллекта, и они совпадают со многими другими типами нейроразнообразия, которые мы наблюдаем у людей в реальном мире. Вы думали об этом таким образом, когда создавали эту вселенную?
Что ж, это открыло мне глаза на мое собственное нейроразнообразие. Я знал, что у меня проблемы с тревожностью и тому подобными вещами, но я не знал, что у меня, вероятно, аутизм. Я не знал о многих других вещах, пока не написал эту конкретную историю, а затем люди не поговорили со мной об этом. Они спрашивают: «Как вам удалось так изобразить нейроразнообразие?», А я думаю: «Именно так работает мой мозг». Я думаю, что именно так думают люди. «До появления Murderbot я не думал, что осознавал, до какой степени это влияет на мое творчество. Многие люди говорили мне, что это помогло им разобраться в себе и что было просто приятно видеть персонажа, который думал и чувствовал во многом то же, что и они.
Считаете ли вы научную фантастику особенно полезным жанром для изучения некоторых из этих аспектов человечества?
Это может быть. Я не знаю, всегда ли так было. Научную фантастику пишут люди, и в ней отражаются как хорошие, так и плохие стороны их личности. Жанр меняется вместе с людьми, которые в нем работают. Поэтому я думаю, что в последнее время стало лучше, потому что у нас наконец-то появилось больше женщин, цветных людей, нейродивергентов и людей с ограниченными возможностями, голоса которых теперь слышны. И это привело к появлению множества действительно захватывающих работ. В последнее время многие люди называют это еще одним золотым веком научной фантастики.
Когда я писал [первую книгу из серии] «Все системы красные», я вложил в нее много сил. И я думаю, что одна из причин, по которой люди отождествляют себя с самыми разными аспектами этого, заключается в том, что я вложил в это много искренних эмоций и очень подробно рассказал о том, как Murderbot относился к определенным вещам и что с этим происходило. Я думаю, что в художественной литературе, особенно в жанровой, существует ошибочное мнение, что если вы делаете персонажа очень типичным, это позволяет большему количеству людей идентифицировать себя с ним. Но на самом деле это не так. Чем конкретнее человек говорит о своих чувствах, проблемах и о том, что с ним происходит, тем больше людей могут идентифицировать себя с ним из-за этой конкретики.
