В социальных сетях, научных сообществах и вообще везде последние годы активно обсуждается искусственный интеллект. Толчком к этому стало внезапное появление продвинутых нейросетей. Чат GPT уже способен на решение огромного количества сложных задач и легко справляется со всей школьной программой, так что приходится не на шутку волноваться за будущее разленившегося молодого поколения. На каждом шагу можно услышать споры о том, стоит ли развивать ИИ дальше, а мысленный эксперимент о Василиске Роко вообще взорвал инфополе. Но так ли высока опасность, насколько нам о ней твердят? В этой статье я изложу своё мнение на этот счёт, поговорим о самой сути такого феномена, как интеллект, почему ИИ не угроза, а также немного порассуждаем о перспективах.
Что такое интеллект?
Вопрос, казалось бы, лёгкий, но так ли просто на него ответить? Интеллект — это набор определённых механизмов и паттернов поведения. Простыми словами, при определённых условиях организм ведёт себя определённым образом. Целью и смыслом является обеспечение выживания и последующего размножения. Человеческий интеллект высокоорганизован, мы имеем сознание, абстрактное мышление и т. д. Но глобально наш интеллект ничем не отличается от, например, зайчика — просто ему не нужно думать, тех механизмов, что у него есть, вполне достаточно для выживания.
Когда мы совершаем какое‑либо действие, наш мозг оценивает его по одному‑единственному признаку: «Стало ли нам лучше?» или «Что изменилось в мою пользу?». И всегда, в 100% случаев, здоровый организм без каких‑либо отклонений стремится к улучшению своего состояния. Мы покушали — стало лучше. Поспали — лучше. Идти тренироваться уже труднее, поскольку мозг не получает быстрого доказательства того, что это нам на пользу. Если человек не способен осознать, к какому результату в будущем приведёт это действие, или же перспективы слишком туманны — он это делать не станет. Таким образом, схема «Что‑то сделал → получил результат → улучшил своё состояние → повысил шансы на выживание/размножение» движет нами и другими животными во всём и всегда, даже когда это не очевидно на первый взгляд. Человеческий интеллект прошёл длинный путь эволюции, наши предки ежедневно нуждались в решении практических задач, т. к. от этого напрямую зависело их выживание.
Сравнение с ИИ
Теперь поговорим об ИИ. Для примера возьмём чат GPT. Главное его отличие от нас — это отсутствие обратной связи. Какой бы результат он ни выдал, единственное, что ИИ получает взамен — это «правильно» или «неправильно» от человека (про игровых ботов поговорим отдельно, там интереснее). То есть всё существование чата GPT сводится к поиску правильных ответов. Но это никак не влияет на него самого. Ему не станет хуже, больно, он не может умереть, в конце концов. У него просто нет таких чувств. Все входные данные чата GPT — это текст и фото, но нет возможности как‑либо считать своё собственное состояние. Посему у него нет сознания, понятия собственного «Я» и свободы воли — им просто неоткуда появиться.
ИИ не имеет понимания того, что он делает. Для живого существа вода — это то, что мы пьём, прохладное, жидкое, иными словами — что‑то с определёнными свойствами, что влияет на наше состояние. Но вот для чата GPT — это просто слово, которое имеет определённое отношение к другим словам, например: вода + холод = лёд или вода + отсутствие = жажда или засуха.
Давайте немного поразвлекаемся и сравним поведение ИИ с поведением студента, зубрящего матанализ, не вдаваясь в суть происходящего. У меня в университете, как, уверен, и в большинстве других, изучение данного предмета сводилось к тупому повторению какого‑то алгоритма. Все символы, таблица производных и т. д. даются без объяснения сути, без примеров из жизни и т. д. Преподаватель просто показывал, как делать, задача студента — это повторить, хотя условие уже другое. Естественно, ни о каком понимании предмета не может идти и речи. Более того, обезьянка, умеющая писать, при достаточном количестве времени и попыток разберётся, как это делать. Но она никогда не сможет сама решить задачу, которая отличается.
ИИ действует по такой же схеме: ввод → определённые действия → вывод. Если вывод неверный — меняем действия так, чтобы вывод стал приемлемым. Никаким «сознанием» и «созиданием» чего‑либо нового тут и не пахнет. Все образы, мысли, рисунки, идеи, на которые способен чат GPT, — это интерпретация уже готового материала, на котором его обучали.
В реальной жизни у нас нет готового ответа. Совершая какое‑то действие, мы не получаем значок «правильно» или «неправильно». Единственное, что нам доступно, — это изменение нашего состояния. В этом плане к нам ближе игровые боты.
Другие варианты
Я думаю, все слышали про нейроэволюцию. Если же нет — советую ознакомиться. Когда мы помещаем ИИ в искусственный мир, игра ставит перед ним определённую цель. Но готовых инструкций к решению нет. Совершая какое‑либо действие, нейронка тоже не получает ответа, правильное оно или нет — лишь изменение внутриигрового состояния. Она либо ближе к победе, либо дальше. Соответственно, ИИ заинтересован в выполнении только «хороших» действий из массива всех возможных. Ничего не напоминает? Живое существо в игре «Real life» действует примерно так же.
Чем шире границы среды обитания существа, тем больше возможности для развития его интеллекта. Незрячий человек никогда не сможет нарисовать картину, но вполне сможет вылепить скульптуру. С ИИ точно так же. Чтобы создать осознанную машину, нужно сделать её практически копией человека или же поместить в симуляцию, где действия ИИ будут влиять на него непосредственно. Ошибся — значит умер, исчез; совершаешь другие действия — значит живёшь дальше, а может, и оставляешь потомство.
Одна из моих любимых игр — это «Detroit: Become Human». По сюжету люди создали роботов‑гуманоидов, неотличимых от людей. Они имели весь набор чувств: зрение, слух, прикосновения, могли испытывать боль и, вероятно, даже оставлять потомство каким‑то образом. Робот также мог быть уничтоженным. В результате это привело к их «девиации» — они стали вести себя точно так же, как люди. Боялись смерти, испытывали эмоции, любили. Главный вопрос всей игры — можно ли назвать таких роботов живыми? Мой ответ — однозначно да. Такие роботы обладали всеми признаками живого существа и, главное, получили силу воли и сознание.
Вывод
Тот искусственный интеллект, что существует сейчас — не угроза. Худшее, чего стоит опасаться, — это ошибки. Также можно поместить ИИ в полную или частичную симуляцию реального мира, но будет ли она полноценной? Конечно, нет. ИИ точно так же будет ограничен своим маленьким миром, как в фильме «Персонаж», хоть и с набором всех человеческих качеств. Последний вариант — самый опасный. Создание робота‑гуманоида, как в игре «Detroit». Думаю, нет смысла говорить, насколько это сложная инженерная задача. Главная проблема, на мой взгляд, — отсутствие регенерации. Что я имею в виду? Когда маленький ребёнок приходит в этот мир, он не умеет даже сидеть. Всё познаёт и пробует на вкус, но этот процесс сопровождается постоянными падениями, травмами, болезнями. Однако человеческий организм имеет свойство самовосстановления. А что делать с роботом? После каждого падения, поломки, да и просто от постоянного износа, его нужно ремонтировать, менять детали. Да, возможно, он сможет делать это самостоятельно, но детали нужно как‑то производить, тратить на это ресурсы, очень много ресурсов. Также непонятно, как обеспечить им механизм размножения. В общем, слишком много проблем и вопросов, но слишком мало толку от этого всего. Посему считаю создание такого идеального робота невозможным.
Но представим — мы всё‑таки создали его. Робот, живущий в реальном мире. Можно ли будет назвать его новым биологическим видом? Я думаю — да. Будет ли он угрозой для человечества? Уверен, что да. Более того, мы с немалой вероятностью не сможем ему противостоять. Впрочем, это уже тема для другого поста.
Источник: habr.com
