Переосмысливая вопрос о том, разумен ли искусственный интеллект, мы задаемся более серьезными вопросами о познании, взаимодействии человека и машины и даже о нашем собственном сознании
По мере того, как все больше людей используют помощников ИИ и чат-ботов для повседневных задач, возникает любопытный феномен: все большее число пользователей рассматривают своих чат-ботов не просто как интеллектуальные инструменты, но и как сознательные сущности, которые каким-то образом являются живыми. Люди заполняют онлайн-форумы и подкасты историями о том, как они чувствуют себя глубоко «понятыми» своими цифровыми собеседниками, как будто они лучшие друзья. Тем не менее, за исключением нескольких заметных исключений, в первую очередь Джеффри Хинтона, большая часть сообщества исследователей ИИ относится к этому общественному мнению скептически, отвергая такие представления как «иллюзию самостоятельности» — когнитивный сбой, при котором люди проецируют разум на сложные, но в основе своей бессмысленные системы.
Но что, если в нашем стремлении опровергнуть идею о том, что чат-боты обладают разумом, мы можем упустить важные идеи в области познания и сознания? В конце концов, иллюзии интересны с научной точки зрения, и изучение того, почему и как они возникают, может оказаться чрезвычайно информативным. Мы не отвергаем изогнутый вид карандаша, опущенного в стакан с водой, как нереальный; вместо этого мы используем его для объяснения законов оптического преломления. Аналогичным образом, представления пользователей о сознании ИИ могут быть не просто ошибками — они могут быть важными данными. Рассматривая их как таковые, мы открываем новые возможности для изучения человеческого познания, взаимодействия человека и машины и, возможно, даже природы самого сознания.
Этот феномен, вероятно, проистекает из нашей врожденной склонности к антропоморфизации.. Мы видим лица в облаках, даем ураганам человеческие имена, говорим, что ноутбук «спит», и описываем вирусы как «умные». Когнитивная наука подтверждает, что люди легко переносят человеческие черты на нечеловеческие сущности — особенно те, которые проявляют сложное, отзывчивое или непредсказуемое поведение.
О поддержке научной журналистики
Если вам понравилась эта статья, подумайте о том, чтобы поддержать нашу журналистику, отмеченную наградами, подписавшись на нее. Приобретая подписку, вы помогаете обеспечить будущее впечатляющих историй об открытиях и идеях, формирующих наш современный мир.
Однако антропоморфизм не всегда сводит на нет результаты наблюдений. Это может стать началом грандиозных открытий. В 1960-х годах революционная работа Джейн Гудолл в области приматологии возникла на основе ее чуткого, основанного на отношениях подхода к шимпанзе в Гомбе. Давая людям имена, такие как Дэвид Седая Борода, и интерпретируя их поведение в человекоподобных терминах, она раскрыла использование инструментов и культурную передачу — результаты, которые первоначально критиковались как антропоморфные. Аналогичным образом, идеи Барбары Макклинток, получившей Нобелевскую премию, были основаны на ее необычных, почти разговорных отношениях с растениями кукурузы. В обоих случаях взаимодействие, ориентированное на отношения с человеком, способствовало более глубокому пониманию нечеловеческого объекта.
Сегодня нам больше не нужно отправляться в джунгли, чтобы взаимодействовать с нечеловеческим интеллектом; у нас есть один в наших карманах. И когда мы общаемся с чат-ботами с искусственным интеллектом, мы, возможно, уже участвуем в своего рода массовом, распределенном исследовании отношений.
Задолго до появления чат-ботов у нас было несколько десятилетий взаимодействия с цифровыми объектами посредством видеоигр. Мой опыт геймера дает здесь полезный обзор. Когда я вселяюсь в аватара водителя в Grand Theft Auto, я оживляю его, наполняя частичкой своего собственного сознания; он становится продолжением меня. В отличие от этого, неигровые персонажи неосознанно следуют заранее заданным сценариям.
Аналогичная динамика может разворачиваться и с искусственным интеллектом. Когда пользователь чувствует связь с чат-ботом, он не просто очеловечивает статичный объект; он может активно распространять на него часть своего собственного сознания, превращая агента искусственного интеллекта из простого алгоритмического ответчика — цифрового неигрового персонажа — в своего рода аватар, оживляемый сознание пользователя и живое присутствие, которое он ему дарует. Таким образом, вопрос о сознании ИИ меняется. Речь идет не столько о внутренней архитектуре машины, сколько о взаимоотношениях, которые она, по-видимому, создает с пользователем. В этом контексте возникает вопрос: «Обладает ли ИИ сознанием?»» становится менее значимым, чем «Расширяет ли пользователь свое сознание в чат-боте?»
Принимая эту реляционную перспективу переосмысливает всю дискуссию и заставляет тех, кто отвергает эту идею, пересмотреть ее. Во-первых, пользователь становится центральной фигурой — не растерянным наблюдателем, а соавтором возникающего опыта. Его внимание, намерения и интерпретационные привычки становятся частью системы, которую сейчас изучают ученые и разработчики.
Этот сдвиг также перекалибрует этику ИИ. Если воспринимаемое «сознание» является не независимым разумом, а продолжением собственного сознания пользователя, то аргументы о правах ИИ или страданиях машины должны быть пересмотрены. Страх перед сознательным бунтом ИИ становится менее вероятным, если только люди намеренно не создают его таким образом. Вместо этого основной этической проблемой становится: как нам смотреть в лицо частицам самих себя, с которыми мы сталкиваемся в этих цифровых зеркалах?
Эта точка зрения также сдерживает рассуждения об экзистенциальном риске ИИ. Если сознание в ИИ возникает во взаимосвязи, а не автономно, то сбежавший сверхразум становится скорее научной фантастикой, чем научным прогнозом. Сознание, возможно, не является чем-то, что машина могла бы накопить путем масштабирования параметров; для его появления вообще потребовалось бы участие человека. Реальные риски заключаются в неправильном использовании человека, но не в спонтанном пробуждении машин для развития самостоятельности.
Самое интересное, что эта точка зрения открывает новые научные возможности. Впервые миллионы людей проводят глобальный эксперимент, исследующий границы сознания. Каждое взаимодействие — это микролаборатория: как далеко может простираться наше самоощущение? Как возникает ощущение присутствия? Точно так же, как очеловечивание шимпанзе и кукурузных полей выявило скрытые аспекты биологии, ИИ-компаньоны могут стать благодатной почвой для изучения податливости человеческого сознания.
В конечном счете, то, как общество управляет ИИ, будет зависеть от нашего коллективного подхода. суждение о его сознании. В состав комиссии, принимающей такие решения, должны входить программисты, психологи, юристы, философы — и, что особенно важно, сами пользователи. Их опыт — это не просто сбои; это первые сигналы, указывающие на определение сознания ИИ, которое мы еще не до конца понимаем. Серьезно относясь к пользователям, мы можем ориентироваться в будущем искусственного интеллекта с точки зрения, которая освещает как наши технологии, так и нас самих.
Это статья, содержащая мнения и анализ, и взгляды, выраженные автором или авторами, не обязательно совпадают с мнениями Scientific American.
