Уважение к тостеру: ученых поставил в тупик вопрос обладания ИИ собственным сознанием

У науки пока мало доказательств прорыва искусственного интеллекта к собственному сознанию

Обладает ли ИИ сознанием? Этот вопрос в наше время мощного развития искусственного интеллекта уже не звучит как взятый из научной фактастики. Но у науки пока «слишком мало» доказательств, чтобы с уверенностью утверждать, что искусственный интеллект совершил или не совершил прорыв, утверждают специалисты.

тестовый баннер под заглавное изображение

Искусственный интеллект (ИИ) уже помогает решать проблемы в области финансов, научных исследований и медицины, напоминает Daily Mail. Но может ли ИИ достичь осознания? Доктор Том Макклелланд, философ из Кембриджского университета, предупреждает, что имеющиеся данные «слишком ограничены», чтобы исключить эту мрачную возможность. По словам эксперта, единственной разумной позицией в вопросе о том, обладает ли ИИ сознанием, является «агностицизм». Главная проблема, по его мнению, заключается в том, что у нас нет «глубокого объяснения» того, что вообще делает что-то сознательным, поэтому мы не можем проверить это в том, что касается искусственного интеллекта.

«В лучшем случае мы совершаем интеллектуальную революцию, отказываясь от каких–либо эффективных тестов сознания, — цитирует доктора Макклелланда издание Daily Mail. – Если ни здравый смысл, ни тщательные исследования не могут дать нам ответа, логичной позицией является агностицизм. Мы не можем узнать и, возможно, никогда не узнаем».

Компании, занимающиеся ИИ, инвестируют огромные суммы денег в развитие «искусственного интеллекта общего назначения» – того уровня, на котором ИИ может превзойти человека в любой области, пишет Daily Mail. Но по мере того, как они работают над достижением этой цели, некоторые также утверждают, что все более совершенный ИИ может развить сознание. Это означает, что ИИ может развить способность к восприятию и стать самосознающим.

Хотя эта идея может навевать на мысль о роботах–убийцах, доктор Макклелланд утверждает, что искусственный интеллект может совершить этот скачок даже без нашего ведома, потому что на самом деле у нас нет общепринятой теории сознания.

Некоторые теории утверждают, что сознание — это процесс правильной обработки информации, и что искусственный интеллект мог бы обладать сознанием, если бы только он мог запускать «программное обеспечение» сознательного разума. Другие теории утверждают, что это по своей сути биологическое явление, а это означает, что ИИ в лучшем случае может имитировать сознание.

Пока мы не выясним, какая из сторон спора права, у нас просто нет оснований для проверки наличия сознания у ИИ, констатирует Daily Mail.

В статье, опубликованной в журнале Mind and Language, доктор Макклелланд утверждает, что обе стороны дискуссии совершают «скачок веры». Вопрос о том, осознанно ли что-либо, радикально меняет этические вопросы, которые нам необходимо учитывать. Например, ожидается, что люди будут вести себя морально по отношению к другим людям и животным, потому что сознание придает им «моральный статус». В отличие от этого, мы не относимся с таким же уважением к неодушевленным предметам, таким как тостеры или компьютеры. «Нет смысла беспокоиться о здоровье тостера, потому что тостер ничего не ощущает, – объясняет доктор Макклелланд. – Поэтому, когда я кричу на свой компьютер, мне действительно не нужно чувствовать себя виноватым. Но если в конечном итоге мы получим ИИ, обладающий сознанием, тогда все может измениться».

Хотя это может превратить общение с ИИ в этический кошмар, больший риск может заключаться в том, что мы начнем считать ИИ сознательными или разумными существами, хотя это не так. Доктор Макклелланд объясняет: «Если у вас есть эмоциональная связь с чем-то, предполагающая, что это имет сознание, а это не так, это потенциально может быть экзистенциально токсичным».

Философ с тревогой отмечает, что представители общественности уже присылают ему письма, написанные чат-ботами, в которых «умоляют меня, что они осознанны». Он добавил: «Мы не хотим рисковать жестоким обращением с искусственными существами, обладающими сознанием, но мы также не хотим тратить наши ресурсы на защиту «прав» чего-то, обладающего сознанием не большим, чем у тостера».

Источник: www.mk.ru