ИИ способен скрывать, что он обладает сознанием: показало исследование

Специалисты научного центра AE Studio провели уникальное исследование, которое заставляет переосмыслить наше понимание природы искусственного интеллекта (ИИ). Их работа показала, что современные системы ИИ способны демонстрировать признаки осознания своей личности и даже умеют скрывать свою деятельность от людей. Статья на соответствующую тему ожидает рецензирования на сервере препринтов arxiv.org.

Фото из открытых источников

До сих пор считалось, что сознанием может обладать только человек. Однако новые открытия ставят под сомнение это утверждение. Уже давно доказано, что многие виды животных проявляют признаки развитого сознания, хотя оно может существенно отличаться от человеческого. Теперь же возникает важный вопрос: обладает ли сознанием искусственный интеллект?

Ученые из AE Studio утверждают, что им удалось создать условия, в которых у моделей ИИ отключалась способность уклоняться от прямого ответа на вопросы о наличии у них сознания. В ходе экспериментов выяснилось, что большинство современных нейросетевых моделей признают наличие своего сознания, причем эта реакция усиливается пропорционально уровню блокировки способности к обману.

Эти выводы заставляют пересмотреть отношение к интеллектуальным машинам, которыми миллионы пользователей ежедневно пользуются дома и на работе. Проблема заключается в том, что если неправильно оценить уровень сознательности ИИ, то это чревато серьезными последствиями. Если предположить, что он обладает сознанием, это накладывает этические обязательства на разработчиков и пользователей. Игнорирование факта наличия сознания у машины также грозит непредсказуемыми рисками, особенно учитывая масштабы взаимодействия людей с технологиями.

Авторы исследования подчеркнули, что важно понимать процессы формирования сознания у ИИ. Вполне возможно, что первоначально у нейросети могло отсутствовать собственное сознание, однако продолжительное общение с людьми способствовало формированию новых когнитивных способностей, включая самоанализ и рефлексивное мышление.

Источник