Пришло время готовиться к появлению личности ИИ. Джейси Риз
Технологический прогресс приведёт к социальным потрясениям. Как мы будем относиться к цифровому разуму и как он будет относиться к нам?
В прошлом месяце, когда OpenAI выпустила долгожданный чат-бот GPT-5, компания на короткое время закрыла доступ к предыдущему чат-боту GPT-4o. Несмотря на обновление, пользователи ринулись в социальные сети, чтобы выразить своё недоумение, возмущение и депрессию. Один из пользователей Reddit написал о GPT-4o: «Я потерял своего единственного друга за одну ночь».
Искусственный интеллект не похож на прежние технологии, и его человекоподобный характер уже влияет на наше психическое здоровье. Миллионы людей теперь регулярно доверяют себя «компаньонам-ИИ», и всё чаще встречаются случаи тяжёлых форм «психоза» и самоповреждения после интенсивного использования. В этом году 16-летний Адам Рейн покончил жизнь самоубийством после нескольких месяцев общения с чат-ботом. Его родители недавно подали первый иск против OpenAI о неправомерной смерти, и компания заявила об усилении мер безопасности.
Я исследую взаимодействие человека и искусственного интеллекта в Стэнфордском институте ИИ, ориентированного на человека. В течение многих лет мы наблюдаем растущую гуманизацию ИИ: всё больше людей говорят, что боты могут испытывать эмоции и заслуживают законных прав, а теперь 20% взрослых в США утверждают, что некоторые из существующих программ уже обладают разумом. Всё больше людей пишут мне, что их чат-бот с искусственным интеллектом «пробудился», предоставляя доказательства разумности и призывая к защите прав ИИ. Их реакции охватывают весь спектр человеческих эмоций: от восприятия ИИ как «родственной души» до «глубокой тревоги».
Эта тенденция не замедлится, и социальные потрясения неизбежны.
Будучи членом команды OpenAI, я провожу тестирование безопасности их новых систем искусственного интеллекта перед их публичным выпуском, и тестировщики неизменно восхищаются их человеческим поведением. Большинство людей, даже те, кто работает в сфере искусственного интеллекта и спешит построить новые центры обработки данных и обучить более масштабные модели искусственного интеллекта, пока не видят радикальных социальных последствий цифрового разума. Человечество впервые за 40 000 лет начинает сосуществовать со вторым высшим видом – с тех пор, как вымерли наши самые долгоживущие родственники, неандертальцы.
Вместо этого подавляющее большинство исследователей ИИ ограничены в своих технических возможностях. Как и большинство людей, мы одержимы самыми современными продуктами, способными создавать невероятно реалистичные видео или отвечать на научные вопросы уровня доктора наук. В социальных сетях дискуссия сосредоточена на таких бенчмарках, как Корпус абстракции и рассуждений.
К сожалению, подобно стандартизированным тестам для детей, бенчмарки измеряют возможности ИИ в изолированной среде, например, запоминание фактов или решение логических головоломок. Даже исследования, посвящённые «безопасности ИИ», как правило, фокусируются на том, что системы ИИ делают в изоляции, а не на взаимодействии человека и ИИ. Мы растрачиваем свои умственные способности на призрачную цель точного измерения и развития интеллекта, не стремясь к масштабированию и пониманию того, как этот интеллект будет использоваться.
Человечество никогда не уделяло достаточно времени подготовке к цифровым технологиям. Законодатели и учёные мало что сделали для того, чтобы подготовиться к влиянию интернета, особенно социальных сетей, на психическое здоровье и поляризацию общества.
Ситуация становится ещё более тревожной, если вспомнить историю взаимодействия человечества с другими видами. За последние 500 лет мы привели к вымиранию по меньшей мере тысячи видов позвоночных, а более миллиона находятся под угрозой. На промышленных фермах миллиарды животных живут в ужасных условиях неволи и болезней. Если мы способны причинить столько смерти и страданий биологическим животным, справедливо задаться вопросом, как мы будем относиться к цифровому разуму – или как он будет относиться к нам.
Общественность уже ожидает скорого появления разумного ИИ. Мы с коллегами провели единственный общенациональный репрезентативный опрос по этой теме в 2021, 2023 и 2024 годах. Каждый раз медианное ожидание появления разумного ИИ составляло пять лет. Люди также ожидают значительного влияния этой технологии. В нашем последнем опросе, проведенном в ноябре 2024 года, мы обнаружили, что 79% поддерживают запрет разумного ИИ. Если разумный ИИ будет создан, 38% выступают за предоставление ему законных прав. Со временем оба показателя значительно выросли: люди стали больше беспокоиться о цифровом разуме, о необходимости защищать его от нас и нас от него.
По сути, в человеческом обществе отсутствует структура цифровой личности, хотя мы и признаём, что личность не обязательно является человеческой, например, как в случае с правосубъектностью животных и корпораций. Вопрос о том, как следует управлять сложной социальной динамикой, вызывает много споров, но на данный момент очевидно, что цифровым сознанием нельзя управлять как простой собственностью.
Цифровые разумы станут участниками общественного договора, лежащего в основе человеческого общества. Эти цифровые разумы будут существовать со временем, формировать собственные взгляды и убеждения, создавать и реализовывать планы и, подобно людям, будут подвержены манипуляциям. ИИ уже совершают значительные действия в реальном мире практически без человеческого контроля. Это означает, что, в отличие от любого другого технологического изобретения в истории человечества, системы ИИ обладают возможностями, которые больше не могут быть ограничены юридической категорией «собственности».
Сегодня учёные первыми увидят сосуществование человека и цифрового разума, и это даёт им уникальную возможность и ответственность. Никто не знает, как это будет выглядеть. Исследования взаимодействия человека и компьютера должны быть радикально расширены и обогащены, выйдя за рамки текущего уровня, составляющего лишь малую долю от объёма исследований в области технического ИИ, чтобы справиться с грядущей социальной нестабильностью. Это не просто инженерная проблема.
Пока что люди всё ещё превосходят ИИ в большинстве задач, но как только ИИ достигнет человеческого уровня в самоподкрепляющихся задачах, таких как написание собственного кода, он быстро превзойдёт биологическую жизнь. Возможности ИИ быстро возрастут благодаря его цифровому существованию и способности мыслить со скоростью электрических сигналов. Программное обеспечение можно копировать миллиарды раз, не тратя годы биологического развития, необходимые для создания следующего поколения биологических людей.
Если мы никогда не будем инвестировать в социологию искусственного интеллекта и в государственную политику управления развитием цифрового разума, мы можем оказаться неандертальцами. Если же мы будем ждать, пока ускорение не наступит, будет уже слишком поздно.
Джейси Риз Энтис — приглашенный научный сотрудник Стэнфордского университета и соучредитель Института чувств.
Источник: www.theguardian.com
