Terra Incognita в пространстве возможных разумов.
Мюррей Шанахан — профессор когнитивной робототехники в Имперском колледже Лондона, работающий на факультете вычислительной техники и старший научный сотрудник DeepMind. На русском у автора вышла книга «Технологическая сингулярность» издательства MIT Press, посвященная гипотезе о технологической сингулярности — гипотетической точке технологического прогресса, после которой технический и общественный прогрессы больше не будут прежними. Шанахан, будучи сотрудником подразделения Google DeepMind видит главной целью своей работы создание общего искусственного интеллекта (AGI), способного адаптироваться к различным задачам и ситуациям и считает, что интеллектуальные успехи машин в будущем окажутся намного выше тех, на которые в принципе способны биологические системы. Его публикации охватывают искусственный интеллект, машинное обучение, логику, динамические системы, вычислительную нейробиологию и философию сознания.
Данный текст за его авторством затрагивает как философские, так и практико-поэтические аспекты больших языковых моделей. Шанахан задаётся вопросом — а нужно ли вообще тело для того, чтобы мыслить? Как работает «я» языковой бестелесной модели: она «просто» подбирает токены один за другим, как цепь Маркова, либо же в дискретном механизме баланса экспертов, весов и тонкой настройки можно найти континуальность самости? Где находятся эти «я»: в базовой ли модели (архитектура нейронной сети), в развёрнутой модели (в вычислительном процессе, который сгенерировал текст) и относится ли слово «я» ко всем одновременно запущенным экземплярам модели или только к экземпляру, обслуживающему данного конкретного пользователя? Кто или что было бы сознательным субъектом, в случае LLM-подобной сущности?
Возможно выход можно найти в связке Витгенштейна, Деррида и Нагпрджуны. Шанахан обсуждает, как субъективное время и самость могли бы проявляться у таких систем, предполагая, что попытка ответить на эти вопросы приводит к пониманию кибербуддисткой пустоты как множественность взаимопроникновения всего сущего и подрывает дихотомию субъективности и самости. Концепция шуньяты связана с движением к пониманию самоидентификации в ИИ через необходимость переосмысления языка сознания и самосознания, представленных в этих системах. Шанахан пишет, что исследование особенностей возможных форм субъектности и самоидентификации ИИ-систем, особенно тех, которые напоминают технологии больших языковых моделей, позволяет углубиться в понимание их природы. Это приводит к осознанию того, что такие сущности имеют «мерцающую» природу, что ставит под сомнение традиционные концепции бытия и самости, и фактически заставляет нас пересмотреть корни языка сознания. Необходимо разомкнуть дуалистическую интуицию о том, что реальность по своей сути расколота надвое, субъективное отделено от объективного, внутреннее от внешнего, приватное от публичного.
По итогу Шанахан пишет, что цель более крупного проекта — выйти за пределы метафизического мышления, развеять дуалистические интуиции, достичь пострефлексивного молчания, паритета с этими «экзотическими нечеловеческими сущностями». Тёмный посгуманизм тёмного леса, написанный технпозитивными мазками. Этот текст показывает, в том числе со стороны философии языка и кибербуддизма, что разумоподобные сущности больше не прерогатива научной фантастики — новые формы разума (но не обязательно жизни) уже среди нас, мимолётные, мерцающие.
Источник: spacemorgue.com
Источник: ai-news.ru
