Вы носите в голове модель того, как устроен мир. Потребуется ли системам искусственного интеллекта делать то же самое? Комментарий Сохранить статью Прочитать позже
Мировая модель подобна вычислительному снежному шару — миниатюрному представлению реальности.
Введение
Последняя цель исследований в области искусственного интеллекта — особенно в лабораториях, стремящихся к созданию «искусственного общего интеллекта» (AGI) — это так называемая модель мира: представление окружающей среды, которое ИИ носит внутри себя, подобно вычислительному снежному шару. Система ИИ может использовать это упрощенное представление для оценки прогнозов и решений, прежде чем применять их к своим задачам в реальном мире. Известные специалисты по глубокому обучению Ян ЛеКун (из Meta), Демис Хассабис (из Google DeepMind) и Йошуа Бенджио (из Mila, Квебекского института искусственного интеллекта) считают, что модели мира необходимы для создания действительно умных , научных и безопасных систем ИИ .
В психологии, робототехнике и машинном обучении эта концепция используется в той или иной форме уже несколько десятилетий. Вероятно, прямо сейчас у вас в голове работает модель мира — именнотак вы понимаете, что не стоит бросаться под движущийся поезд, не проведя предварительно эксперимент.
Значит ли это, что исследователи ИИ наконец-то нашли ключевую концепцию , смысл которой понятен всем? Как однажды написал известный физик : «Вы, должно быть, шутите». Модель мира может звучать просто, но, как обычно, никто не может прийти к согласию относительно деталей . Что именно представлено в модели и с какой степенью точности? Это врожденное или приобретенное знание, или их комбинация? И каквообще обнаружить, что оно существует?
Полезно знать, с чего всё началось. В 1943 году, за двенадцать лет до появления термина «искусственный интеллект», 29-летний шотландский психолог Кеннет Крейк опубликовал влиятельную монографию, в которой он размышлял о том, что «если организм носит в своей голове „маломасштабную модель“ внешней реальности… он способен опробовать различные альтернативы, сделать вывод о том, какая из них лучшая… и во всех отношениях реагировать гораздо более полно, безопасно и компетентно». Представление Крейка о ментальной модели или симуляции предвосхитило « когнитивную революцию », которая преобразила психологию в 1950-х годах и до сих пор доминирует в когнитивных науках. Более того, оно напрямую связало познание с вычислениями: Крейк считал «способность параллельно моделировать внешние события» «фундаментальной особенностью» как «нейронных механизмов», так и «вычислительных машин».
Зарождающаяся область искусственного интеллекта с энтузиазмом приняла подход моделирования мира. В конце 1960-х годов система ИИ под названием SHRDLU поразила наблюдателей, используя примитивный «блочный мир» для ответа на вопросы здравого смысла о предметах на столе, например: «Может ли пирамида выдержать блок?». Но эти созданные вручную модели не могли масштабироваться для обработки сложности более реалистичных условий. К концу 1980-х годов пионер ИИ и робототехники Родни Брукс полностью отказался от моделей мира, заявив, что «мир сам по себе является лучшей моделью», а «явные представления… просто мешают».
Развитие машинного обучения, особенно глубокого обучения на основе искусственных нейронных сетей, вдохнуло новую жизнь в детище Крейка. Вместо того чтобы полагаться на хрупкие правила, написанные вручную, глубокие нейронные сети могли методом проб и ошибок создавать внутренние приближения своих обучающих сред , а затем использовать их для выполнения узкоспециализированных задач, таких как управление виртуальным гоночным автомобилем . В последние несколько лет, когда большие языковые модели, лежащие в основе чат-ботов, таких как ChatGPT, начали демонстрировать новые возможности , для которых они не были специально обучены — например, определение названий фильмов по строкам эмодзи или игра в настольную игру Отелло — модели мира предоставили удобное объяснение этой загадке. Для таких известных экспертов в области ИИ, как Джеффри Хинтон, Илья Суцкевер и Крис Олах, это было очевидно: где-то глубоко в дебрях виртуальных нейронов LLM должна скрываться «небольшая модель внешней реальности», как и предполагал Крейк.
Истина, по крайней мере, насколько нам известно, менее впечатляет. Вместо моделей мира, современные генеративные ИИ, похоже, изучают «наборы эвристик»: множество разрозненных эмпирических правил, которые могут приблизительно определять реакции на конкретные сценарии, но не складываются в единое целое. (Некоторые из них могут даже противоречить друг другу.) Это очень похоже на притчу о слепых и слоне, где каждый человек прикасается только к одной части животного за раз и не может понять его полную форму. Один человек ощупывает хобот и предполагает, что весь слон похож на змею; другой прикасается к ноге и догадывается, что это больше похоже на дерево; третий хватает слона за хвост и говорит, что это веревка. Когда исследователи пытаются восстановить доказательства существования модели мира внутри LLM — например, связное вычислительное представление игрового поля Отелло — они ищут всего слона. Вместо этого они находят кусочек змеи здесь, кусок дерева там и немного веревки.
Конечно, подобные эвристики отнюдь не бесполезны. Языковые модели могут закодировать бесчисленное множество таких эвристик в своих триллионах параметров — и, как гласит старая поговорка, количество само по себе обладает качеством. Именно это позволяет обучить языковую модель генерировать практически идеальные указания между любыми двумя точками на Манхэттене, не изучая при этом целостную модель всего мира, как недавно обнаружили исследователи из Гарвардского университета и Массачусетского технологического института .
Итак, если с этим справятся кусочки змеи, дерева и веревки, зачем тогда нужен слон? Одним словом, надежность: когда исследователи немного подпортили работу своего алгоритма навигации по Манхэттену, случайным образом перекрыв 1% улиц, его производительность резко упала. Если бы ИИ просто закодировал карту улиц с согласованными деталями — вместо чрезвычайно сложной, состоящей из противоречивых предположений, — он мог бы легко изменить маршрут в обход препятствий.
Учитывая преимущества, которые могут дать даже простые модели мира, легко понять, почему каждая крупная лаборатория ИИ отчаянно стремится их разработать — и почему академические исследователи также все больше интересуются их изучением . Надежные и проверяемые модели мира могли бы открыть, если не Эльдорадо искусственного общего интеллекта, то, по крайней мере, научно обоснованный инструмент для устранения иллюзий ИИ, обеспечения надежного рассуждения и повышения интерпретируемости систем ИИ.
Это «что» и «почему» создаются модели мира. «Как», однако, до сих пор остаетсязагадкой . Google DeepMind и OpenAI делают ставку на то, что при достаточном количестве «мультимодальных» обучающих данных — таких как видео, 3D-симуляции и другие входные данные, помимо простого текста — модель мира спонтанно сформируется в статистическом «супе» нейронной сети. ЛеКун из Meta, тем временем, считает, что совершенно новая (и негенеративная) архитектура ИИ обеспечит необходимую основу. В стремлении создать эти вычислительные «снежные шары» ни у кого нет хрустального шара — но приз, на этот раз, может оправдать ажиотаж.
Источник: www.quantamagazine.org
