ИИ не похож на мозг, и это нормально

Поразительное клеточное разнообразие и сложность сетевых структур мозга могут подсказать, как усовершенствовать ИИ. Комментарий Сохранить статью Прочитать позже

В 1943 году пара нейробиологов, пытаясь описать работу нервной системы человека, случайно заложила основу для искусственного интеллекта. В своей математической модели кодирования и обработки информации системами клеток Уоррен Маккалок и Уолтер Питтс утверждали, что каждую клетку мозга, или нейрон, можно рассматривать как логическое устройство: оно либо включается, либо нет. Сеть таких нейронов, работающих по принципу «всё или ничего», писали они, может выполнять простые вычисления, используя истинные или ложные утверждения.

«В каком-то смысле они фактически описали самую первую искусственную нейронную сеть», — сказал Томазо Поджо из Массачусетского технологического института, который является одним из основоположников вычислительной нейронауки.

Структура Маккалока и Питтса заложила основу для многих нейронных сетей, лежащих в основе самых мощных систем искусственного интеллекта. Эти алгоритмы, созданные для распознавания закономерностей в данных, стали настолько компетентны в решении сложных задач, что их продукты могут казаться пугающе человеческими. Текст ChatGPT настолько разговорный и личный, что некоторые люди в него влюбляются. Генераторы изображений могут создавать настолько реалистичные изображения, что порой сложно отличить их от подделки. А алгоритмы глубокого обучения решают научные проблемы, над которыми люди ломали голову десятилетиями. Возможности этих систем отчасти объясняют, почему словарный запас ИИ так богат терминами, связанными с человеческим мышлением, такими как интеллект, обучение и галлюцинации.

Но есть проблема: первоначальная концепция Маккалока и Питтса — «полная чушь», — заявил историк науки Мэтью Кобб из Манчестерского университета, написавший книгу «Идея мозга: прошлое и будущее нейронауки». «Нервная система устроена совсем не так».

Если попытаться провести хотя бы самое общее сравнение между биологическим и искусственным интеллектом — оба они обучаются, обрабатывая информацию на разных уровнях сетевых узлов, — их сходство быстро рассыпается.

Искусственные нейронные сети — это «значительное упрощение», — сказал Лео Козачков, постдокторант исследовательского центра IBM, который вскоре возглавит лабораторию вычислительной нейробиологии в Университете Брауна. «Когда вы смотрите на изображение настоящего биологического нейрона, вы видите, что это невероятно сложная штука». Эти невероятно сложные штуки бывают самых разных видов и образуют тысячи связей друг с другом, создавая плотные, запутанные сети, поведение которых контролируется целым рядом молекул, высвобождаемых в точно заданные временные интервалы.

Огромный клеточный комплекс, который представляет собой наша нервная система, генерирует наши чувства, мысли, сознание и интеллект — всё, что делает нас такими, какие мы есть. Многие процессы, кажется, происходят мгновенно и одновременно, управляемые органом, который эволюция формировала сотни миллионов лет из фрагментов, найденных в древних океанах, достигнув вершины в системе хранения и обработки информации, способной задавать экзистенциальные вопросы о себе.

«[Мозг] — самая сложная часть активной материи в известной нам Вселенной», — сказал Кристоф Кох, нейробиолог из Института мозга Аллена в Сиэтле. «Мозг всегда сравнивали с самым передовым механизмом».

Но ни одна машина — от телефонного коммутатора или радиолампы до суперкомпьютера или нейронной сети — не смогла этого сделать.

Нейронное разнообразие мозга и сложность его сетей теряются в искусственных нейронных сетях. Но специалисты по вычислительной нейробиологии — эксперты как по мозгу, так и по компьютерам — утверждают, что это нормально. Хотя эти две системы разошлись и пошли разными эволюционными путями, специалистам по информатике и нейробиологии ещё многое предстоит узнать, сравнивая их. Внедрение биологических стратегий может повысить эффективность и результативность искусственных нейронных сетей. Последние, в свою очередь, могут стать моделью для понимания работы человеческого мозга.

По словам Томаса Населариса, нейробиолога из Университета Миннесоты, с помощью ИИ «мы не пересоздаём биологию человека, а «открываем новые пути к интеллекту». И, работая так, мы надеемся лучше понять себя.

Электронный «мозг»

В 1958 году, через два года после того, как на семинаре по математике и информатике в Дартмутском колледже был придуман термин «искусственный интеллект», ВМС США представили то, что газета The New York Times назвала «электронным «мозгом»», который обучается сам.

Этот компьютер, известный как «персептрон», не был особенно продвинутым. Он мог считывать простой код — ряд отверстий, пробитых в карте, — и предсказывать, появится ли следующее отверстие справа или слева, что представлялось двоичным кодом: 0 или 1. Персептрон производил эти вычисления с помощью ряда узлов, также называемых нейронами. Но они были нейронами лишь по сути.

«Нейроны — это гораздо больше, чем просто узлы: это живые клетки… с ДНК, органеллами и специализированными структурами», — сказал Мак Шайн, системный нейробиолог из Сиднейского университета.

В вашем мозге 86 миллиардов нейронов взаимодействуют друг с другом, образуя сложные сети. Они общаются, выбрасывая молекулы, называемые нейротрансмиттерами, в межклеточное пространство и захватывая их отростками, называемыми дендритами. Эти молекулы могут выключить нейрон или побудить его к активации, что вызывает резкий электрический разряд, текущий по его длинному хвосту (аксону). Это затем активирует разветвления (аксональные терминали) на другом конце клетки, которые посылают новую волну молекул следующим нейронам в сети.

Все нейроны — в мозге и за его пределами — имеют один и тот же базовый механизм, но практически каждая другая функция различается между типами нейронов и даже отдельными нейронами одного типа. «Нет двух одинаковых нейронов; они совершенно разные», — сказал Шайн. Некоторые возбуждают другие нейроны; некоторые их подавляют. Некоторые из них длинные — например, аксоны некоторых тактильных нейронов простираются от основания спинного мозга до большого пальца ноги — в то время как другие относительно маленькие, уютно расположенные внутри мозга. Они могут передавать значение не только в двоичном коде — независимо от того, активируются они или нет — но и в аналоговом, в симфонии сигналов с различными паттернами, силой и частотой. Они посылают разные нейротрансмиттеры для кодирования разных сообщений; некоторые вместо этого общаются посредством электрических токов. И, конечно же, нейроны выполняют совершенно разные функции: регулируют эмоции, продвигают пищу по кишечнику, хранят и извлекают воспоминания, двигают руками и многое другое.

Даже простейшие мозги в животном мире обладают такой сложностью. Например, у личинок есть нейрон, который подаёт сигнал, когда их тело слишком сильно растягивается. У него 130 входов и 200 выходов. «И это просто для того, чтобы сказать: „Эй, я растянулся“», — сказал Кобб. Чем больше растягивается тело личинки, тем больше активируется этот нейрон. Таким образом, он содержит частотный код, сказал он. «Он не говорит: „О, я растягиваюсь“. Он говорит: „Я растягиваюсь [вот так]“». Это аналоговый, а не двоичный код.

В отличие от них, искусственные нейроны — это «карикатуры на биологические нейроны», сказал Поджио. Нейроны персептрона, например, получают информацию, анализируют её и выдают окончательный ответ — 1 или 0. В этом смысле, как и биологические нейроны, они либо активируются, либо нет. Но на этом сходство заканчивается.

Персептрон выделялся по сравнению с предшествующими компьютерами тем, что он мог обучаться. Впервые машина, созданная не из тканей, а из проводов и цепей, продемонстрировала способность, о которой раньше заявляла только биология. Сама её способность к обучению была вдохновлена нейробиологией. В 1949 году психолог Дональд Хебб отметил, что нейронные пути в мозге укрепляются, когда они используются, и ослабевают, когда не используются. Эту идею часто обобщают как «нейроны, которые активируются вместе, связываются друг с другом». Другими словами, мозг обучается, в значительной степени, корректируя связи между своими нейронами.

В персептроне это означало присвоение каждому соединению «веса» — числа, определяющего значимость входных данных для конечного результата. Нейронная сеть обучалась, корректируя свои веса в зависимости от точности своих предсказаний. Таким образом, персептрон стал «первой машиной, способной генерировать оригинальные идеи», по словам его создателя Фрэнка Розенблатта.

Однако искусственное обучение персептрона не получило широкого распространения. В то время вычислительная мощность была слишком ограничена, чтобы продвинуть машинное обучение за пределы этой простой модели, а финансирования для его разработки не было. «Подход, основанный на персептроне, был забыт, и сама информатика [свелась] к программированию», — сказал Поджио. Программирование означало опеку над вертолётом. Алгоритмы не обучались; им указывали, что делать. Поскольку специалисты по информатике сосредоточились на написании всё более подробных инструкций и игнорировали самообучающиеся системы, наступила зима ИИ.

Но исследования в области нейронауки не замедлились, а ускорились. Последующие десятилетия показали, как работают различные отделы человеческого мозга, особенно зрительная кора, заложив тем самым новые биологические основы, которые впоследствии подхватили специалисты по информатике.

Сетевая сложность

Примерно в то время, когда был открыт персептрон, математик Оливер Селфридж предложил схему работы зрительной системы мозга. В его метафорической модели «Пандемониума» сеть кричащих демонов представляла собой активирующие нейроны: когда демон распознавал визуальный объект, он начинал кричать (нейрон активировался). Например, при предъявлении буквы «А» первая группа демонов определяла левый стержень буквы, а затем передавала сигнал следующей группе демонов, которые были готовы распознать более крупный шаблон, например, соединение левого стержня с правым в вершине буквы. Если это было действительно то, что они видели, эти демоны кричали последнему демону, который, как вы можете догадаться, кричал, когда ему предъявляли полную букву «А». Таким образом, кричащие демоны могли обрабатывать входную информацию и идентифицировать букву «А».

Оказалось, что этот крик в наших головах был реальным. Вскоре после этого нейробиологи Дэвид Хьюбел и Торстен Визель, исследуя зрительную кору кошек, обнаружили, что зрительная система посылает сигналы через слои нейронов, которые реагируют на всё более сложные детали: от линий и размытых фигур до полноценных изображений. Это открытие принесло им Нобелевскую премию по физиологии и медицине 1981 года.

Сегодня зрительная система — одна из наиболее изученных сетей человеческого мозга, и упрощённая версия модели, разработанной Хьюбелом и Визелем, лежит в основе современных нейронных сетей, распознающих объекты на изображениях. Такие алгоритмы, называемые свёрточными нейронными сетями, сначала распознают контуры и простые формы на изображении, а затем, проходя через слои искусственных нейронов, распознают более крупные формы или узоры, например, уши или лица.

Мозг состоит из множества таких сетей, которые принимают и обрабатывают потоки информации, взаимодействуя друг с другом посредством обратных связей и постоянно меняющихся связей. Эти сети делают его превосходным многозадачным устройством, выполняющим поразительный набор функций посредством своих 100 триллионов связей. Информация в виде фотонов, звуковых волн, молекул запаха и т.д. улавливается сенсорными нейронами, а затем анализируется слоями других нейронов. Они запускают сети для быстрой активации последовательностей, чтобы вызвать воспоминания и представить информацию в контексте. Если мозг считает, что какой-то опыт стоит сохранить, он сохраняет его в виде памяти.

Тем временем мозг также взаимодействует с кишечником, чтобы оценить уровень голода, и интерпретирует сигналы солнечного света, чтобы координировать циркадные часы практически каждой клетки вашего тела. В одну секунду он грезит наяву, а в следующую — приказывает вашей руке смахнуть паука с плеча. Он планирует завтрашний день и вспоминает вчерашний, одновременно регулируя температуру, кровяное давление, воспаление и сердцебиение. Когда мы спим, мозг переключается в другой режим — собирает образы в сны, консолидирует воспоминания, выполняет некоторые действия по дому и управляет многими другими процессами, которые мы не понимаем.

Все эти процессы происходят на разных уровнях: от отдельных нейронов до локальных сетей, охватывающих весь мозг и даже всё тело. Постоянно меняющаяся динамика нервной системы обеспечивается нейромодуляторами – подгруппой нейромедиаторов, которые действуют медленнее и более широко распределены по областям мозга. По словам Шриканта Рамасвами, руководителя лаборатории нейронных цепей Ньюкаслского университета, они являются «главными переключателями в мозге».

Нейромодуляторы высвобождаются из сложных дендритных деревьев на концах некоторых нейронов и позволяют мозгу адаптироваться к новым ситуациям за секунды или минуты. Например, выброс кортизола во время стресса подготавливает организм к действию. Эта система тонко настроена: исследования показали, что молекулы, высвобождаемые из разных ветвей одного и того же дерева, могут влиять на поведение животного, например, на то, побежит мышь или остановится.

«Вы понятия не имеете, куда это можно встроить в нейронную сеть», — сказал Шайн. «В нейронауке скрыта сложность, которая просто недоступна современным нейронным сетям, потому что они устроены иначе».

Важно отметить, что искусственная нейронная сеть не состоит из физических связей, как нейроны в мозге. Эта сеть абстрактна и существует в мире математики и вычислений в виде алгоритмов, запрограммированных в кремниевых чипах. По словам Митчелла Остроу, аспиранта по вычислительной нейробиологии Массачусетского технологического института, это «по сути, просто линейная алгебра» с добавлением некоторых других нелинейных вычислений.

Чтобы достичь сложности хотя бы одного биологического нейрона, современной глубокой нейронной сети требуется от пяти до восьми слоёв узлов. Однако расширение искусственных нейронных сетей до более чем двух слоёв потребовало десятилетий. В более глубоких сетях становится гораздо сложнее определить, какие веса сеть должна подстраивать, чтобы минимизировать ошибку предсказаний. В 1980-х годах учёный-компьютерщик Пол Вербос предложил инновационный метод обратного распространения, который решил эту проблему.

В 1986 году Джеффри Хинтон, так называемый «крёстный отец» искусственного интеллекта, удостоенный Нобелевской премии по физике 2024 года за работы в области машинного обучения, и его коллеги написали влиятельную статью о том, как обучать нейронные сети с помощью обратного распространения ошибки. Эта идея, не основанная напрямую на нейронауке, стала ключом к развитию нейронных сетей и улучшению их обучаемости.

В 1990-х годах специалисты по информатике наконец расширили нейронные сети до трёх слоёв. Но только в 2010-х годах, когда специалисты по информатике научились структурировать свои алгоритмы для одновременного выполнения более быстрых вычислений на меньших по размеру чипах, нейронные сети расширились до десятков и сотен слоёв.

Эти достижения привели к появлению современных мощных нейронных сетей, способных превосходить человеческий мозг в некоторых задачах. Их можно обучить на миллиардах изображений или слов, которые человек не смог бы проанализировать даже за всю свою жизнь. Они побеждают чемпионов мира в таких играх, как шахматы и го. Они могут с высокой точностью предсказать структуру практически любого известного белка в мире. Они могут написать короткий рассказ о «Макдоналдсе» в стиле Джейн Остин.

Однако, несмотря на впечатляющие способности, алгоритмы на самом деле не «знают» вещи так, как мы, сказал Кобб. «Они ничего не понимают». Они обучаются в основном, распознавая закономерности в обучающих данных; для этого им обычно требуется обучение на огромном их объёме.

Между тем, даже простейшие нервные системы в животном мире обладают знаниями. «Личинка знает об окружающем мире так, как ни один компьютер», — сказал Кобб. И одна личинка отличается от другой, потому что каждая обучается, взаимодействуя с окружающей средой и получая из неё информацию. Мы не знаем, как наделить машины знаниями, кроме как предоставить им набор фактов, сказал он.

Искусственные нейронные сети проще и не так динамичны, как системы, давшие им название. Они отлично справляются со своими задачами, например, распознают объекты или отвечают на подсказки. Но, по словам Рамасвами, у них «нет способности рассуждать», как у человеческого мозга. «Я думаю, что добавление биологических деталей сыграет огромную роль в этом».

И именно это он пытается сделать.

Введение биологии

Поскольку механизмы биологии, отточенные эволюцией, доказали свою эффективность в мозге, некоторые исследователи полагают, что искусственные нейронные сети можно усовершенствовать, вернувшись к их источникам вдохновения и более точно имитируя некоторые нейробиологические особенности. По словам Рамасвами, такие вычисления, вдохновлённые мозгом, также известные как нейроморфные вычисления, не требуют химии. Вместо этого можно абстрагировать идею молекул в алгоритмические эквиваленты, работающие в различных схемах.

Его команда обнаружила, что внесение некоторого разнообразия в поведение искусственных нейронов улучшает работу нейронных сетей. Например, в предварительной работе, опубликованной на сайте научных препринтов arxiv.org в 2024 году, его команда обнаружила, что программирование искусственных нейронов на различную частоту импульсации улучшает качество обучения их систем. Рамасвами также изучает сетевые эффекты, наблюдаемые в биологических нервных системах. В этом году его команда выдвинула теорию, что проектирование нейронных сетей с учетом информации, предоставляемой нейромодуляторами, улучшит их способность к непрерывному обучению, подобно тому, как это делает мозг.

Другие исследователи также стремятся охватить сложную динамику, существующую в популяциях нейронов, но вместо того, чтобы переводить эту информацию в алгоритм, они хотят говорить на родном языке биологии. Инженер-атомщик Маттиа Гаццола и его команда из Иллинойсского университета в Урбане-Шампейне прикрепляют биологические нейроны к искусственным компонентам, чтобы улучшить способность компьютера обрабатывать информацию. Биологические сети могут развивать новую вычислительную динамику, поскольку они состоят из нейронов, которые изначально кодируют именно необходимое количество информации, сказал он.

«Мы рассматриваем это как ключ к доступу к таким способностям, как творчество, любопытство и обучение», — сказал Гаццола. «Это всё отличительные признаки биологического интеллекта, которые мы находим повсюду, не только у людей… но и даже у простейших существ».

Другие нейроморфные разработки направлены на повышение эффективности искусственных нейронных сетей — гонку, в которой мозг уверенно выигрывает. Рамасвами отметил, что мозг «невероятно энергоэффективен». Он потребляет около 20 ватт, что примерно вдвое больше, чем мощность обычной светодиодной лампочки. «Нейронная сеть просто не может работать, потребляя всего [20] ватт», — сказал он.

Однако сравнение энергопотребления искусственных и биологических нейронных сетей не является однозначной задачей из-за особенностей обучения мозга. Считаем ли мы сотни миллионов лет эволюции или всю жизнь обучения человека обучением? Сколько энергии это требует? «В этой области ведутся споры о том, что считать сравнением», — сказал Козачков, исследователь из IBM. «Сравниваем ли мы яблоки с апельсинами?»

Несмотря на все нюансы, энергопотребление искусственных нейронных сетей беспокоит многих. Текущая тенденция к масштабированию — постоянному увеличению размеров сетей для повышения их вычислительной мощности — будет продолжать увеличивать их энергопотребление до тех пор, пока не будут разработаны более эффективные микросхемы и процессы. Добавление слишком большого количества биологических деталей в алгоритмы приводит к значительным затратам вычислительной мощности, энергии и других ресурсов. «Нам необходимо определить золотую середину, где, по нашему мнению, такой уровень детализации действительно полезен», — сказал Рамасвами.

Тем не менее, для большинства специалистов по информатике мозг — не самое главное. Однако для многих нейробиологов это ИИ.

Модельные системы

ИИ уже оказывает влияние на изучение биологии, а в некоторых случаях и ускоряет его. Исследователи могут обучать нейронные сети на биологических данных, таких как белки и геномы, в надежде, что компьютеры помогут разрабатывать новые, функциональные биологические продукты. Однако ИИ можно использовать и для изучения самого мозга.

«Мы вступаем в поистине захватывающее время», — сказала Дженель Фезер, научный сотрудник Центра вычислительной нейронауки Института Флэтайрон*, которая вскоре возглавит лабораторию в Университете Карнеги — Меллона. «Мы переходим к этапу, когда сможем использовать эти модели, чтобы узнать что-то новое о мозге».

Если раньше мозг служил моделью для искусственных нейронных сетей, то теперь нейронные сети стали моделями для мозга. Несмотря на множество различий, современные алгоритмы ИИ значительно больше похожи на части реального мозга, чем любые модели, которые у нас были в прошлом, сказал Фезер. Есть и другие преимущества. Нейробиологи обычно изучают животных, чтобы понять нейробиологию человека. Но алгоритм не нужно кормить, содержать или поддерживать в нём жизнь. Кроме того, нейронные сети имеют преимущество перед грызунами в написании эссе, решении математических задач и игре в шахматы.

Ряд исследований показал, что, несмотря на существенное различие архитектур, искусственные и биологические нейронные сети могут вести себя схожим образом. В препринте, опубликованном в 2024 году на сайте biorxiv.org, Ева Федоренко, изучающая язык и мозг в Массачусетском технологическом институте, и её команда обнаружили, что активность различных нейронных сетей может имитировать друг друга и активность мозга, что называется «универсальностью представления». В другом исследовании они обнаружили, что искусственные нейронные сети и человеческий мозг могут обрабатывать предложения схожим образом. Тот факт, что они имеют «некоторое сходство с мозгом, — это действительно интересно», — сказал Федоренко.

Но какие-либо сходства трудно обнаружить, учитывая, что нейронные сети и мозг близки к «чёрным ящикам»: снаружи сложно увидеть, как именно нейронная сеть или мозг работают изнутри. В этом смысле сравнение этих двух систем подобно тому, как «близорукий управляет близоруким», сказал Населарис. Тем не менее, сравнение двух наших самых умных сетевых систем, несмотря на их многочисленные различия, может принести много пользы и мало потерь. «Сравнивать людей с ИИ никогда не перестанет быть интересным», — сказал он, подобно тому, как мы никогда не устаём сравнивать разум животных и человека.

Но они не одинаковы — и, вероятно, никогда не будут одинаковыми. «[Нейронные сети] сейчас настолько сильно отличаются от реального мозга, что, на мой взгляд, разумнее рассматривать их как совершенно иной объект обработки информации, — сказал Шайн, системный нейробиолог, — который сам по себе чрезвычайно интересен».

Если спросить ChatGPT-4: «Похожи ли вы на человеческий мозг?», он преобразует ваш текст в числа, обрабатывает их сотнями тысяч узлов — один, два, много раз. Каждый раз он предсказывает, какое следующее слово лучше всего вам сказать.

И да, и нет, может написать он. Иногда, как и мозг, ему нужна обратная связь. «Ты думаешь обо мне как о мозге или скорее как о чём-то другом?»

Примечание редактора: Фонд Саймонса финансирует как Центр вычислительной нейронауки Института Флэтайрон, так и это независимое издание. Решения Фонда Саймонса о финансировании не влияют на освещение событий в нашей публикации.[назад]

Источник: www.quantamagazine.org