VIVI: попытка вырастить когнитивный интеллект, а не обучить его

Большинство современных ИИ-систем получают знания «готовыми». Их учат на огромных корпусах, а потом донастраивают. Результат впечатляет, но внутри почти всегда лежит одна и та же идея: интеллект — это следствие заранее вычисленных весов и статистики.

Я пошёл другим путём.

Цель проекта VIVI — создать систему, которая развивается подобно живому существу. Не хранит заранее готовые знания. Не опирается на огромную предобученную языковую модель. Интеллект должен возникать постепенно — из накопления опыта, формирования памяти, самоорганизации знаний, появления понятий и внутренней модели мира.

Главный принцип простой:

Интеллект — это следствие структуры памяти, а не заранее вычисленных математических весов.

Что именно пытаюсь получить

К концу проекта VIVI должна уметь:

• самостоятельно воспринимать текст (а позже — изображения и звук);

• иметь несколько видов памяти: рабочую, долговременную, эпизодическую, семантическую;

• искать ассоциации, строить цепочки рассуждений, делать выводы и объяснять их;

• замечать пробелы в знаниях и задавать уточняющие вопросы вместо «не знаю»;

• планировать действия, оценивать результаты и учиться на ошибках;

• понимать, что она знает, чего не знает и чему только что научилась.

Это не чат-бот и не очередная языковая модель. Это попытка построить когнитивную архитектуру, в которой интеллект формируется из опыта.

Как идёт разработка

Можно описать примерно так «ребёнок → подросток → взрослый», через развитие когнитивных функций. Каждый следующий этап обязан удовлетворять трём условиям:

1. не ломать уже работающие механизмы;

2. уменьшать количество жёстко прописанной логики;

3. переносить принятие решений внутрь самой системы знаний.

Сейчас уже реализованы и работают:

• понимание входящего текста без жёстких правил вида «если начинается с…»;

• разбор предложений в структуру события (кто, что сделал, над кем, когда, зачем); (в дальнейшем планируется убрать полностью)

• рабочая память, которая удерживает несколько связанных мыслей;

• механизм внимания, усиливающий нужные связи и подавляющий лишние;

• градуированное отношение к знаниям: уверенный факт, слабое утверждение, конфликт, гипотеза, отвергнутое знание;

• разрешение противоречий через опыт похожих объектов, а не через простое удаление;

• появление обобщающих правил из наблюдений;

• наследование свойств;

• объяснение, почему система приняла или отвергла утверждение;

• зачаток любопытства: если знаний недостаточно, система формулирует вопрос, а не отмалчивается.

Важный момент: ложное знание не стирается. Оно ослабевает, получает статус с начало «слабо» потом «отвергнуто»,но остаётся в памяти как история опыта.

Пример: как система учится на противоречии

Вот реальный фрагмент работы.

Вы: собака это животное Поняла: СОБАКА — это животное Вы: собака это растение Запомнила, но есть конфликт: СОБАКА уже связывали с животное; теперь ещё с растение. Оба знания в памяти. Вы: собака имеет лапы Вы: собака имеет хвост Вы: кошка это животное Вы: кошка имеет лапы Вы: кошка имеет хвост Вы: хомяк это животное Вы: хомяк имеет лапы Вы: хомяк имеет хвост Вы: кто такая собака Собака — это животное (уверенно); наверно растение — данные слабые/спорные.

Система держит оба утверждения. Одно пока сильнее, второе ослаблено из-за добавления кошка и хомяк, но не стёрто.

Дальше происходит «сон» — период, когда система анализирует накопленный опыт:

Вы: сон Правило: животное ≠ растение Ослаблено: СОБАКА → РАСТЕНИЕ Вы: кто такая собака Собака — это животное (уверенно)

Противоречивое знание ушло из ответа, но осталось в памяти как история. Появилось обобщающее правило уровня категории.

Теперь новый объект:

Вы: лев имеет лапы Вы: лев имеет хвост Вы: лев это растение Нет: ЛЕВ скорее «животное», а не «растение». Почему: • похожие объекты → животное • правило: животное ≠ растение • вывод: ЛЕВ не растение Вы: кто такой лев Точного определения для «лев» пока нет. Ассоциации: лапа, хвост Возможно: животное (как собака: лапа, хвост)

Система не записала «лев — животное» как твёрдый факт. Она отказалась от ложного утверждения и выдвинула гипотезу. Это осторожное поведение — важная черта.

Добавляем еще одно понятие:

Вы: животное это живое существо Вы: кто такая собака Собака — это животное (уверенно) Также следует: живое существо (через животное)

Появляется производный вывод. Система не просто хранит прямые связи — она умеет связывать данные.

Как система понимает предложения

Переходим к разбору событий.

Вы: пастух завтра пойдет пасти овец Событие: кто: пастух, что: пойти, что/кого: овца, когда: завтра Вы: когда пастух пойдет пасти овец Когда: завтра Вы: кто пойдет пасти овец Кто: пастух Вы: кого пойдет пасти пастух Кого: овца Вы: вчера друг поймал волка Событие: кто: друг, что: поймать, что/кого: волк, когда: вчера Вы: что произошло вчера вчера друг поймать волк вчера брат поймать волк (если брат тоже ловил)

Фраза перестаёт быть цепочкой слов. Она становится событием с ролями. Система удерживает несколько таких событий в рабочей памяти и может отвечать на вопросы по ним, не смешивая прошлое и будущее.

Что уже видно на практике

• Знания имеют силу и статус, а не просто «есть / нет».

• Конфликт не разрушает память, а становится материалом для обучения.

• Обобщения появляются из опыта, а не из заранее прописанных правил.

• Система может объяснить путь своего вывода.

• Эпизодическая память хранит события с ролями и позволяет отвечать на вопросы «кто», «кого», «когда», «что произошло».

• Рабочая память удерживает несколько связанных мыслей одновременно.

• Появился механизм любопытства: вместо «не знаю» система формулирует, чего именно ей не хватает.

• Новый объект с похожими признаками сначала получает гипотезу, а не готовый ярлык.

Всё это работает без внешней большой языковой модели в качестве «мозга».

Главные риски и ограничения

Задача очень большая. Главный риск — архитектурное усложнение и накопление программного долга. Нельзя бесконечно добавлять механизмы. Нужно постепенно превращать компоненты в единую систему с чёткими границами ответственности.

Сейчас продумываю четкий план как двигаться к более глубокому планированию и любопытству.

VIVI — это попытка создать самостоятельный цифровой разум, который не получает готовое мышление от внешней нейросети, а формирует собственную память, знания, связи, опыт и способность действовать

Источник: habr.com