Архив рубрики ~Лента новостей~

VIVI: попытка вырастить когнитивный интеллект, а не обучить его

VIVI: попытка вырастить когнитивный интеллект, а не обучить его
VIVI: попытка вырастить когнитивный интеллект, а не обучить его

Большинство современных ИИ-систем получают знания «готовыми». Их учат на огромных корпусах, а потом донастраивают. Результат впечатляет, но внутри почти всегда лежит одна и та же идея: интеллект — это следствие заранее вычисленных весов и статистики.

Я пошёл другим путём.

Цель проекта VIVI — создать систему, которая развивается подобно живому существу. Не хранит заранее готовые знания. Не опирается на огромную предобученную языковую модель. Интеллект должен возникать постепенно — из накопления опыта, формирования памяти, самоорганизации знаний, появления понятий и внутренней модели мира.

Главный принцип простой:

Интеллект — это следствие структуры памяти, а не заранее вычисленных математических весов.

Что именно пытаюсь получить

К концу проекта VIVI должна уметь:

  • самостоятельно воспринимать текст (а позже — изображения и звук);

  • иметь несколько видов памяти: рабочую, долговременную, эпизодическую, семантическую;

  • искать ассоциации, строить цепочки рассуждений, делать выводы и объяснять их;

  • замечать пробелы в знаниях и задавать уточняющие вопросы вместо «не знаю»;

  • планировать действия, оценивать результаты и учиться на ошибках;

  • понимать, что она знает, чего не знает и чему только что научилась.

Это не чат-бот и не очередная языковая модель. Это попытка построить когнитивную архитектуру, в которой интеллект формируется из опыта.

Как идёт разработка

Можно описать примерно так «ребёнок → подросток → взрослый», через развитие когнитивных функций. Каждый следующий этап обязан удовлетворять трём условиям:

  1. не ломать уже работающие механизмы;

  2. уменьшать количество жёстко прописанной логики;

  3. переносить принятие решений внутрь самой системы знаний.

Сейчас уже реализованы и работают:

  • понимание входящего текста без жёстких правил вида «если начинается с…»;

  • разбор предложений в структуру события (кто, что сделал, над кем, когда, зачем); (в дальнейшем планируется убрать полностью)

  • рабочая память, которая удерживает несколько связанных мыслей;

  • механизм внимания, усиливающий нужные связи и подавляющий лишние;

  • градуированное отношение к знаниям: уверенный факт, слабое утверждение, конфликт, гипотеза, отвергнутое знание;

  • разрешение противоречий через опыт похожих объектов, а не через простое удаление;

  • появление обобщающих правил из наблюдений;

  • наследование свойств;

  • объяснение, почему система приняла или отвергла утверждение;

  • зачаток любопытства: если знаний недостаточно, система формулирует вопрос, а не отмалчивается.

Важный момент: ложное знание не стирается. Оно ослабевает, получает статус с начало «слабо» потом «отвергнуто»,но остаётся в памяти как история опыта.

Пример: как система учится на противоречии

Вот реальный фрагмент работы.

Вы: собака это животное Поняла: СОБАКА — это животное Вы: собака это растение Запомнила, но есть конфликт: СОБАКА уже связывали с животное; теперь ещё с растение. Оба знания в памяти. Вы: собака имеет лапы Вы: собака имеет хвост Вы: кошка это животное Вы: кошка имеет лапы Вы: кошка имеет хвост Вы: хомяк это животное Вы: хомяк имеет лапы Вы: хомяк имеет хвост Вы: кто такая собака Собака — это животное (уверенно); наверно растение — данные слабые/спорные.4ae3e74d117791917fbecf99a8c56250

Система держит оба утверждения. Одно пока сильнее, второе ослаблено из-за добавления кошка и хомяк, но не стёрто.

Дальше происходит «сон» — период, когда система анализирует накопленный опыт:

Вы: сон Правило: животное ≠ растение Ослаблено: СОБАКА → РАСТЕНИЕ Вы: кто такая собака Собака — это животное (уверенно)2dc7d24268b24ca43a5b1e0c1ce00f09

Противоречивое знание ушло из ответа, но осталось в памяти как история. Появилось обобщающее правило уровня категории.

Теперь новый объект:

Вы: лев имеет лапы Вы: лев имеет хвост Вы: лев это растение Нет: ЛЕВ скорее «животное», а не «растение». Почему: • похожие объекты → животное • правило: животное ≠ растение • вывод: ЛЕВ не растение Вы: кто такой лев Точного определения для «лев» пока нет. Ассоциации: лапа, хвост Возможно: животное (как собака: лапа, хвост)cb879287e232f9e703136415e0090781

Система не записала «лев — животное» как твёрдый факт. Она отказалась от ложного утверждения и выдвинула гипотезу. Это осторожное поведение — важная черта.

Добавляем еще одно понятие:

Вы: животное это живое существо Вы: кто такая собака Собака — это животное (уверенно) Также следует: живое существо (через животное)75b93c79338662b7c7670be7f389f69b

Появляется производный вывод. Система не просто хранит прямые связи — она умеет связывать данные.

Как система понимает предложения

Переходим к разбору событий.

Вы: пастух завтра пойдет пасти овец Событие: кто: пастух, что: пойти, что/кого: овца, когда: завтра Вы: когда пастух пойдет пасти овец Когда: завтра Вы: кто пойдет пасти овец Кто: пастух Вы: кого пойдет пасти пастух Кого: овца Вы: вчера друг поймал волка Событие: кто: друг, что: поймать, что/кого: волк, когда: вчера Вы: что произошло вчера вчера друг поймать волк вчера брат поймать волк (если брат тоже ловил)12af7b0ba3a5b38db05299b4384ac9b9

Фраза перестаёт быть цепочкой слов. Она становится событием с ролями. Система удерживает несколько таких событий в рабочей памяти и может отвечать на вопросы по ним, не смешивая прошлое и будущее.

Что уже видно на практике

  • Знания имеют силу и статус, а не просто «есть / нет».

  • Конфликт не разрушает память, а становится материалом для обучения.

  • Обобщения появляются из опыта, а не из заранее прописанных правил.

  • Система может объяснить путь своего вывода.

  • Эпизодическая память хранит события с ролями и позволяет отвечать на вопросы «кто», «кого», «когда», «что произошло».

  • Рабочая память удерживает несколько связанных мыслей одновременно.

  • Появился механизм любопытства: вместо «не знаю» система формулирует, чего именно ей не хватает.

  • Новый объект с похожими признаками сначала получает гипотезу, а не готовый ярлык.

Всё это работает без внешней большой языковой модели в качестве «мозга».

Главные риски и ограничения

Задача очень большая. Главный риск — архитектурное усложнение и накопление программного долга. Нельзя бесконечно добавлять механизмы. Нужно постепенно превращать компоненты в единую систему с чёткими границами ответственности.

Сейчас продумываю четкий план как двигаться к более глубокому планированию и любопытству.

VIVI — это попытка создать самостоятельный цифровой разум, который не получает готовое мышление от внешней нейросети, а формирует собственную память, знания, связи, опыт и способность действовать

Источник: habr.com

❌ Нет похожих статей с такими тегами

Оцените материал:

Поделиться
Понравилась статья? Расскажите другим
ВКонтакте
Читайте также
Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Специалист по робототехнике утверждает, что безопасность человекоподобных роботов должна быть первостепенной задачей. Новости робототехники Компания Waymo приостановила поездки по автомагистралям по всей стране после распоряжения Департамента транспортных средств Калифорнии. Новости робототехники Это простое изменение предотвращает застревание роев роботов. Новости робототехники Как я готовил робота-собаку Unitree Go2 на удаленке к МТС True Tech Champ Новости робототехники Гибкие роботизированные манипуляторы учатся предсказывать свои следующие движения. Новости робототехники Выращенные в лаборатории мышцы мышей позволяют крошечным роботам прыгать, плавать, ходить и хватать предметы. Новости робототехники Колесные, летающие и шестиногие роботы остаются на правильном пути благодаря новому методу обучения. Новости робототехники Мягкая роботизированная рыба сочетает в себе высокоскоростное плавание и трехмерную маневренность. Новости робототехники БИОЛОГ: НЕУМЕРЕННОЕ ИСПОЛЬЗОВАНИЕ ГАДЖЕТОВ НЕОБРАТИМО МЕНЯЕТ ЛИЧНОСТЬ РЕБЁНКА Новости робототехники Искусственный интеллект в БПЛА: преимущества и риски Новости робототехники Новая система искусственного интеллекта поможет машинам более детально понимать трехмерное пространство. Новости робототехники Ростех показал кобота с «умным» зрением Новости робототехники ДНК-роботы могли бы доставлять лекарства и выслеживать вирусы внутри вашего тела. Новости робототехники Человекоподобные роботы, играющие в футбол, забили важный гол в области робототехники, продемонстрировав высокую координацию движений. Новости робототехники Специалист по робототехнике утверждает, что безопасность человекоподобных роботов должна быть первостепенной задачей.

Оставить комментарий