🧠 RAG для ИИ — Способы собрать безлимитную память

RAG — технология, которая превращает текстовые документы и файлы в память нейросети. Модель отвечает не по общей эрудиции, а строго по загруженным файлам. Контекстное окно не перегружается, а база знаний может расти бесконечно

Подготовил 4 варианта запуска RAG. От полностью визуального конструктора до локального кода ⬇

Способ 1

Dify — вообще без кода

Облачный сервис для создания ИИ-ассистентов. Позволяет сделать RAG и подключить к нему ассистента

Как запустить?

— Зарегистрироваться на dify.ai (бесплатный тариф даёт 200 запросов в день)

— В разделе Knowledge создать базу знаний и загрузить документы

— Система автоматически нарежет чанки и построит векторный индекс

— В Studio создать чат-бота или агента, привязать базу знаний

— Прописать системный промт: Отвечай только на основе загруженных документов. Если ответа нет, скажи об этом прямо

— Далее ассистента можно встроить в ТГ или еще куда-то

Способ 2

Flowise — визуальный конструктор с открытым кодом

Как запустить?

— Установить Node.js, затем Flowise одной командой (инструкция на flowiseai.com)

— Перейти в веб-интерфейс, перетащить блоки: Document Loader → Text Splitter → Embeddings → Vector Store → LLM Chain

— Загрузить файлы в блоке Document Loader

— Выбрать модель эмбеддингов (например, OpenAI или локальную через Ollama)

— Подключить векторную базу (встроенная или внешняя)

— Сохранить и протестировать чат

Способ 3

Локальный RAG на Python — Chroma + Ollama + LangChain

Что потребуется?

— Установить Python 3.10+

— Установить Ollama и загрузить модель (например, llama3 или mistral)

— Установить библиотеки: langchain, chromadb, sentence-transformers (или ollama для эмбеддингов)

— Навайбкодить скрипт, который создаст БД на основе загруженных документов + протестировать все

Способ 4

NotebookLM — самый изичный вариант

Можно загрузить все: видео с ютуба, сайты, тексты, заметки, документы

Главный минус — это то, что все уходит в облако 🙂

Как использовать?

— Открыть notebooklm.google.com

— Создать новый блокнот, добавить источники (PDF, Google Docs, веб-ссылки)

— Писать запросы в интерфейсе чата

Канал про ИИ, публикую подборки, гайды понятным языком, мнения — интересный и полезный контент.

Каждый найдет как сэкономить время и увеличить продуктивность с нейросетями⬇