LLM или RAG: когда хватит универсальной нейросети, а когда нет

Руководители, которые слышали про LLM для бизнеса и решили «попробовать», нередко возвращаются через месяц с одним впечатлением: красиво, но пользы мало. ChatGPT для компании отлично отвечает на общие вопросы, но когда нужно что-то конкретное — про ваш продукт, ваши условия, ваши регламенты — начинаются проблемы. Модель либо придумывает, либо отвечает слишком обобщённо.

Это не значит, что LLM бесполезен. Это значит, что нужно понять: для каких задач хватит универсальной модели, а где без RAG-архитектуры не обойтись. Граница между этими случаями — конкретная и поддаётся анализу.

Универсальный LLM для бизнеса справляется с задачами, где не нужны специфические знания о вашей компании. Генерация черновиков писем и документов по шаблону. Перефразирование и редактура текстов. Перевод. Структурирование информации, которую вы вставляете в промпт. Ответы на общие вопросы из публичной области.

Если сотрудник пишет коммерческое предложение и ему нужна помощь с формулировками — ChatGPT для компании справится отлично. Если маркетолог хочет написать пять вариантов заголовка для письма — тоже. Ключевой признак: вся нужная информация либо уже есть в запросе, либо относится к общеизвестным фактам.

RAG-архитектура нужна там, где модель должна знать что-то, чего нет в её обучающих данных. Ваши регламенты и политики. Актуальный прайс и условия договоров. Технические характеристики ваших продуктов. История конкретного клиента. Законодательство, которое изменилось после даты обучения модели.

Нейросеть для документов на базе RAG работает иначе: перед ответом она сначала ищет релевантные фрагменты в вашей базе знаний, а потом формирует ответ на основе этих фрагментов. Это принципиально отличается от того, как работает обычный LLM, который отвечает только на основе того, что видел при обучении.

Задайте себе три вопроса. Первый: ответ на этот вопрос есть в каком-то документе нашей компании? Второй: если дать неточный ответ, это создаст проблему — юридическую, финансовую, репутационную? Третий: информация обновляется чаще, чем раз в год? Если хотя бы на один из них ответ «да» — вам нужен корпоративный AI-ассистент с RAG.

Хороший пример — корпоративный AI-ассистент в логистической компании. Менеджеры часто получали вопросы от клиентов о сроках доставки и условиях страхования груза. Раньше они искали ответы в Excel-таблицах и внутренних документах — это занимало 5-10 минут на запрос.

После внедрения RAG-архитектуры все тарифы, условия и регламенты загрузили в базу. Ассистент за 10-15 секунд находит нужную информацию и формулирует ответ. При этом менеджер видит ссылку на источник и может проверить. Точность ответов — 92%, время обработки запроса — меньше минуты.

Универсальный LLM для бизнеса можно подключить за день. RAG-архитектура требует больше работы: нужно подготовить базу знаний, настроить индексацию, прописать правила поиска и протестировать точность.

Ориентировочные затраты: базовый корпоративный AI-ассистент с небольшой базой документов — от 80 000 до 200 000 рублей на внедрение. Ежемесячное обслуживание — от 15 000 рублей. Это оправдано, если сотрудники тратят на поиск информации суммарно больше 50-80 часов в месяц: в пересчёте на зарплату ROI наступает за 3-4 месяца.

Начните с аудита: запишите 20-30 самых частых вопросов, которые задают сотрудники или клиенты. Если больше половины требуют обращения к внутренним документам — RAG для вас. Если большинство решаются общими знаниями — достаточно универсального LLM.