RAG-система для бизнеса: инструкция по сборке бота

РазработкаАнтон Лебедев9 мин чтения
RAG-система для бизнеса: инструкция по сборке бота

Служба поддержки интернет-магазина отвечает на вопрос про возврат товара пятнадцать раз в день, и каждый раз сотрудник открывает договор оферты, чтобы найти нужный пункт. Отдел продаж тратит утро на поиск актуального прайса среди трёх версий файла в чате. Это типичная задача для RAG-бота: не обучать модель заново, а дать ей доступ к вашим документам и научить отвечать по ним. RAG-система для бизнеса решает её без лишних затрат: сотрудник или клиент получает точный ответ из документов компании за секунды, а не через пять минут поиска по папкам и переписке.

Статья «Что такое RAG простыми словами» на нашем блоге объясняет принцип на уровне идеи: модель ищет релевантный фрагмент и подставляет его в ответ. Здесь разговор пойдёт о сборке: как подготовить базу знаний, какую модель эмбеддингов взять, в какую векторную базу данных положить векторы и как написать промпт, чтобы бот не придумывал факты.

Ниже шесть практических шагов: от исходных документов до готового ответа пользователю. Инструкция подходит и для разработчика, который собирает пайплайн на Python, и для менеджера, который хочет понимать, из чего состоит заказ на такую систему.

Из чего состоит RAG-система для бизнеса: архитектура в четырёх слоях

За аббревиатурой скрывается конвейер из четырёх компонентов, и каждый отвечает за свою часть задачи.

  • База знаний: документы компании, очищенные и разбитые на фрагменты.
  • Эмбеддинги: модель, которая переводит текст в числовой вектор, отражающий смысл.
  • Векторная база данных: хранилище, где по вектору запроса находятся похожие по смыслу фрагменты.
  • LLM: модель, которая получает найденные фрагменты и вопрос пользователя и формулирует ответ.

Запрос пользователя проходит весь путь в обратном порядке: превращается в вектор, ищет соседей в базе, забирает текст найденных фрагментов и передаёт его модели вместе с вопросом. На каждом из четырёх слоёв есть решение по умолчанию и решение, которое требует настройки под конкретный бизнес: ниже будет видно, где можно взять готовое, а где стоит потратить время на подбор. Разберём каждый слой по отдельности.

Шаг 1. Собираете и готовите базу знаний

Источников обычно несколько: регламенты и инструкции в Confluence или Notion, договоры и прайсы в PDF и DOCX, история переписки с клиентами, карточки товаров, FAQ с сайта. Задача этого шага не «загрузить всё», а оставить то, на основании чего бот должен отвечать.

  • Удалите дубликаты и устаревшие версии документов: старый прайс в базе хуже, чем его отсутствие.
  • Разделите контент по темам или отделам: поддержка, продажи, юридические вопросы. Это понадобится на этапе поиска.
  • Таблицы и списки переведите в текстовое описание или сохраните как отдельные структурированные блоки: модель эмбеддингов хуже работает с голой таблицей, вырванной из контекста.
  • Добавьте метаданные к каждому документу: дата, источник, отдел, срок актуальности. По метаданным потом можно фильтровать поиск.

Если база знаний компании живёт в десятке разных систем, разумно свести их в единый репозиторий документов перед тем, как запускать индексацию: собирать эмбеддинги из разнородного и несинхронизированного контента дороже, чем один раз привести документы к общему виду. Практика показывает, что ревизия базы знаний раз в квартал экономит больше времени, чем доработка модели: бот с устаревшим прайсом в базе теряет доверие клиента быстрее, чем формулировка ответа успевает испортиться.

Шаг 2. Чанкинг: как разбить документы без потери смысла

Чанкинг, то есть разбиение документа на фрагменты для индексации, определяет качество ответов сильнее, чем выбор модели. Слишком крупный фрагмент тащит в ответ лишний контекст и размывает релевantность, слишком мелкий обрезает мысль на середине предложения.

Практика 2026 года сходится на нескольких диапазонах в зависимости от типа контента.

Тип контента Размер фрагмента Перекрытие
Общие вопросы и FAQ 512-1024 токенов 10-20%
Короткие ответы поддержки 128-256 токенов без перекрытия
Юридические и технические документы 1024-2048 токенов 10-15%
Код и конфигурации 200-600 токенов, по функции или блоку без перекрытия

Перекрытие, то есть повтор конца одного фрагмента в начале следующего, нужно, чтобы мысль на границе двух чанков не разорвалась. Слишком большое перекрытие раздувает базу и увеличивает затраты на хранение без заметного роста качества, поэтому 10-20% обычно достаточно. Для разбиения чаще используют рекурсивный сплиттер по границам абзацев и предложений, а не фиксированную нарезку по символам: так фрагмент реже обрывается посередине смысловой единицы. Библиотеки вроде LangChain и LlamaIndex предлагают готовые реализации такого сплиттера, и для пилота разумнее взять готовый инструмент, а не писать логику разбиения с нуля: экономия времени здесь заметнее, чем выигрыш от самописного решения.

Шаг 3. Эмбеддинги: превращаете текст в векторы

Модель эмбеддингов читает фрагмент текста и возвращает вектор: набор чисел, расположение которого в многомерном пространстве отражает смысл. Фрагменты с близким смыслом получают близкие векторы, и это свойство лежит в основе поиска.

На рынке два пути: коммерческие модели через API и открытые модели, которые можно развернуть у себя. Для русскоязычной базы знаний важный критерий, часто упускаемый новичками: модель должна быть мультиязычной или обучена на русском тексте, иначе качество поиска по смыслу заметно падает на кириллице. Коммерческий API проще развернуть и не требует своего GPU, но стоимость растёт с объёмом запросов, а открытая модель требует видеокарты и администрирования, зато обходится дешевле при большом потоке обращений. Подробнее о том, как эмбеддинги превращают смысл в координаты и чем отличаются модели друг от друга, разбирает статья про эмбеддинги и векторные базы данных на нашем блоге.

Правило, которое нарушают почти все на старте: одна и та же модель эмбеддингов должна кодировать и документы при индексации, и запрос пользователя при поиске. Смена модели задним числом означает полную переиндексацию базы, а не донастройку.

Шаг 4. Векторная база данных: как выбрать

Векторная база хранит эмбеддинги и быстро находит ближайшие по смыслу векторы к запросу. Выбор зависит от объёма данных и готовности администрировать инфраструктуру самостоятельно.

Решение Тип Когда подходит
Pinecone управляемый SaaS нужен запуск без администрирования инфраструктуры
Qdrant open source, можно self-host важна скорость и точная фильтрация по метаданным
Weaviate open source и managed нужен гибридный поиск: ключевые слова плюс векторы из коробки
Milvus open source большой объём данных, энтерпрайз-масштаб
Chroma open source, легковесная прототип и ранняя разработка

Управляемые сервисы берут оплату за объём хранимых векторов и число запросов, поэтому при миллионах документов стоимость подписки стоит сравнить со стоимостью сервера под self-host решение до выбора. Для первого пилота разумно начать с лёгкого решения и перенести данные в более производительную базу, когда объём документов и число запросов вырастут. Миграция между векторными базами проще, чем кажется: векторы можно пересчитать или экспортировать, структура метаданных обычно переносится почти без изменений.

Шаг 5. Поиск и ранжирование перед ответом LLM

Наивный вариант, когда бот просто берёт пять ближайших по вектору фрагментов и отдаёт их модели, работает хуже, чем кажется на старте: поиск только по вектору даёт высокую полноту на концептуальных вопросах, но проигрывает на точных запросах с конкретными терминами, номерами заказов или кодами ошибок. Классический алгоритм для этой части, BM25, ищет точные совпадения слов и работает быстрее векторного поиска, поэтому связка из двух методов редко замедляет ответ бота заметно для пользователя.

Практика, которая закрывает этот разрыв, называется гибридным поиском: векторный поиск по смыслу объединяется с классическим поиском по ключевым словам, а результаты двух методов сливаются в один список. После этого применяется реранжирование: отдельная модель заново оценивает отобранные кандидаты и поднимает наверх действительно релевантные, а не просто похожие по вектору. Типичная схема: гибридный поиск отбирает 50-100 кандидатов, реранжирующая модель сокращает список до 5-10 фрагментов, которые уходят в LLM.

Добавление реранжирования почти всегда даёт больший прирост точности, чем смена модели эмбеддingов на более дорогую, поэтому если нужно выбирать, куда вложить время на старте, начните с него.

Шаг 6. Промпт для LLM и защита от галлюцинаций

Финальный шаг собирает всё вместе: вопрос пользователя и найденные фрагменты попадают в промпт, и модель формулирует ответ. От формулировки системного промпта зависит, будет ли бот честно признавать нехватку данных или начнёт придумывать факты.

  • Явно укажите модели отвечать только на основании переданных фрагментов, а не общих знаний.
  • Попросите указывать источник фрагмента: конкретный документ или раздел, из которого взят ответ.
  • Задайте фразу-отказ на случай, когда релевантных фрагментов не нашлось: модель должна сказать, что не знает, а не подбирать похожий, но неточный ответ.
  • Ограничьте тон и формат ответа: деловой стиль, конкретный объём, отсутствие дополнений за рамками вопроса.
  • Зафиксируйте низкую температуру генерации у модели: при температуре 0-0.3 ответ держится ближе к фактам из фрагментов и реже уходит в творческую импровизацию.

Для сборки и оркестрации всего пайплайна, от приёма запроса до вызова LLM, удобно использовать no-code инструменты автоматизации: например, в статье про настройку узла AI Agent в n8n на нашем блоге показано, как собрать похожий конвейер с инструментами без написания отдельного сервиса с нуля. Это экономит время на старте, пока логика ещё меняется.

Частые вопросы

Сколько документов нужно, чтобы запустить RAG-бота?

Минимума в штуках нет: важен не объём, а полнота покрытия темы, по которой бот должен отвечать. Пилот на 20-50 документах с чётко описанной одной темой, например возвратами или доставкой, часто показывает качество выше, чем загрузка всей базы знаний компании сразу без чистки и структуры.

Нужно ли дообучать LLM для работы с RAG?

Нет, в большинстве случаев дообучение не требуется. RAG решает задачу знаний через поиск, а не через изменение весов модели, поэтому подходит готовая модель через API. Дообучение имеет смысл отдельно, если нужно поменять стиль ответов или формат, а не добавить факты. На практике большинство RAG-ботов используют одну и ту же LLM без изменений месяцами, меняя только содержимое базы знаний.

Чем RAG отличается от fine-tuning модели?

Fine-tuning меняет параметры модели и требует переобучения при каждом обновлении фактов. RAG хранит факты отдельно, в векторной базе, и обновляется простой переиндексацией документа без переобучения модели. Для бизнеса с часто меняющимися данными, прайсами или ассортиментом, RAG почти всегда дешевле в поддержке.

Можно ли собрать RAG-бота без разработчика?

Частично да: no-code платформы автоматизации позволяют собрать базовый пайплайн поиска и генерации ответа через готовые узлы без кода. Но настройка качественного чанкинга, выбор модели эмбеддингов под русский язык и донастройка реранжирования обычно требуют технической экспертизы, если нужен результат, а не демо.

Как часто нужно обновлять базу знаний RAG-бота?

Частота зависит от скорости изменения источников: прайсы и акции могут требовать обновления ежедневно, регламенты и договоры реже, раз в несколько недель или по факту изменения документа. Разумная практика: настроить автоматическую переиндексацию при изменении исходного файла, а не обновлять базу вручную по графику.

С чего начать

Если хочется собрать RAG-бота самостоятельно, порядок действий такой:

  1. Выберите одну узкую тему с чётким набором документов: поддержка по одному продукту, один регламент, один раздел FAQ.
  2. Соберите и почистите документы по этой теме, разбейте на фрагменты размером 512-1024 токена с перекрытием 10-20%.
  3. Запустите пилот на лёгкой векторной базе и одной модели эмбеддингов, проверьте ответы на реальных вопросах пользователей.
  4. Добавьте гибридный поиск и реранжирование, если точность ответов на старте недостаточна.

На пилоте достаточно 2-3 недель: неделя на подготовку документов и чанкинг, неделя на настройку поиска и промпта, несколько дней на тестирование на реальных вопросах пользователей.

Если разбираться самому не хочется или сроки важнее экспериментов, такие боты под конкретные бизнес-процессы собирают в студии разработки чат-ботов neurounit.ai.

Поделиться:

About Author: Антон Лебедев

nu_editor_lebedev@neurounit.ai

Редактор Neurounit. Разбирает рекламные каналы, аналитику и экономику заявок.

Neurounit

Запустить рост с AI

Оставьте заявку или напишите в мессенджер