← Все статьи
AI · 10 мин чтения

RAG простыми словами: как создать чат-бота, который отвечает по вашим документам

Понятное руководство по retrieval-augmented generation: как это работает, когда нужно, сколько стоит разработка и какие ошибки заставляют AI-ассистентов отвечать неправильно.

Спросите общую AI-модель о политике возврата в вашей компании — и она либо откажется отвечать, либо, что хуже, придумает правдоподобный ответ. Она просто не видела ваших документов. Retrieval-augmented generation (RAG) решает это: перед ответом система находит нужные фрагменты вашего контента и передаёт их модели как контекст.

Как работает RAG

ВопросПоискФрагментыПромптОтвет LLMИсточники
Запрос в RAG: сначала найти нужные фрагменты, затем дать модели ответить только на их основе.
  1. Подготовка (один раз, дальше — при каждом обновлении): документы делят на фрагменты (чанки), и каждый фрагмент превращают в числовой вектор (эмбеддинг), который передаёт его смысл. Векторы хранятся в векторной базе данных.
  2. Поиск: вопрос пользователя тоже превращают в вектор, и база возвращает ближайшие по смыслу фрагменты — часто в сочетании с классическим поиском по ключевым словам.
  3. Генерация: модель получает вопрос, найденные фрагменты и инструкции вроде «отвечай только по контексту, ссылайся на источники, скажи, что не знаешь, если ответа нет».

Когда RAG нужен, а когда нет

СитуацияПодходит?
Бот поддержки, отвечающий по статьям справочного центра и политикамДа
Внутренний ассистент для поиска по вики, договорам, технической документацииДа
Ассистент продаж, отвечающий по каталогам и прайсамДа, со свежей синхронизацией данных
Расчёты, статус заказа, данные аккаунтаЛучше через прямые вызовы API (инструменты), а не RAG
Креативные тексты без фактов о компанииНе нужен

От чего зависит качество ответов

  • Качество источников: устаревшие или противоречивые документы дают устаревшие или противоречивые ответы. Наведение порядка в базе знаний — часто половина проекта.
  • Нарезка на фрагменты: слишком мелкие фрагменты теряют контекст, слишком крупные размывают поиск. Делить по заголовкам и разделам обычно лучше, чем по фиксированной длине.
  • Поиск: гибридный поиск (смысл + ключевые слова) и переранжирование результатов заметно улучшают релевантность, особенно для артикулов и названий.
  • Инструкции: модель должна чётко знать, что нужно держаться контекста и признавать, когда ответа нет.
  • Права доступа: пользователь должен получать ответы только из документов, которые ему разрешено видеть.
Чаще всего подводит не модель, а поиск. Если нужный фрагмент не найден, даже лучшая модель не ответит правильно.

Типичный технологический стек

СлойВарианты
МоделиOpenAI GPT, Anthropic Claude, Google Gemini или открытые модели, например Llama или Mistral
Эмбеддинги и векторное хранилищеpgvector в PostgreSQL, Qdrant, Pinecone, Weaviate
ОркестрацияLangChain, LlamaIndex или лёгкий собственный сервис
ИнтерфейсВиджет на сайте, бот в Telegram или Slack, внутренний портал
КачествоНабор для оценки, логирование, кнопки обратной связи, мониторинг

Как мы создаём RAG-ассистента

  1. Исследование: на какие вопросы он должен отвечать, по каким источникам и для кого.
  2. Аудит знаний: убираем дубли и устаревшие документы, определяем правила обновления.
  3. Прототип за 1–2 недели на реальных документах и реальных вопросах.
  4. Оценка: 50–150 тестовых вопросов с ожидаемыми ответами; измеряем точность, опору на источники и поведение «я не знаю».
  5. Интеграция и запуск: виджет или бот, права доступа, аналитика.
  6. Цикл улучшений: каждый плохой ответ из продакшена становится новым тест-кейсом.

Стоимость и конфиденциальность

Расходы на работу зависят в основном от количества вопросов и выбранной модели; для большинства малых и средних компаний они скромны по сравнению со временем сотрудников поддержки. Если данные нельзя выносить за пределы вашей инфраструктуры, весь стек можно развернуть на ваших серверах с открытыми моделями.

RAG превращает общий AI в вашего эксперта: он отвечает вашими фактами, показывает, откуда они, и признаёт, когда не знает. В этом разница между демо и инструментом, которому доверяют клиенты.