RAG простими словами: як створити чат-бота, що відповідає з ваших документів
Зрозумілий посібник про retrieval-augmented generation: як це працює, коли потрібно, скільки коштує розробка і які помилки змушують AI-асистентів відповідати неправильно.

Запитайте загальну AI-модель про політику повернення у вашій компанії — і вона або відмовиться відповідати, або, що гірше, вигадає правдоподібну відповідь. Вона просто не бачила ваших документів. Retrieval-augmented generation (RAG) вирішує це: перед відповіддю система знаходить потрібні фрагменти вашого контенту й передає їх моделі як контекст.
Як працює RAG
- Підготовка (один раз, далі — при кожному оновленні): документи ділять на фрагменти (чанки), і кожен фрагмент перетворюють на числовий вектор (ембединг), що передає його зміст. Вектори зберігаються у векторній базі даних.
- Пошук: питання користувача теж перетворюють на вектор, і база повертає найближчі за змістом фрагменти — часто в поєднанні з класичним пошуком за ключовими словами.
- Генерація: модель отримує питання, знайдені фрагменти та інструкції на кшталт «відповідай лише з контексту, посилайся на джерела, скажи, що не знаєш, якщо відповіді немає».
Коли RAG потрібен, а коли ні
| Ситуація | Підходить? |
|---|---|
| Бот підтримки, що відповідає зі статей довідкового центру та політик | Так |
| Внутрішній асистент для пошуку у вікі, договорах, технічній документації | Так |
| Асистент продажів, що відповідає з каталогів і прайсів | Так, зі свіжою синхронізацією даних |
| Розрахунки, статус замовлення, дані акаунта | Краще через прямі виклики API (інструменти), а не RAG |
| Креативні тексти без фактів про компанію | Не потрібен |
Від чого залежить якість відповідей
- Якість джерел: застарілі чи суперечливі документи дають застарілі чи суперечливі відповіді. Наведення ладу в базі знань — часто половина проєкту.
- Нарізка на фрагменти: надто дрібні фрагменти втрачають контекст, надто великі розмивають пошук. Ділити за заголовками й розділами зазвичай краще, ніж за фіксованою довжиною.
- Пошук: гібридний пошук (зміст + ключові слова) і переранжування результатів помітно покращують релевантність, особливо для артикулів і назв.
- Інструкції: модель має чітко знати, що треба триматися контексту й визнавати, коли відповіді немає.
- Права доступу: користувач має отримувати відповіді лише з документів, які йому дозволено бачити.
Типовий технологічний стек
| Шар | Варіанти |
|---|---|
| Моделі | OpenAI GPT, Anthropic Claude, Google Gemini або відкриті моделі, як-от Llama чи Mistral |
| Ембединги та векторне сховище | pgvector у PostgreSQL, Qdrant, Pinecone, Weaviate |
| Оркестрація | LangChain, LlamaIndex або легкий власний сервіс |
| Інтерфейс | Віджет на сайті, бот у Telegram чи Slack, внутрішній портал |
| Якість | Набір для оцінювання, логування, кнопки зворотного зв'язку, моніторинг |
Як ми створюємо RAG-асистента
- Дослідження: на які питання він має відповідати, з яких джерел і для кого.
- Аудит знань: прибираємо дублікати й застарілі документи, визначаємо правила оновлення.
- Прототип за 1–2 тижні на реальних документах і реальних питаннях.
- Оцінювання: 50–150 тестових питань з очікуваними відповідями; вимірюємо точність, опору на джерела й поведінку «я не знаю».
- Інтеграція та запуск: віджет чи бот, права доступу, аналітика.
- Цикл покращень: кожна погана відповідь із продакшену стає новим тест-кейсом.
Вартість і конфіденційність
Витрати на роботу залежать переважно від кількості питань і обраної моделі; для більшості малих і середніх компаній вони скромні порівняно з часом співробітників підтримки. Якщо дані не можна виносити за межі вашої інфраструктури, весь стек можна розгорнути на ваших серверах із відкритими моделями.


