RAG Pipeline

RAG Pipeline (Retrieval-Augmented Generation pipeline) — это последовательность этапов обработки запроса, при которой языковая модель генерирует ответ не только на основе своих обученных параметров, но и на основе документов, извлечённых из внешней базы знаний. Конвейер решает главную проблему LLM — «галлюцинации» и устаревшие данные: вместо того чтобы «вспоминать» факт, модель получает его в контексте запроса. Типовой RAG Pipeline состоит из двух фаз: индексации (offline) и генерации (online). В первой фазе корпус документов разбивается на чанки, каждый чанк превращается в вектор эмбеддинга и складывается в векторную базу данных. Во второй фазе запрос пользователя тоже векторизуется, по нему ищутся ближайшие чанки, они подставляются в промпт, и модель формирует ответ. Именно поэтому качество RAG на 70–80% определяется качеством поиска, а не самой моделью.

Этапы конвейера

• Ingestion — загрузка источников: сайты, PDF, базы данных, CRM, документация.
• Chunking — нарезка текста на фрагменты 200–800 токенов с перекрытием 10–20%, чтобы не терять смысл на границах.
• Embedding — преобразование чанков в векторы моделью (например, text-embedding-3-large, дающей 3072 измерения).
• Indexing — запись векторов в хранилище: Pinecone, Weaviate, Qdrant, pgvector.
• Retrieval — поиск top-k релевантных чанков по косинусной близости к вектору запроса.
• Reranking — переупорядочивание найденного cross-encoder'ом, чтобы убрать семантически близкий, но бесполезный шум.
• Generation — сборка промпта «вопрос + контекст» и вызов LLM.

Где применяется на практике

• Корпоративные чат-боты по внутренней базе знаний: сотрудник спрашивает про регламент — бот отвечает со ссылкой на пункт документа.
• Поддержка клиентов: RAG снижает долю эскалаций на 30–50%, потому что ответы опираются на актуальную документацию, а не на память модели.
• Юридические и медицинские ассистенты, где критична цитируемость источника.
• SEO-инструменты: анализ выдачи, генерация контента по фактам из базы конкурентов. Для таких проектов обычно подключают семантику и оптимизацию сайта, чтобы источники были чистыми и структурированными.

Метрики и подводные камни

• Recall@k и MRR — измеряют, попал ли нужный чанк в выдачу ретривера.
• Faithfulness — доля утверждений в ответе, подтверждённых контекстом (цель — выше 0,9).
• Context precision — сколько из подставленных чанков реально использованы моделью.
• Типичные ошибки: слишком крупные чанки размывают эмбеддинг, слишком мелкие теряют контекст; отсутствие reranker'а пропускает мусор; устаревший индекс даёт неверные ответы.

RAG Pipeline — это не «модель + база», а инженерная цепочка, где каждый этап влияет на итог. Прежде чем строить конвейер, стоит провести SEO-аудит сайта источников: битые страницы, дубли и мусорный контент напрямую портят эмбеддинги. Смежные темы для изучения: векторная база данных, эмбеддинг, большая языковая модель, галлюцинации LLM.