RAG (Retrieval-Augmented Generation)
RAG (Retrieval-Augmented Generation) — это архитектурный подход к построению генеративных языковых систем, при котором модель перед формированием ответа извлекает релевантные фрагменты из внешней базы знаний и использует их как контекст. Вместо того чтобы полагаться только на параметрическую память, зашитую в весах при обучении, RAG-система на каждом запросе обращается к индексу документов, находит наиболее подходящие passages и передаёт их вместе с вопросом в генератор. Такой подход снижает число галлюцинаций, позволяет обновлять знания без переобучения модели и даёт возможность ссылаться на источники.
Как работает RAG-конвейер
Классический RAG-пайплайн состоит из двух фаз — индексации и генерации. На этапе подготовки корпус документов разбивается на чанки, каждый фрагмент превращается в вектор с помощью эмбеддинг-модели и складывается в векторное хранилище. На этапе запроса система выполняет поиск ближайших соседей, отбирает top-k фрагментов и формирует промпт вида «вопрос + найденный контекст».
- Чанкинг — разбивка документов на фрагменты размером 200–1000 токенов с перекрытием.
- Эмбеддинг — кодирование чанков и запроса в плотные векторы одной моделью.
- Поиск — извлечение top-k релевантных фрагментов по косинусной близости.
- Ранжирование — реранкер переупорядочивает кандидатов по точности соответствия.
- Генерация — LLM формирует ответ, опираясь только на переданный контекст.
Где RAG применяется на практике
Технология востребована там, где знания быстро устаревают или слишком объёмны для дообучения: поддержка клиентов, юридические и медицинские справочники, корпоративные базы регламентов, документация продуктов. Например, чат-бот интернет-магазина через RAG подтягивает актуальные остатки и условия доставки из внутренней базы, а не выдумывает их. Для проектов, где важна видимость в ответах ИИ-поисковиков, RAG напрямую связан с GEO продвижением — оптимизация контента под извлечение повышает шансы попасть в контекст генератора. Если же стоит задача подготовить сам корпус документов и структурировать тексты, поможет копирайтинг.
Виды и ограничения
Различают наивный RAG (один проход поиска), гибридный (плотный + разреженный поиск), мультимодальный (текст, изображения, таблицы) и агентный, где модель сама решает, какие инструменты и запросы использовать. Ключевые ограничения — качество чанкинга, задержка на этапе retrieval и риск, что реранкер пропустит нужный фрагмент. Для высоконагруженных систем добавляют кэширование эмбеддингов и оптимизацию инфраструктуры поиска.
Смежные понятия, которые стоит изучить: RAG Pipeline, Retrieval, Dense Retrieval и Graph RAG. Понимание этих механизмов помогает проектировать системы, которые отвечают точно, ссылаются на источники и обновляются без переобучения модели.
