Перейти к содержимому
Позвоните нам, чтобы обсудить ваш проект!

RAG (Retrieval-Augmented Generation)


RAG (Retrieval-Augmented Generation) — это архитектурный подход к построению генеративных языковых систем, при котором модель перед формированием ответа извлекает релевантные фрагменты из внешней базы знаний и использует их как контекст. Вместо того чтобы полагаться только на параметрическую память, зашитую в весах при обучении, RAG-система на каждом запросе обращается к индексу документов, находит наиболее подходящие passages и передаёт их вместе с вопросом в генератор. Такой подход снижает число галлюцинаций, позволяет обновлять знания без переобучения модели и даёт возможность ссылаться на источники.

Как работает RAG-конвейер

Классический RAG-пайплайн состоит из двух фаз — индексации и генерации. На этапе подготовки корпус документов разбивается на чанки, каждый фрагмент превращается в вектор с помощью эмбеддинг-модели и складывается в векторное хранилище. На этапе запроса система выполняет поиск ближайших соседей, отбирает top-k фрагментов и формирует промпт вида «вопрос + найденный контекст».

  • Чанкинг — разбивка документов на фрагменты размером 200–1000 токенов с перекрытием.
  • Эмбеддинг — кодирование чанков и запроса в плотные векторы одной моделью.
  • Поиск — извлечение top-k релевантных фрагментов по косинусной близости.
  • Ранжирование — реранкер переупорядочивает кандидатов по точности соответствия.
  • Генерация — LLM формирует ответ, опираясь только на переданный контекст.

Где RAG применяется на практике

Технология востребована там, где знания быстро устаревают или слишком объёмны для дообучения: поддержка клиентов, юридические и медицинские справочники, корпоративные базы регламентов, документация продуктов. Например, чат-бот интернет-магазина через RAG подтягивает актуальные остатки и условия доставки из внутренней базы, а не выдумывает их. Для проектов, где важна видимость в ответах ИИ-поисковиков, RAG напрямую связан с GEO продвижением — оптимизация контента под извлечение повышает шансы попасть в контекст генератора. Если же стоит задача подготовить сам корпус документов и структурировать тексты, поможет копирайтинг.

Виды и ограничения

Различают наивный RAG (один проход поиска), гибридный (плотный + разреженный поиск), мультимодальный (текст, изображения, таблицы) и агентный, где модель сама решает, какие инструменты и запросы использовать. Ключевые ограничения — качество чанкинга, задержка на этапе retrieval и риск, что реранкер пропустит нужный фрагмент. Для высоконагруженных систем добавляют кэширование эмбеддингов и оптимизацию инфраструктуры поиска.

Смежные понятия, которые стоит изучить: RAG Pipeline, Retrieval, Dense Retrieval и Graph RAG. Понимание этих механизмов помогает проектировать системы, которые отвечают точно, ссылаются на источники и обновляются без переобучения модели.


Еще на эту тему