RAG-система — это связка поиска и нейросети, которая отвечает на вопросы по вашим документам. Сначала программа находит фрагменты, где есть ответ, а потом языковая модель пишет ответ по ним и показывает, откуда их взяла. Название — сокращение от английского retrieval-augmented generation, «генерация с опорой на поиск».
Как RAG отвечает по документам компании
Допустим, менеджер спрашивает: «Сколько дней у нас согласуют договор с новым поставщиком?» Система ищет по внутренним документам, находит нужный пункт в положении о закупках и передаёт его модели вместе с вопросом. Модель коротко отвечает и ставит ссылку на документ и пункт, чтобы ответ можно было проверить.
Сама модель про ваши регламенты ничего не знает. RAG подкладывает ей нужные страницы в момент вопроса, поэтому, когда регламент меняется, достаточно заменить документ в базе, и переобучать модель не придётся. Авторы метода показали это ещё в научной статье 2020 года, где система начинала отвечать по новым данным, как только ей заменяли базу на более свежую.
Где RAG ошибается
Ответ хорош настолько, насколько хороши документы и поиск. Если в базе лежат две версии регламента, система может взять старую. Если поиск нашёл не тот фрагмент, модель уверенно его перескажет, и ответ выйдет правдоподобным, но неверным. Поэтому ответ стоит показывать вместе с источником, а систему перед запуском проверять на наборе настоящих вопросов сотрудников, чтобы заранее увидеть, на каких темах поиск промахивается.
Отдельный вопрос — права. Поиск должен выбирать только из тех документов, которые сотруднику можно открыть, иначе система перескажет ему протокол совета директоров, до которого у него нет доступа.
Ассистента по документам компании на такой схеме мы делаем под ключ, подробнее — на странице ИИ-ассистента по документам.
Вопросы о RAG
Чем RAG отличается от дообучения модели?
Дообучение меняет саму модель, и чтобы она узнала новый документ, её приходится обучать заново. RAG модель не трогает, а при каждом вопросе передаёт ей нужные документы, поэтому базу можно обновлять хоть каждый день.
Можно ли сделать RAG-систему без отправки документов в облако?
Да, поиск и модель можно запустить на сервере компании. Как это устроено, рассказано на странице о локальной нейросети.
- Lewis и др., «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks», 2020 — arxiv.org/abs/2005.11401.
- Kalai и др., «Why Language Models Hallucinate», 2025 — arxiv.org/abs/2509.04664.