RAG (поиск с дополнением): как ИИ отвечает по документам

Поиск с дополнением (RAG, Retrieval-Augmented Generation) - это подход, при котором ИИ перед ответом ищет релевантную информацию в документах, базе знаний или интернете и использует найденное как основу для ответа.

RAG - экзамен с открытыми учебниками

Простыми словами

Экзамен с закрытыми учебниками - это обычная модель: отвечает по памяти и может что-то напутать. Экзамен с открытыми учебниками - это RAG: сначала находишь нужную страницу, потом отвечаешь. Ошибок меньше, и можно указать, откуда взял информацию.

Как это работает

Документы заранее разбивают на кусочки и индексируют для быстрого поиска.
Когда ты задаешь вопрос, система ищет наиболее похожие по смыслу кусочки.
Найденные фрагменты добавляют к промпту вместе с твоим вопросом.
Модель формирует ответ, опираясь на эти фрагменты, и часто дает ссылки на источники.
Если ничего релевантного не найдено, хорошая система так и скажет.

Как работает поиск с дополнением

Где ты это увидишь

RAG работает в чат-ботах с поиском в интернете, в ассистентах, которые отвечают по твоим файлам или почте, в ботах поддержки магазинов и банков, в корпоративных базах знаний. Когда бот показывает ссылки-сноски возле предложений - скорее всего, это RAG.

Важно ли это при выборе

Да, если тебе нужны точные ответы с актуальной информацией. Выбирай сервисы, которые показывают источники, и открывай их. RAG заметно уменьшает галлюцинации, но не убирает их полностью: модель может неправильно понять найденный фрагмент.

Мифы

Миф: RAG делает модель умнее. На самом деле: Модель та же, просто ей дают шпаргалку с нужными фактами.
Миф: Если есть ссылка, ответ точно правильный. На самом деле: Модель может неправильно пересказать источник. Ссылки нужно открывать.

Частые вопросы

Чем RAG отличается от дообучения?

RAG дает модели информацию в момент запроса, дообучение меняет саму модель.

Можно ли сделать RAG по своим конспектам?

Да, некоторые сервисы позволяют загрузить файлы и задавать вопросы по ним.

Почему RAG иногда дает устаревший ответ?

Если база документов давно не обновлялась, модель опирается на старые данные.

Связанные термины

Галлюцинации ИИ, Контекстное окно, Большая языковая модель, Дообучение модели