Как устроена архитектура RAG с точки зрения статей затрат?

Технология Retrieval-Augmented Generation (генерация с дополнением из поиска) сначала находит релевантные фрагменты во внутренней базе документов компании и затем передаёт их языковой модели в качестве опоры для ответа. Как отмечается в архитектурном руководстве Microsoft, три кита работающей RAG-системы — это качество самого поискового индекса, компактный релевантный контекст и строгая проверка прав доступа к источникам.

Поэтому начинать оценку бюджета нужно с ревизии ваших источников и типовых запросов. Подключить чистую вики-базу с понятной структурой в разы проще и дешевле, чем разбирать архивы многостраничных сканов договоров со сложной матрицей ролевого доступа.

Источники

Из каких статей складывается полный бюджет на RAG?

В смете проекта чётко разделите разовую подготовку конвейера данных и регулярные ежемесячные затраты на поиск, генерацию и актуализацию контента. Обязательно оцифруйте время собственных инженеров и владельцев документации, даже если вы покупаете готовое облачное хранилище, и учитывайте фиксированные минимальные платежи платформ наряду с помегабайтной или потокеновой тарификацией.

Ниже приведена базовая матрица затрат от редакции AI Saves — выберите из неё те блоки, которые присутствуют в вашей целевой архитектуре.

Контур затратЧто именно нужно обсчитатьПравило для бюджетирования
Загрузка и парсинг данныхИзвлечение текста из таблиц/сканов, очистка, нарезка на чанки и первичная индексацияОценивать стоимость внедрения после прогона на реальных сложных файлах
Поиск и генерация (Inference)Частота запросов, объём передаваемого контекста, вызовы реранкера и LLMПрогнозировать по реальному профилю длины и сложности запросов
Контроль прав доступа (ACL)Интеграция с каталогом учётных записей и автоматические тесты безопасностиЗакрепить ответственного владельца ИБ до боевого запуска
Синхронизация и обновленияОбработка новых версий, удаление устаревших файлов и переиндексацияЗаложить ежемесячный резерв часов инженеров и редакторов базы
Оценка и мониторинг качестваСборка эталонного датасета вопросов, экспертная вычитка и регрессионные тестыЗакладывать регулярные прогоны при смене модели или структуры документов

Почему актуализация документов и матрица доступов так сильно влияют на TCO?

Корпоративный поиск обязан одновременно решать две непростые задачи: не выдавать сотрудникам устаревшие регламенты и ни при каких обстоятельствах не показывать фрагменты документов, к которым у конкретного пользователя нет прав доступа. Каждое изменение файла в исходной системе, отзыв прав у переведённого сотрудника или архивация приказа должны без задержек отражаться в поисковом индексе.

В документации Microsoft по Azure AI Search подробно разбираются механизмы инкрементальной индексации и синхронизации списков контроля доступа (ACL). Не верьте на слово заявлениям о том, что «коннектор сам подтянет права из коробки» — обязательно тестируйте наследование доступов на своих реальных хранилищах и ролях.

Заранее пропишите в регламенте: кто отслеживает сбои ночной синхронизации, кто разруливает противоречия между двумя действующими инструкциями и как быстро удаляется секретный документ, случайно попавший в общую папку. От ответов на эти вопросы напрямую зависит стоимость ежемесячного сопровождения системы.

Источники

Как измерить реальную полезность ответов RAG-системы?

Ответ системы приносит пользу бизнесу только тогда, когда он фактически помогает сотруднику решить рабочую задачу, опирается исключительно на разрешённые актуальные источники и не требует получасовой перепроверки. В ходе тестирования оценивайте качество поисковой выдачи (Retrieval) отдельно от качества формулировки ответа (Generation) — так вы сразу поймёте, где именно теряется смысл.

По каждому тестовому вопросу из контрольной выборки проверяйте три вещи: нашлись ли нужные документы, нет ли искажений фактов в сгенерированном резюме и смог ли пользователь закрыть свою задачу. Обязательно включите в тест каверзные сценарии: вопросы, на которые в базе нет ответа, документы с похожими названиями от разных лет и запросы от лица сотрудников с урезанными правами.

Зафиксируйте этот проверочный набор вопросов и пороги приёмки в паспорте пилота; помните, что высокое качество на папке кадровых шаблонов не гарантирует такого же результата на папке технических спецификаций.

Иллюстративный пример расчёта экономики RAG-проекта

Свяжем количество качественных ответов с чистой экономией рабочего времени команды. Допустим, сотрудники задают системе 800 рабочих запросов в месяц, и каждый успешный поиск с учётом быстрой проверки ссылки экономит в среднем по пять минут по сравнению с ручным копанием в папках — суммарно высвобождается 66.7 часа в месяц. При полной ставке специалиста $36 в час и коэффициенте полезного использования времени 60% ежемесячный эффект равен $1,440.

Пусть облачный поиск и вызовы моделей обходятся в $250 в месяц, инфраструктура и векторная база — в $150, а регулярная работа по актуализации документов и контролю качества — в $400 (итого $800 ежемесячных затрат). Чистая ежемесячная выгода составляет $640. При стартовых затратах на настройку и первичную очистку базы в $3,840 проект окупается по стоимости рабочего ресурса за шесть месяцев и показывает расчётный ROI первого года на уровне 28.6%.

Все приведённые цифры условны и служат для демонстрации логики расчёта. Если доля точных ответов окажется ниже или сотрудникам придётся долго выверять каждый абзац, проект легко может уйти в минус.

В каких случаях проект RAG лучше сузить или отложить?

Не стоит разворачивать полномасштабный RAG, если у ваших папок с документацией нет закреплённых владельцев, внутри лежат десятки противоречащих друг другу версий, не решён вопрос с разграничением прав доступа или частота поисковых запросов слишком мала, чтобы окупить поддержку индекса. Гораздо разумнее начать с одного компактного, но образцово размеченного раздела, к которому команда обращается каждый день.

Более того, перед запуском нейросетевого поиска честно сравните его с более простыми мерами: наведением порядка в структуре папок, настройкой обычного полнотекстового поиска по ключевым словам или составлением толкового справочника частых вопросов (FAQ). И уже после выбора архитектуры подставляйте замеренную экономию времени и полную смету в калькулятор AI Saves.

Источники

Частые вопросы

Можно ли прикинуть бюджет на RAG просто по количеству файлов в папке?

Нет. Тысяча коротких текстовых заметок и тысяча отсканированных многостраничных PDF со сложными таблицами и чертежами отличаются по стоимости парсинга и проверки в десятки раз. Кроме того, бюджет сильно зависит от частоты обновления документов, сложности матрицы прав и интенсивности запросов.

Гарантирует ли архитектура RAG полное отсутствие галлюцинаций?

Не гарантирует. Поисковый модуль может подтянуть нерелевантный или устаревший кусок текста, а языковая модель — неверно интерпретировать условие из найденного абзаца. Поэтому в процесс всегда закладывается проверка по кликабельной ссылке на первоисточник.

Куда относить затраты на расчёт векторных эмбеддингов — в разовое внедрение или в ежемесячные расходы?

Первичная векторизация исторического архива документов относится к разовым затратам на внедрение (Setup). Текущая переиндексация новых и изменённых файлов входит в ежемесячные расходы (Run), а полный пересчёт базы при смене модели эмбеддингов закладывается как отдельная задача миграции.

Что изучить дальше

Материалы по теме