Как устроена архитектура RAG с точки зрения статей затрат?
Технология Retrieval-Augmented Generation (генерация с дополнением из поиска) сначала находит релевантные фрагменты во внутренней базе документов компании и затем передаёт их языковой модели в качестве опоры для ответа. Как отмечается в архитектурном руководстве Microsoft, три кита работающей RAG-системы — это качество самого поискового индекса, компактный релевантный контекст и строгая проверка прав доступа к источникам.
Поэтому начинать оценку бюджета нужно с ревизии ваших источников и типовых запросов. Подключить чистую вики-базу с понятной структурой в разы проще и дешевле, чем разбирать архивы многостраничных сканов договоров со сложной матрицей ролевого доступа.
Из каких статей складывается полный бюджет на RAG?
В смете проекта чётко разделите разовую подготовку конвейера данных и регулярные ежемесячные затраты на поиск, генерацию и актуализацию контента. Обязательно оцифруйте время собственных инженеров и владельцев документации, даже если вы покупаете готовое облачное хранилище, и учитывайте фиксированные минимальные платежи платформ наряду с помегабайтной или потокеновой тарификацией.
Ниже приведена базовая матрица затрат от редакции AI Saves — выберите из неё те блоки, которые присутствуют в вашей целевой архитектуре.
| Контур затрат | Что именно нужно обсчитать | Правило для бюджетирования |
|---|---|---|
| Загрузка и парсинг данных | Извлечение текста из таблиц/сканов, очистка, нарезка на чанки и первичная индексация | Оценивать стоимость внедрения после прогона на реальных сложных файлах |
| Поиск и генерация (Inference) | Частота запросов, объём передаваемого контекста, вызовы реранкера и LLM | Прогнозировать по реальному профилю длины и сложности запросов |
| Контроль прав доступа (ACL) | Интеграция с каталогом учётных записей и автоматические тесты безопасности | Закрепить ответственного владельца ИБ до боевого запуска |
| Синхронизация и обновления | Обработка новых версий, удаление устаревших файлов и переиндексация | Заложить ежемесячный резерв часов инженеров и редакторов базы |
| Оценка и мониторинг качества | Сборка эталонного датасета вопросов, экспертная вычитка и регрессионные тесты | Закладывать регулярные прогоны при смене модели или структуры документов |
Почему актуализация документов и матрица доступов так сильно влияют на TCO?
Корпоративный поиск обязан одновременно решать две непростые задачи: не выдавать сотрудникам устаревшие регламенты и ни при каких обстоятельствах не показывать фрагменты документов, к которым у конкретного пользователя нет прав доступа. Каждое изменение файла в исходной системе, отзыв прав у переведённого сотрудника или архивация приказа должны без задержек отражаться в поисковом индексе.
В документации Microsoft по Azure AI Search подробно разбираются механизмы инкрементальной индексации и синхронизации списков контроля доступа (ACL). Не верьте на слово заявлениям о том, что «коннектор сам подтянет права из коробки» — обязательно тестируйте наследование доступов на своих реальных хранилищах и ролях.
Заранее пропишите в регламенте: кто отслеживает сбои ночной синхронизации, кто разруливает противоречия между двумя действующими инструкциями и как быстро удаляется секретный документ, случайно попавший в общую папку. От ответов на эти вопросы напрямую зависит стоимость ежемесячного сопровождения системы.
Как измерить реальную полезность ответов RAG-системы?
Ответ системы приносит пользу бизнесу только тогда, когда он фактически помогает сотруднику решить рабочую задачу, опирается исключительно на разрешённые актуальные источники и не требует получасовой перепроверки. В ходе тестирования оценивайте качество поисковой выдачи (Retrieval) отдельно от качества формулировки ответа (Generation) — так вы сразу поймёте, где именно теряется смысл.
По каждому тестовому вопросу из контрольной выборки проверяйте три вещи: нашлись ли нужные документы, нет ли искажений фактов в сгенерированном резюме и смог ли пользователь закрыть свою задачу. Обязательно включите в тест каверзные сценарии: вопросы, на которые в базе нет ответа, документы с похожими названиями от разных лет и запросы от лица сотрудников с урезанными правами.
Зафиксируйте этот проверочный набор вопросов и пороги приёмки в паспорте пилота; помните, что высокое качество на папке кадровых шаблонов не гарантирует такого же результата на папке технических спецификаций.
Иллюстративный пример расчёта экономики RAG-проекта
Свяжем количество качественных ответов с чистой экономией рабочего времени команды. Допустим, сотрудники задают системе 800 рабочих запросов в месяц, и каждый успешный поиск с учётом быстрой проверки ссылки экономит в среднем по пять минут по сравнению с ручным копанием в папках — суммарно высвобождается 66.7 часа в месяц. При полной ставке специалиста $36 в час и коэффициенте полезного использования времени 60% ежемесячный эффект равен $1,440.
Пусть облачный поиск и вызовы моделей обходятся в $250 в месяц, инфраструктура и векторная база — в $150, а регулярная работа по актуализации документов и контролю качества — в $400 (итого $800 ежемесячных затрат). Чистая ежемесячная выгода составляет $640. При стартовых затратах на настройку и первичную очистку базы в $3,840 проект окупается по стоимости рабочего ресурса за шесть месяцев и показывает расчётный ROI первого года на уровне 28.6%.
Все приведённые цифры условны и служат для демонстрации логики расчёта. Если доля точных ответов окажется ниже или сотрудникам придётся долго выверять каждый абзац, проект легко может уйти в минус.
В каких случаях проект RAG лучше сузить или отложить?
Не стоит разворачивать полномасштабный RAG, если у ваших папок с документацией нет закреплённых владельцев, внутри лежат десятки противоречащих друг другу версий, не решён вопрос с разграничением прав доступа или частота поисковых запросов слишком мала, чтобы окупить поддержку индекса. Гораздо разумнее начать с одного компактного, но образцово размеченного раздела, к которому команда обращается каждый день.
Более того, перед запуском нейросетевого поиска честно сравните его с более простыми мерами: наведением порядка в структуре папок, настройкой обычного полнотекстового поиска по ключевым словам или составлением толкового справочника частых вопросов (FAQ). И уже после выбора архитектуры подставляйте замеренную экономию времени и полную смету в калькулятор AI Saves.
Частые вопросы
Можно ли прикинуть бюджет на RAG просто по количеству файлов в папке?
Нет. Тысяча коротких текстовых заметок и тысяча отсканированных многостраничных PDF со сложными таблицами и чертежами отличаются по стоимости парсинга и проверки в десятки раз. Кроме того, бюджет сильно зависит от частоты обновления документов, сложности матрицы прав и интенсивности запросов.
Гарантирует ли архитектура RAG полное отсутствие галлюцинаций?
Не гарантирует. Поисковый модуль может подтянуть нерелевантный или устаревший кусок текста, а языковая модель — неверно интерпретировать условие из найденного абзаца. Поэтому в процесс всегда закладывается проверка по кликабельной ссылке на первоисточник.
Куда относить затраты на расчёт векторных эмбеддингов — в разовое внедрение или в ежемесячные расходы?
Первичная векторизация исторического архива документов относится к разовым затратам на внедрение (Setup). Текущая переиндексация новых и изменённых файлов входит в ежемесячные расходы (Run), а полный пересчёт базы при смене модели эмбеддингов закладывается как отдельная задача миграции.