Лидеры мнений
Как создать надежную RAG-систему: семь точек отказа и фреймворки оценки
Ключевые моментыDeepEval интегрируется в CI/CD-пайплайны для выявления регрессий в RAG-системах до их…
Показать больше
- DeepEval интегрируется в CI/CD-пайплайны для выявления регрессий в RAG-системах до их развертывания в продакшене.
- RAGAS генерирует синтетические тестовые наборы для диагностики ошибок поиска и генерации без использования человеческих данных.
- Arize Phoenix визуализирует кластеры эмбеддингов, выявляя пробелы в охвате знаний векторной базы данных.
Retrieval-Augmented Generation (RAG) имеет решающее значение для современной архитектуры ИИ, служа основой для создания агентов, учитывающих контекст.
Но переход от базового прототипа к системе, готовой к эксплуатации, предполагает преодоление значительных препятствий в извлечении данных, консолидации контекста и синтезе ответов.
Эта статья подробно рассматривает семь типичных точек отказа RAG и метрики оценки с практическими примерами кода.
Анатомия сбоев RAG – 7 точек отказа (FP)
По данным исследователей Барнетта и коллег, системы Retrieval Augmented Generation (RAG) сталкиваются с семью конкретными точками отказа (FP) на всех этапах конвейера.
Ниже приведена диаграмма, иллюстрирующая эти этапы:

Рисунок A. Процессы индексирования и обработки запросов, необходимые для создания системы RAG. Процесс индексирования выполняется во время разработки, а запросы – во время выполнения. Точки отказа, выявленные в этом исследовании, показаны в красных рамках (источник)
Рассмотрим каждую точку отказа по порядку этапов конвейера, двигаясь от верхнего левого угла к нижнему правому, как показано на рисунке A.
FP1. Отсутствие контента
Контент отсутствует, когда системе задают вопрос, на который она не может ответить, потому что нужной информации изначально нет в доступном векторном хранилище.
Неисправность происходит, когда большая языковая модель (LLM) предоставляет правдоподобный, но неверный ответ вместо того, чтобы заявить, что она не знает.
FP2. Нужный документ не попал в верхние позиции
Это ситуация, когда правильный документ существует в векторном хранилище, но извлекатель не может ранжировать его достаточно высоко, чтобы включить его в top-k документов, которые будут переданы LLM в качестве контекста.
В результате правильная информация никогда не достигает LLM.
FP3. Не в контексте (ограничения стратегии консолидации)
Это ситуация, когда правильный документ существует и извлечен из векторного хранилища, но исключен во время процесса консолидации.
Это происходит, когда слишком много документов возвращается и система должна отфильтровать их, чтобы уложиться в контекстное окно LLM и соблюсти лимиты токенов и частоты запросов.
FP4. Не извлечено
Это ситуация, когда LLM не может определить правильную информацию в контексте, даже если правильная информация была в векторном хранилище и была успешно извлечена и консолидирована.
Это происходит, когда контекст слишком шумный или содержит противоречивую информацию, которая сбивает с толку LLM.
FP5. Неправильный формат
Это ситуация, когда хранение, извлечение, консолидация и интерпретация LLM обрабатываются успешно, но LLM не может следовать конкретным инструкциям по форматированию, предоставленным в запросе, таким как таблица, маркированный список или схема JSON.
FP6. Неподходящий уровень детализации
Выходные данные LLM технически присутствуют, но либо слишком общие, либо слишком сложные по сравнению с потребностями пользователя.
Например, LLM генерирует простые ответы на вопрос пользователя со сложной профессиональной целью.
FP7. Неполные ответы
Это ситуация, когда LLM генерирует выходные данные, которые не обязательно неверны, но не содержат ключевых сведений, которые были доступны в контексте.
Например, когда пользователь задает сложный вопрос, такой как “Каковы ключевые моменты в документах A, B и C?”, LLM охватывает только один или два источника.
Как точки отказа снижают производительность конвейера RAG
Каждая из этих точек отказа влияет на производительность конвейеров RAG:
Нарушения целостности данных и доверия
Когда данные отсутствуют или неверны, система больше не является надежным источником информации. Основные точки отказа включают:
- FP1 (Отсутствие контента): Ответа изначально нет в документе.
- FP4 (Не извлечено): LLM решает игнорировать правильный ответ в документе.
- FP7 (Неполные): LLM предоставляет полуправду, пропуская важные части.
Узкие места поиска и эффективности
Конвейер RAG может быть неэффективным, когда он пропускает ключевую информацию на этапах извлечения и консолидации. Основные точки отказа включают:
- FP2 (Нужный документ не попал в верхние позиции): Модель эмбеддингов не может выбрать top-k эмбеддингов.
- FP3 (Ограничения стратегии консолидации): Скрипт, сокращающий документы с учетом ограничений LLM, отбрасывает самые важные части.
Ошибки пользовательского опыта и форматирования
Даже верный ответ может ухудшить пользовательский опыт, если его трудно читать или он имеет неправильный формат. Основные точки отказа включают:
- FP5 (Неправильный формат): LLM не может следовать конкретному формату вывода, такому как JSON.
- FP6 (Неподходящий уровень детализации): LLM генерирует объемный вывод для простого вопроса да/нет или наоборот (слишком краткий ответ для сложного вопроса).
Стек оценки: фреймворки для устранения точек отказа
Метрики оценки разработаны для систематического смягчения этих точек отказа.
Этот раздел исследует основные метрики оценки RAG с практическими примерами.
Основные метрики оценки RAG:
- DeepEval
- RAGAS
- TruLens
- Arize Phoenix
- Braintrust
DeepEval – Юнит-тест перед развертыванием
DeepEval рассчитывает взвешенный балл на основе критериев.
LLM в качестве судьи (например, GPT-4o) оценивает вывод LLM по каждому критерию:

DeepEval использует G-eval, фреймворк цепочки рассуждений (CoT), который использует многоэтапный подход к оценке вывода:
- Определите критерий для измерения (например, “согласованность”, “беглость речи” или “релевантность”).
- Сгенерируйте шаги оценки (с использованием оценщика LLM).
- Следуйте шагам оценки и анализируйте входные и выходные данные LLM.
- Рассчитайте ожидаемую взвешенную сумму балла каждого критерия.
Типичный пример на практике
- Ситуация: Помощник технической документации (бот) для сложного программного продукта, кажется, работает каждый раз, когда команда инженеров обновляет кодовую базу.
- Проблема: Нет количественного доказательства того, что бот все еще может ответить на запрос пользователя (Вы просто “думаете”, что это работает…).
- Решение: Интегрируйте функцию PyTest в качестве регрессионного набора CI/CD в GitHub Actions, где DeepEval запускает
G-Evalи другие метрики над тестовым случаем:
- Ожидаемые результаты: Если любой балл метрик падает ниже порога (0,85), PyTest вызывает
AssertionError– немедленно прерывая сборку CI и не допуская незаметной регрессии в рабочую среду.
Преимущества и недостатки
- Разнообразие метрик (50+) включает специализированные проверки предвзятости и токсичности.
- Бесшовно интегрируется с существующими конвейерами CI/CD.
- Эталонный ответ не требуется. Оцените вывод только на основе запроса и предоставленного контекста.
- Качество оценки сильно зависит от возможностей судьи LLM.
- Высокие вычислительные затраты, если для оценки используется LLM высокого класса.
Примечание разработчика – Тестовый случай для DeepEval
НаборLLMTestCaseобъектов определяет тестовый случай, который запускает DeepEval.На практике этот тестовый случай должен содержать наиболее важные запросы пользователей и помеченные выходные данные с извлеченным контекстом.
Эти данные можно получить из файла JSON или CSV.
RAGAS – Оптимизатор поиска иголки в стоге сена
Retrieval Augmented Generation Assessment (Ragas) предназначен для оценки RAG без набора данных, размеченного людьми: вместо него создаются синтетические тестовые наборы.
Затем он вычисляет основные метрики:

Рисунок B. Триада оценки RAGAS, связывающая вопрос, контекст и ответ через метрики точности, полноты, верности источникам и релевантности (автор: Kuriko IWAI)
Основные метрики категоризированы в три группы:
- Конвейер поиска (черная сплошная линия, рисунок B): Точность контекста, полнота контекста.
- Конвейер генерации (черная пунктирная линия, рисунок B): Верность, релевантность ответа.
- Эталонные данные (красная рамка, рисунок B): Семантическое сходство ответа, правильность ответа.
Типичный пример на практике
- Ситуация: Система RAG для юридических контрактов пропускает ключевые положения. Вы не уверены, связан ли сбой с поиском (ретривером) или чтением (генератором).
- Проблема: Нет представления об оптимальном top-k (количество извлеченных фрагментов).
- Решение: Используйте RAGAS для создания синтетического тестового набора с 100 парами вопросов и доказательств. Затем запустите конвейер RAG на тестовом наборе, чтобы рассчитать полноту контекста и точность контекста:
- Ожидаемый результат: В зависимости от результатов метрик, план действий может быть следующим:
| Метрика | Балл | Диагноз | План действий |
| Полнота контекста | Низкий | Извлекатель пропустил правильную информацию. | – Увеличьте top-k. – Попробуйте гибридный поиск (BM25 + Вектор). |
| Точность контекста | Низкий | Top-k фрагментов содержат слишком много лишней информации и шума, которые сбивают LLM с толку. | – Уменьшите top-k – Реализуйте Реранкер (например, Cohere). |
| Верность | Низкий | Генератор галлюцинирует, несмотря на наличие данных. | – Откорректируйте системный запрос. – Проверьте ограничения контекстного окна. |
Таблица 1. Диагностический план действий RAGAS – отображение баллов на корректировки системы.
Преимущества и недостатки
- Отлично подходит для проекта на ранней стадии без эталонного набора данных (Как мы видели в фрагменте кода, RAGAS может создать синтетический тестовый набор).
- Синтетический тестовый набор может пропустить тонкие фактические ошибки.
- Требуется надежная модель извлечения утверждений, чтобы разбить ответы на отдельные утверждения (Я использовал
gpt-4oв примере).
TruLens – Специалист по обратной связи
TruLens фокусируется на внутренней механике процесса RAG, а не только на конечном выходе, используя функции обратной связи.
Он также использует оценку LLM, отражающую, насколько хорошо ответ удовлетворяет намерению запроса, используя 4-балльную шкалу Лайкерта (0-3), что делает его превосходным для ранжирования качества различных результатов поиска.
Типичный пример на практике
- Ситуация: Бот-медицинский советник отвечает на вопрос пользователя правильно, но добавляет совет, которого нет в базе проверенных PDF-документов.
- Проблема: Дополнительный совет может быть полезным, но не подтвержденным этими источниками.
- Решение: Используйте TruLens, чтобы реализовать функцию обратной связи по обоснованности с порогом, таким как
score > 0.8.
- Ожидаемые результаты: Когда LLM генерирует ответ, содержащий информацию, не присутствующую в извлеченных фрагментах, TruLens помечает запись на панели управления.
Преимущества и недостатки
- Визуализирует цепочку рассуждений, чтобы определить точно, где агент сошел с пути.
- Предоставляет встроенную поддержку проверки опоры на источники, чтобы выявлять галлюцинации в режиме реального времени.
- Кривая обучения для определения пользовательских функций обратной связи.
- Панель управления может показаться тяжелой для простых скриптов.
Arize Phoenix – Карта сбоев
Arize Phoenix – это инструмент с открытым исходным кодом для наблюдаемости и оценки, разработанный для оценки выходных данных LLM, включая сложные системы RAG.
Разработанный на OpenTelemetry компанией Arize AI, он фокусируется на наблюдаемости, рассматривая оценку LLM как подмножину MLOps.
В контексте оценки RAG Phoenix особенно эффективен в анализе эмбеддингов, используя Uniform Manifold Approximation and Projection (UMAP), чтобы уменьшить многомерные векторные эмбеддинги до 2D/3D-пространства.
Этот анализ эмбеддингов математически показывает, образуют ли неудачные запросы семантическую группу, что указывает на пробел в векторной базе данных.
Типичный пример на практике
- Ситуация: Бот поддержки клиентов хорошо справляется с возвратами, но бессмысленно отвечает на гарантийные обращения.
- Проблема: Пробел в данных векторной базы (в журналах его не найти).
- Решение: Используйте Arize Phoenix, чтобы сгенерировать визуализацию эмбеддингов UMAP (UEV), 3D-карту для векторного хранилища – чтобы наложить запросы пользователей на фрагменты документов.
- Ожидаемые результаты: Визуально обнаруживается группа пользовательских запросов в темной зоне без документов: это указывает на документы, которые забыли загрузить в векторное хранилище.
Преимущества и недостатки
- Нативная поддержка OpenTelemetry; интегрируется с существующими корпоративными стеками мониторинга.
- Лучший инструмент для визуализации слепых зон векторного хранилища.
- Менее сосредоточен на баллах, больше на наблюдаемости.
- Может быть чрезмерным для небольших приложений или инструментов с одним агентом.
Braintrust – Защита от регрессии промптов
Braintrust разработан для высокочастотных циклов итераций, используя сравнение между моделями.
Типичный пример на практике
- Ситуация: Команда инженеров обновляет запрос с “Ответьте на вопрос” (Случай А) до более сложного системного указания из 500 слов (Случай Б).
- Проблема: Улучшение запроса для Случая Б может случайно сломать Случай А.
- Решение: Используйте Braintrust, чтобы создать эталонный набор данных с набором N идеальных примеров (например,
N = 50). Дайте Braintrust запустить сравнение бок о бок (SxS) каждый раз, когда команда обновляет одно слово в запросе:
- Ожидаемый результат: Отчет о различиях показывает, какие из всех N = 50 эталонных примеров улучшились или ухудшились.
Преимущества и недостатки
- Обеспечивает очень быстрое тестирование перед развертыванием.
- Удобный интерфейс, в котором участники без технической подготовки могут просматривать и оценивать результаты.
- Проприетарный/ориентированный на SaaS (хотя у них есть компоненты с открытым исходным кодом).
- Меньше встроенных углубленных технических метрик по сравнению с DeepEval или RAGAS.
Заключение
При использовании подходящих фреймворков оценки RAG может быть конкурентным инструментом для предоставления LLM контекста, наиболее релевантного для запроса пользователя.
Стратегия реализации: отображение метрик на точки отказа
Хотя нет универсального решения, Таблица 2 показывает, какие метрики оценки применять для каждой точки отказа, рассмотренной в этой статье:
| Точка отказа | Фреймворк оценки | Функция для использования |
| FP1: Отсутствие контента | RAGAS | Верность / Правильность ответа |
| FP2: Нужный документ не попал в верхние позиции | TruLens | Полнота контекста / Точность |
| FP3: Консолидация | Arize Phoenix | Слежение за извлечением и анализ задержки |
| FP4: Не извлечено | DeepEval | Верность / Контекстная полнота |
| FP5: Неправильный формат | DeepEval | G-Eval (Настраиваемые критерии оценки) |
| FP6: Неподходящий уровень детализации | Braintrust | Ручная оценка и оценка бок о бок |
| FP7: Неполные | RAGAS | Релевантность ответа |
Таблица 2. Матрица смягчения точки отказа – какой инструмент решает какую точку отказа?
DeepEval и RAGAS могут использовать свои метрики верности для измерения нарушений целостности данных (FP1, FP4, FP7).
TruLens использует свою точность контекста / полноту для измерения релевантности контекста к выходным данным – эффективно оценивая FP2.
Arize Phoenix предоставляет визуальный след процесса извлечения, позволяя легко увидеть, был ли найденный документ потерян при консолидации (FP3).
Для ошибок пользовательского опыта DeepEval создает настраиваемые метрики для оценки ошибок пользовательского опыта, в то время как Braintrust особенно эффективен в сравнении эталонных наборов данных.












