RAG 技术（面试八股文 · 模块三）

原理​

保证块内主题一致；检索命中时可返回 完整小节。​

​

​

3.5 滑动窗口分块​

概念解释​

以窗口长度 (W) 和步长 (S)（(S < W)）滑动切分，相邻窗口重叠 (W-S)。​

原理​

减少边界信息丢失；代价是 存储膨胀 与 冗余检索，常配合去重或 MMR。​

​

​

3.6 chunk_size 与 chunk_overlap 选择策略​

经验法则（需实测）​

•

chunk_size：应覆盖 完整命题（一条规定、一个步骤），常见几百到一两千 token 量级；太小上下文不足，太大噪声多。​

•

chunk_overlap：通常为 size 的 10%–20%，避免切断关键句；overlap 越大，索引越大。​

•

以评估为准：同一数据集扫网格，看 召回率与答案质量。​

面试 Q8：分块太大或太小分别会怎样？​

标准答案 A： 太小 → 语义不完整、检索片段缺主语或条件；太大 → 混入无关内容、噪声干扰生成、embedding 语义模糊、费用上升。​

​

​

3.7 父子文档分块（Parent-Child Chunking）​

概念解释​

子块（小，用于检索embedding）+ 父块（大，用于喂给 LLM），检索命中子块后取回其父块全文。​

原理​

兼顾 检索精度（细粒度匹配）与 生成上下文完整性（父块提供更多句子）。​

面试 Q8a：父子块在向量库里怎么建索引？​

标准答案 A： 仅对 子块 写入向量与 child_id；元数据中存 parent_id 与父块全文或父块存储路径。检索命中子块后，用 parent_id 取父块 拼进 Prompt。若父块过长，可对父块再 摘要 后送入。​

代码示例：父子块数据结构（最小示意）​

​

代码块​

Python

from dataclasses import dataclass​

from typing import List​

​

@dataclass​

class ParentChunk:​

parent_id: str​

text: str​

children: List["ChildChunk"]​

​

​

3.8 代码示例：LangChain 各种 TextSplitter​

需安装：pip install langchain langchain-text-splitters​

​

代码块​

Python

from langchain_text_splitters import (​

CharacterTextSplitter,​

RecursiveCharacterTextSplitter,​

MarkdownHeaderTextSplitter,​

)​

​

追问应对​

•

问：为什么生产常用 Recursive 而不是 Fixed？​

答： Recursive 尽量在 自然边界 断开，减少半句半段，提高检索与阅读连贯性。​

​

​

向量化（Embedding）​

4.1 什么是文本嵌入（Embedding）​

概念解释​

Embedding 把离散文本映射为 固定维度的稠密向量，语义相近的文本在向量空间中 距离更近（常用余弦相似度或内积）。​

原理详解​

训练目标多为 对比学习：同义句拉近、无关句推远。下游用向量近似 语义检索。​

​

​

4.2 常用 Embedding 模型​

​

​

4.3 Embedding 模型选型标准​

语言与领域：中文优先中文强化模型；医疗/法律可看领域微调版。​

序列长度：长文档需更长上下文 embedding 或先分段再聚合。​

许可证与部署：云端 API vs 私有化。​

与重排/生成模型一致性：有时同一厂商链路更省心（非必须）。​

​

​

4.4 维度、速度、效果的权衡​

•

维度高：通常表达能力更强，但索引更大、ANN 更慢。​

•

速度：批量推理、GPU、量化（INT8）可加速。​

•

效果：以 检索召回@K 与 端到端问答 为准。​

面试 Q9：同一个 Embedding 用于中英文混合文档要注意什么？​

标准答案 A： 选 多语言模型 或分别建索引；单语模型可能导致跨语言语义空间不一致。混合检索（BM25）可补关键词。​

代码示例：sentence-transformers（本地 BGE）​

​

代码块​

Python

# pip install sentence-transformers​

from sentence_transformers import SentenceTransformer​

​

model = SentenceTransformer("BAAI/bge-large-zh-v1.5")​

sentences = ["RAG 检索增强生成", "大模型需要外部知识库"]​

emb = model.encode(sentences, normalize_embeddings=True) # 归一化后余弦=点积​

print(emb.shape) # (2, dim)​

​

向量数据库​

5.1 什么是向量数据库​

概念解释​

面向 高维向量 的存储与 近似最近邻（ANN） 查询系统，支持 insert/delete/query，常附带元数据过滤（时间、租户、标签）。​

原理​

暴力精确检索在高维下不可行；用 ANN 算法 换 略微精度 换 数量级加速。​

​

​

5.2 主流选型对比​

​

​

面试 Q10：FAISS 和 Milvus 本质区别？​

标准答案 A： FAISS 是 ANN 算法库，需自建存储、服务、容灾；Milvus 是 向量数据库系统，提供分布式存储、运维能力与数据管理接口。​

5.3 ANN 算法：HNSW、IVF、PQ​

•

HNSW（分层导航小世界图）：图索引，查询延迟低，内存占用偏高；高召回常用。​

•

IVF（倒排文件）：聚类划分桶，查询只搜部分桶；需训练，适合大规模。​

•

PQ（乘积量化）：向量压缩，省内存、加速距离计算；有损，精度略降。​

面试 Q5a：HNSW 与 IVF 如何取舍？​

标准答案 A： 数据量 中等、追求低延迟高召回、内存可接受时优先 HNSW；数据量 极大、内存紧张、可接受离线训练与调参时考虑 IVF（常与 PQ 组合）。实际要在 召回率、QPS、内存、建索引时间 上做压测。​

追问应对​

•

问：efSearch 调大有什么效果？​

答： HNSW 查询时访问更多邻居，召回上升、延迟上升；需在精度与 SLA 间折中。​

​

​

5.4 索引选择策略​

数据量小、要简单：HNSW + 精确参数调优。​

数据量大、内存紧：IVF + PQ 组合（如 IVF_PQ）。​

要磁盘级大规模：DiskANN 类方案（视产品支持）。​

强过滤：选对 元数据索引友好 的实现（Qdrant、Milvus 过滤能力强）。​

代码示例：FAISS + sentence-transformers（最小示例）​

​

代码块​

Python

import faiss​

import numpy as np​

from sentence_transformers import SentenceTransformer​

​

model = SentenceTransformer("BAAI/bge-small-zh-v1.5")​

texts = ["条款A", "条款B", "无关内容C"]​

​

检索策略​

6.1 向量检索（语义相似度）​

概念解释​

Query 与文档块 embedding 后做 Top-K 最近邻。​

短板​

专有名词、型号、编号等 精确匹配 不如关键词检索。​

​

​

6.2 关键词检索（BM25）​

概念解释​

BM25 是经典 词频-逆文档频率 加权排序函数，擅长 精确词匹配。​

​

​

6.3 混合检索（Hybrid Search）​

概念解释​

BM25 分数 + 向量分数 线性加权或归一化后融合，兼顾语义与字面。​

代码思路（概念）​

​

代码块​

Python

def min_max_norm(scores):​

s_min, s_max = min(scores), max(scores)​

if s_max == s_min:​

return [1.0 for _ in scores]​

​

6.4 多路检索与结果融合（RRF）​

概念解释​

RRF（Reciprocal Rank Fusion）：不依赖原始分数尺度，把多路检索的 排名 融合：​

(\text{RRF}(d) = \sum_r \frac{1}{k + \text{rank}_r(d)})，常取 (k=60)。​

原理​

各路检索分数不可比时，RRF 更稳健。​

面试 Q11：为什么混合检索比单路向量更有效？​

标准答案 A： 向量捕获语义，但可能漏掉 专有名词与编号；BM25 补精确匹配。二者融合提高鲁棒性，尤其在技术文档与电商场景。​

面试 Q11a：RRF 与加权分数融合各适合什么？​

标准答案 A： 当两路分数 量纲一致或已可靠归一化 时，加权融合直观可调；当一路是 排名、一路是 概率、或分数 不可比 时，RRF 更稳，且少调参（经典 (k=60)）。​

代码示例：RRF 多路排名融合​

​

代码块​

Python

from typing import Dict, List, Sequence​

​

def rrf_fuse(​

ranked_lists: Sequence[Sequence[str]],​

k: int = 60,​

) -> List[tuple[str, float]]:​

"""ranked_lists: 多路检索结果，每路为 doc_id 从优到劣的列表。"""​

scores: Dict[str, float] = {}​

for ranks in ranked_lists:​

for rank, doc_id in enumerate(ranks, start=1):​

scores[doc_id] = scores.get(doc_id, 0.0) + 1.0 / (k + rank)​

return sorted(scores.items(), key=lambda x: x[1], reverse=True)​

​

​

6.5 查询改写（Query Rewriting）​

概念解释​

把用户原始问句改写成 更易被检索匹配 的形式，或生成 多条查询变体 做多路召回。​

原理详解​

口语与文档书面语不一致（「咋办」vs「处理流程」）；改写可 对齐术语。可用规则、同义词表，或用 LLM 生成「检索专用 Query」。​

策略​

•

同义扩展、拆问句、补全主语​

•

用 LLM 生成 检索友好 的 query 变体多条，多路检索再融合​

面试 Q11b：查询改写会不会引入噪声？​

标准答案 A： 会。LLM 可能 篡改实体 或 添加未提及条件。对策：多路检索 + RRF、重排、引用校验，高敏场景用 人工词表 + 模板 优先。​

追问应对​

•

问：需要保留原 Query 吗？​

答： 需要。常 原句 + 改写句 同时检索再融合，避免改写跑偏。​

​

​

6.6 HyDE（假设文档嵌入）​

概念解释​

让 LLM 先写 假想的答案文档（可能含错），再对假想文档做 embedding 去检索。​

原理​

拉近查询与文档在向量空间的距离，缓解 查询与文档表述风格不一致。​

风险​

假想文档可能引入错误主题，需 重排与引用校验。​

​

​

6.7 子问题分解​

概念解释​

对 多跳、多条件 问题，先由 LLM 或规则拆成 子问题序列，对每个子问题检索，再 拼接或图式合并 证据。​

原理详解​

单句 embedding 难以覆盖「先 A 再 B」的复合语义；分解后每步检索更 聚焦，类似 多步检索增强。​

面试 Q11c：子问题分解的典型失败模式？​

标准答案 A： 分解错误（实体指代错）、子问题遗漏约束、或 合并时矛盾未检测。需要 一致性检查 与 重排 过滤无关块。​

追问应对​

•

问：和 Agent 多步检索有什么区别？​

答： 子问题分解可以是 固定模板/一次 LLM 调用；Agentic 更强调 动态决定是否再检索，工具边界更宽。​

​

​

6.8 Step-back Prompting​

概念解释​

先让模型生成 更抽象的后退一步的问题（背景原理），再并行检索「具体问题 + 抽象问题」，合并上下文。​

原理​

补充 背景知识，减少只抓到细枝末节的可能。​

面试 Q12：HyDE 适合什么场景？不适合什么？​

标准答案 A： 适合 表述差距大、短查询难对齐长文档；不适合 强事实约束 且模型易胡编的领域，除非加强校验与拒答。​

面试 Q12a：Step-back Prompting 与 HyDE 有何异同？​

标准答案 A： 二者都试图 拉近查询与文档的语义距离。HyDE 用 假想答案文档 做 embedding；Step-back 用 更抽象的问题 再检索 原理/背景类 段落。HyDE 更激进（易引入虚构事实），Step-back 相对 克制（仍停留在问题空间）。实践中可 并行检索 后由重排裁决。​

代码示例：Step-back（两次检索拼上下文，示意）​

​

代码块​

Python

​

重排序（Reranking）​

7.1 为什么需要重排序​

概念解释​

向量检索（Bi-Encoder）为速度对 query-doc 独立编码，交互信息不足；Cross-Encoder 把 query 与 doc 拼在一起 打分，精度更高但慢，故放在 Top-K 之后做小范围重排。​

​

​

7.2 Cross-Encoder vs Bi-Encoder​

​

​

7.3 常用重排序模型​

•

Cohere Rerank API​

•

BGE Reranker（如 bge-reranker-large）开源可本地部署​

​

​

7.4 MMR（最大边际相关性）​

概念解释​

在相关性与 多样性 间权衡，避免 Top-K 几乎重复的段落：迭代选择与 query 相关、但与已选集合 冗余度低 的文档。​

原理简述​

设已选集合 (S)，候选 (d)，MMR 常写作：​

(\text{MMR} = \arg\max_d [\lambda \cdot \text{sim}(q,d) - (1-\lambda)\cdot \max_{s\in S}\text{sim}(d,s)])。​

(\lambda) 大则偏 相关，小则偏 多样。​

面试 Q13：重排放在检索后哪一步？​

标准答案 A： 一般在 召回 Top-K（几十到几百）→ Cross-Encoder 精排取 Top-N（3–10）→ 再生成，平衡延迟与效果。​

代码示例：MMR 贪心选择（向量已归一化时 sim 可用点积）​

​

代码块​

Python

import numpy as np​

​

def mmr_select(query_vec: np.ndarray, doc_vecs: np.ndarray, top_k: int, lambda_mult: float = 0.5):​

​

代码示例：CrossEncoder 重排（sentence-transformers）​

​

代码块​

Python

from sentence_transformers import CrossEncoder​

​

cross = CrossEncoder("BAAI/bge-reranker-base")​

query = "员工年假天数"​

docs = ["本公司年假为15天...", "报销应提交发票原件..."]​

pairs = [[query, d] for d in docs]​

scores = cross.predict(pairs)​

ranked = sorted(zip(scores, docs), key=lambda x: x[0], reverse=True)​

print(ranked)​

​

RAG 高级模式​

8.1 GraphRAG（基于知识图谱的 RAG）​

概念解释​

从文本抽取 实体与关系 构建图，检索时沿 子图 或 社区摘要 获取证据，适合 多跳关系 与 全局问题（「整体主题是什么」）。​

对比普通 RAG​

普通向量 RAG 擅 局部相似块；GraphRAG 强化 关系推理与全局聚合（微软 GraphRAG 等工作）。​

​

​

8.2 Agentic RAG（Agent 驱动的 RAG）​

概念解释​

由 Agent 决定何时检索、检索什么、是否再检索，可调用 多工具（搜索、数据库、代码执行）。​

原理​

把 RAG 从「一次检索」变为 多步决策循环，适合复杂任务。​

​

​

8.3 Self-RAG（自我反思的 RAG）​

概念解释​

模型在生成过程中插入 反思 token：是否需要检索、检索内容是否有用、生成是否支持等，形成 自我批评与修正 循环。​

​

​

8.4 Corrective RAG（纠正性 RAG）​

概念解释​

当检索质量 不达标 时，触发 额外检索（如网页搜索）或 改写查询，纠正证据不足。​

​

​

8.5 Adaptive RAG​

概念解释​

按问题类型 路由 到不同链路：有的只需单跳向量检索，有的需多跳或工具，避免 过度检索 浪费成本。​

原理详解​

常见实现：用 轻量分类器 或 小模型 判断「需不需要检索 / 需要 SQL 还是文档 / 是否需要多跳」，再 分发 到不同子管道；与 Agentic RAG 的边界在于：Adaptive 强调 路由策略，Agentic 强调 循环决策与工具调用。​

面试 Q14：GraphRAG 的成本与挑战？​

标准答案 A： 构图与抽取 成本高、抽取错误会污染图；运维复杂。适合关系密集、愿意投入工程化的场景。​

面试 Q14a：Agentic RAG 与 Self-RAG 有什么共同点？​

标准答案 A： 都引入 多步决策与反思；区别在于 Agentic 常外显为 工具调用与规划，Self-RAG 用 反思 token/标签 把「要不要检索、证据是否支持」内嵌在生成格式中，更偏 训练与解码策略。​

面试 Q14b：Corrective RAG 典型触发信号？​

标准答案 A： 检索置信度低（Top1 与 Top2 差距小）、检索结果与问题实体不一致、重排后仍低分、或 生成与引用冲突（可做一致性检测）。触发后执行 查询改写、换索引源、或联网搜索。​

面试 Q14c：Adaptive RAG 如何避免路由误判？​

标准答案 A： 混合路由（并行短路与完整链路）、置信度阈值 + 默认安全策略（不确定则走更强检索）、持续用 线上反馈 迭代分类器。​

追问应对​

•

问：小公司是否值得上 GraphRAG？​

答： 若数据以 说明文、FAQ 为主，向量 RAG + 混合检索 + 重排 通常足够；图适合 关系问题占比高 且团队有 图谱与评测 能力时再投入。​

​

​

RAG 评估​

9.1 评估指标：忠实度、相关性、答案正确性​

•

忠实度（Faithfulness）：答案是否可由检索上下文推出，不编造。​

•

上下文相关性（Context Relevance）：检索块与问题是否相关。​

•

答案正确性 / 有用性：是否真正解决问题（可用人工或强模型裁判）。​

​

​

9.2 RAGAS 框架​

概念解释​

RAGAS 提供一组 基于 LLM 的指标（如 faithfulness、answer relevancy、context precision/recall），自动化评估 RAG 管道。​

使用注意​

裁判模型本身有偏差，应 抽样人工复核。​

​

​

9.3 评估数据集构建​

从真实日志 脱敏 抽样问题​

标注 标准答案 或 支持文档 ID​

覆盖 简单事实、多跳、拒答、无答案 等类型​

面试 Q15：为什么说「只看最终答案对错」不够？​

标准答案 A： 可能 猜对 或 上下文不相关仍生成；需同时评 检索质量 与 忠实度，定位瓶颈在检索还是生成。​

代码示例：RAGAS 最小调用形态（示意）​

​

代码块​

Python

# pip install ragas datasets​

# 以下为结构示意，版本差异请以官方文档为准​

from ragas import evaluate​

​

RAG 生产优化​

10.1 索引优化​

•

选择合适的 ANN 参数（HNSW 的 M、efConstruction、efSearch）​

•

分段分区（按租户、时间、产品线）减少搜索空间​

•

定期重建 vs 增量插入 权衡​

​

​

10.2 缓存策略​

•

Query 级缓存：相同问题直接返回答案（注意权限与 TTL）​

•

Embedding 缓存：热门 query 的向量​

•

LLM 响应缓存：对低敏场景可缩短延迟​

​

​

10.3 增量更新​

•

文档变更 版本化；删除旧向量 按 doc_id​

•

大批量用 离线任务 重建分区索引，小批量 实时 upsert​

​

​

10.4 多租户设计​

•

逻辑隔离：tenant_id 元数据强制过滤​

•

物理隔离：大客户独立集群或命名空间​

•

配额与限流：按租户限制 QPS 与存储​

​

​

10.5 Token 成本控制​

•

控制 检索条数与块长度​

•

选用 更小上下文模型 做摘要与路由​

•

压缩检索结果（抽取句子级证据再喂给主模型）​

面试 Q16：多租户下最常见的安全事故是什么？​

标准答案 A： 检索 未带租户过滤 导致 跨租户数据泄露；必须在数据库层与查询层 双重校验。​

​

​

综合面试题库（20+ 题）​

​

下列每题均可作为「概念 + 落地」题；追问应对 见各节括号提示。​

​

Q1：简述 RAG 两步流水线（离线与在线）。​

A： 离线：解析→清洗→分块→嵌入→建索引；在线：Query（可选改写）→检索→（可选重排）→拼 Prompt→生成。追问：增量更新怎么做？（见 10.3）​

Q2：RAG 与微调如何配合？​

A： 微调改善 格式与领域表达，RAG 提供 可更新事实；事实类优先 RAG。追问：何时单独微调？（数据稳定且任务行为化）​

Q3：为什么需要 chunk_overlap？​

A： 防止关键句被切断在两块边界，检索时丢上下文；代价是存储增加。​

Q4：RecursiveCharacterTextSplitter 的分隔符顺序为什么重要？​

A： 优先在更大语义单元（段落）断开，再退到句子、空格，减少碎片化。​

Q5：语义分块比递归分块更好吗？​

A： 不一定；语义分块成本高、阈值敏感。应用数据 A/B 测试。​

Q6：父子文档如何存储？​

A： 子块带 parent_id，检索子块→映射父块文本再生成。​

Q7：Embedding 是否需要归一化？​

A： 若用 内积/余弦 且框架假设归一化向量，应归一化以稳定相似度。​

Q8：FAISS IndexFlatIP 与 IndexHNSW 区别？​

A： Flat 精确但慢；HNSW 近似快，适合大规模。​

Q9：混合检索权重 alpha 怎么定？​

A： 验证集网格搜索；或 RRF 避免调权。​

Q10：RRF 为什么鲁棒？​

A： 只用排名融合，规避不同路分数尺度问题。​

Q11：HyDE 的风险如何缓解？​

A： 重排序、引用约束、拒答、对比多条检索结果。​

Q12：BM25 在中文要不要分词？​

A： 依赖引擎；中文常需 分词或 n-gram，否则粒度不当影响效果。​

Q13：Cross-Encoder 为何不能替代向量索引？​

A： 需对 每个 doc 与 query 运行，复杂度高，无法对百万级全库实时扫描。​

Q14：MMR 的 lambda 参数含义？​

A： 调节 相关性 vs 多样性；lambda 大更偏相关。​

Q15：GraphRAG 解决普通 RAG 的什么痛点？​

A： 多跳关系与部分 全局聚合类 问题。​

Q16：Agentic RAG 与一次性 RAG 差异？​

A： 多步工具决策与再检索，更灵活更高成本。​

Q17：Self-RAG 核心思想？​

A： 生成中 自我评估 是否需要检索与证据是否充分。​

Q18：Corrective RAG 触发条件？​

A： 检索置信度低或证据矛盾时 改查或换源。​

Q19：RAGAS 的局限？​

A： 依赖裁判模型，可能有 偏好与盲区。​

Q20：如何做低成本在线评估？​

A： 采样 + 用户反馈（点赞/纠错）+ 弱监督信号（是否点击引用）。​

Q21：索引频繁更新如何保持一致性？​

A： 版本号、双写切换、后台重建与灰度；读写分离。​

Q22：如何防止 Prompt 注入污染 RAG？​

A： 文档清洗、权限隔离、输出引用限制、检测异常指令模式。​

Q23：长上下文模型出现后 RAG 会消失吗？​

A： 不会；私域数据规模与成本、检索聚焦证据、合规审计仍需要 RAG 范式。​

Q24：多模态 RAG 要点？​

A： 图像/表格编码、跨模态对齐、与文本混合索引与路由。​

​

​

附录：LangChain 向量存储检索（LCEL 示意）​

​

代码块​

Python

# pip install langchain langchain-openai langchain-community faiss-cpu​

from langchain_community.vectorstores import FAISS​

from langchain_openai import OpenAIEmbeddings​

​

小结​

RAG 的本质是 用检索把「可更新证据」接到生成模型上；落地胜负手常在 解析与分块、混合检索、重排、评估与多租户安全。建议你在简历项目里准备 一条可量化指标（如：Top-5 召回提升、成本下降比例）与 一次失败案例分析（检索错还是生成胡编），面试会非常有说服力。​