第8章 让 AI 查资料：知识库问答与检索增强生成

本章导读

第7章已经说明，AI 在信息不足时可能生成流畅但缺少事实依据的回答。沿用一个校园服务场景：如果直接询问“本校食堂三楼有什么招牌菜”，模型可能按常见食堂菜单补全一段听起来合理、但与真实情况不符的回答。问题在于，AI 没有本校实时资料，但它并不一定主动说明不知道。“流畅 ≠ 正确，证据链才是底线”，这是第7章的核心结论。

本章要把这条底线变成工程能力：给 AI 接入一份真实资料，让系统先检索资料，再让模型围绕证据回答。这套工程方法叫检索增强生成（retrieval-augmented generation, RAG），是当前知识库问答、智能客服和专业资料问答中常见的重要方案。读完本章后，你要能做到三件事：

1. 理解机制：用一句话讲清楚 RAG 的检索 → 拼接 → 生成三步，并说出每一步分别在防什么。
2. 完成实践：搭一个最小 RAG 系统，用对照实验记录它对第7章那些无依据生成问题的改善与残留风险。
3. 做工程决策：面对一个知识需要更新的业务需求，能基于四维决策矩阵在 RAG、微调和二者结合之间做出有依据的选型。

《荀子》说：君子生非异也，善假于物也。 会借助工具，不是把判断交出去，而是知道何时查资料、怎样引用证据、如何回到原文核对。

学习目标

• 知识目标：
  1. 能用自己的话解释检索增强生成（RAG）的工作机制，以及它和微调（fine-tuning）在知识更新路径上的本质区别。
  2. 能解释向量嵌入（embedding）、分块（chunking）、召回（recall）和引用出处四个概念，并说明它们各自影响 RAG 系统哪一环的质量。
• 能力目标：
  1. 能搭建或运行一个最小 RAG 系统，并通过对照实验记录 RAG 对无依据生成、虚假引用和拒答能力的影响。
  2. 能基于知识更新频率、可追溯要求、数据成熟度、算力预算四维矩阵，在 RAG 与微调之间做出有依据的选型。
• 素养目标：
  1. 建立回答必须可追溯的工程底线——把第7章证据链原则真正落到系统层面。
  2. 能识别知识库的来源、版权、隐私和版本风险，主动设计审查与更新机制。

先修要求与环境清单

• 先修知识：已完成第7章；理解“流畅 ≠ 正确”“注意力是稀缺资源”“中间迷失”三条性质。
• 软件环境：
  • 课程统一配置的本地大模型服务（课程环境已预置；使用课程指定的合规模型）。
  • 文本编辑工具。
  • 配套 Notebook 拓展环境（仅在本章拓展任务中作为可选辅助）。
• 配套资源：
  • 迷你知识库（食堂菜单 / 图书馆制度 / 社团章程三套样例，每套约 10 段）。
  • 配套 Notebook：notebooks/ch08_rag_qa.ipynb，含检索开关、对照实验提问清单、引用核查模板。
  • 拓展脚本：scripts_optional/ch08/minimal_rag.py（拓展任务用）。

知识准备：先认识这些词

1. 知识库（knowledge base）
   • 一句话说明：预先准备好的、AI 在回答之前可查阅的资料合集。
   • 工程要点：质量决定上限。不合格知识库 + 强模型 = 不可靠回答；不要试图用 RAG 弥补不合格资料。
2. 检索（retrieval）
   • 一句话说明：AI 回答前先到知识库找出最相关的几段内容。
   • 关键性质：检索的召回率（recall）会影响回答下限。真正相关的内容如果没有被找回来，模型能力再强也难以准确回答。
3. Top-K
   • 一句话说明：从检索结果中取相关性排名前 K 的资料片段。
   • 工程要点：K 太小容易漏召回，K 太大容易引入噪声；K 的设置要通过测试集观察。
4. 分块（chunking）
   • 一句话说明：把长文档切成若干段（chunk），方便检索时精准定位。
   • 工程要点：太大 → 噪声多；太小 → 上下文断裂。课程样例可采用 200~500 字一块，并在相邻块之间留一点重叠（overlap）避免在切口处丢信息；真实项目需根据资料结构和测试结果调整。
5. 向量嵌入（embedding）
   • 一句话说明：把一段文字转成一个数值向量，让意思相近的文字在数学空间里彼此靠近。
   • 直观解释：相当于把每段文字按语义放到一张地图上的某个位置——食堂菜单和伙食价格在地图上是邻居，图书馆制度则在另一个区域。
   • 应用价值：让 AI 能按意思检索，不必依赖关键词完全匹配。
6. 检索增强生成（retrieval-augmented generation, RAG）
   • 一句话说明：让 AI 先查资料、再回答的工程方法。
   • 关键区别：AI 自身参数没有变化，只是回答之前多了一步检索资料。
7. 微调（fine-tuning）
   • 一句话说明：用一批领域专属数据重新调整模型内部参数，从而改变其风格或能力。
   • 关键限制：数据准备、训练和评测成本较高；面对高频更新的事实知识时，维护压力通常更大。
8. 引用出处（citation）
   • 一句话说明：AI 对关键信息标明来自资料的哪一段。
   • 关键价值：把回答的可信从主观感觉转为可独立核验的工程指标，但仍需人工核查引用是否真实。
9. 可追溯性（traceability）
   • 一句话说明：模型输出的每一个关键结论都必须能提供明确的来源出处。
   • 工程要点：在严肃业务场景里，能够追溯的回答比看上去对的回答更有价值。

8.1 问题与现象：从参数记忆到基于资料回答

8.1.1 校园菜单问答案例

假设小李询问 AI：本校食堂三楼有什么招牌菜？如果没有提供真实菜单，AI 可能生成一套听起来合理的菜品清单；但真实情况可能是三楼主要提供面食。

现在我们换一种问法。这次小李在问之前，先贴了一份真实的食堂菜单：

【迷你知识库片段】
食堂一楼：早餐窗口，包子 2 元 / 豆浆 1.5 元 / 茶叶蛋 1.5 元……
食堂二楼：套餐窗口，三菜一汤 12 元……
食堂三楼：面食专区，牛肉面 10 元 / 麻辣烫 8 元 / 拉条子 9 元……

然后他提问：

请根据上面这段菜单回答：本校食堂三楼有什么招牌菜？每一项都要注明来自菜单的哪一行。

AI 的回答完全变了：

根据您提供的菜单，食堂三楼是面食专区，主要有：牛肉面（10 元）、麻辣烫（8 元）、拉条子（9 元）。【来源：第 3 行】

差别在哪里？AI 还是同一个 AI，模型参数没有变化。变化在于：回答之前，它获得了真实菜单。在真正的 RAG 系统中，这一步由检索器自动完成：系统先从知识库里找出相关菜单片段，再让模型基于片段回答。这就是 RAG 在做的事：用“先找资料、再回答”的工程动作降低第7章所说的补全风险。

8.1.2 这件事在工业界的位置

许多智能客服、企业知识库问答、专业搜索助手都会采用 RAG 或类似的检索增强方法。它的价值不只是可能答得更准确，更关键的是：

• 可更新：明天政策变了，换一份知识库就行，不用重新训练模型。
• 可追溯：每条回答都能查回到原文，出错可以追责。
• 成本相对可控：通常不需要重新训练大模型，先更新知识库就能处理一部分事实更新需求。

这三条性质合起来，使 RAG 成为许多知识库问答应用的重要方案之一。

【思考 1】 有人问：既然现在不少大模型支持较长的上下文窗口，把整份《校园服务手册》PDF 一次性粘贴进对话框，不就是最简单的“让 AI 查资料再回答”吗？为什么还要专门建立一套 RAG？ 请你用第7章学过的至少两个机制回答他。

思考提示：① 注意力是稀缺资源（7.2.1）——全粘进去会让关键句子被无关信息稀释；② 中间迷失（7.2.4）——最关键的条款经常位于中段，更容易被漏掉；③ 长上下文会带来延迟、成本和遗漏风险。RAG 只取最相关几段，正好降低这三类风险。

8.2 原理与分析：RAG 是怎么工作的？

相关结构如图8-1 所示。

8.2.1 RAG 三步走

第一步：检索（retrieval）——用户提了问题之后，系统去知识库找最相关的 K 段内容。本章样例可取 K = 2~3；真实系统常通过测试集调整 K 值。

第二步：拼接（augmentation）——把这 K 段资料和用户的问题一起组装成新提示词：

请仅根据下面这段资料回答用户问题，禁止使用资料以外的信息。
回答时请在每个关键信息后注明来自第几段。

【资料】
[段落 1] ...
[段落 2] ...
[段落 3] ...

【问题】食堂三楼有什么主食？

第三步：生成（generation）——把拼接好的提示词发给模型，让它只依据资料生成答案并标注出处。

注意一个关键点：整个过程中模型的参数没有任何变化。RAG 是外部检索增强，不是模型参数改造。

8.2.2 向量检索的直观图景

最朴素的检索是关键词匹配——你搜食堂三楼，它找包含这两个词的段落。但这套办法有明显短板：

• 用户问伙食价格，知识库里只有食堂菜单——关键词对不上。
• 用户问晚自习时间，知识库里写的是晚间学习管理——同义不同词。

很多现代 RAG 系统会使用向量检索（vector retrieval），也常与关键词检索、重排序组合使用：

• 先用一个嵌入模型把每段资料转成一个数值向量（可以理解为给每段文字在一张语义地图上找一个坐标）。
• 意思相近的段落在这张地图上距离更近。
• 用户提问时，把问题也转成向量，找地图上距离它最近的几个邻居，就是检索结果。

这样，“伙食价格”更可能匹配到“食堂菜单”片段——它们在语义地图上距离较近，即使关键词不完全一致。

你不需要会算这个向量怎么生成的，但要记住一条工程结论：向量检索能按意思找，但不是百分百精准。它可能把不相关段落找成邻居（误召回），也可能漏掉真正相关的段落（漏召回）。后面的引用核查和挑战性问题测试，就是为了发现这两类错误。

8.2.3 分块策略：粒度的取舍

设想一份 80 页《校园服务手册》。直接整本交给 AI，会遇到第7章讲过的注意力稀释和中间迷失两个问题。正确做法是分块（chunking）。

分块大小的取舍如图8-2 所示。

分块大小的取舍：

相关内容见表8-1。

表8-1 块大小与优势记录表

实践中还会做重叠（overlap）：相邻块之间共享一小段文字，避免一个完整意思刚好被切口分开。除了固定大小切，更稳妥的方案是按语义切——按章节标题、段落自然边界、列表项切，让每一块本身就是一个语义完整的小段。

8.2.4 知识库从哪儿来：来源决定一切

RAG 把一部分回答质量压力从模型参数转移到了知识库内容、检索策略和引用核查流程，这既是优势，也是责任。

相关内容见表8-2。

表8-2 来源与例子记录表

关键原则：不合格知识库 + 强模型 = 不可靠回答。不要试图用 RAG 弥补不合格资料。RAG 可以检索和引用资料，但不能把错误资料自动变成正确资料。

8.2.5 RAG 与微调：两条知识更新路径

当业务知识需要更新时，工业界有两条不同路径：

路径 A：微调（fine-tuning）——调整底层参数 * 做法：准备领域数据，在训练流程中调整模型参数或适配层，使模型更贴近某类任务、风格或术语习惯。 * 适合：学习相对稳定的内在能力（专业术语习惯、特定写作风格、固定任务模式）。 * 局限：数据准备和训练评测成本较高，不适合单独承担高频事实更新。

路径 B：检索增强生成（RAG）——实时检索资料 * 做法：模型参数不动，前端接一个可更新的知识库，提问时先检索再生成。 * 适合：高频更新、要求字字有出处的业务知识（政策、价格、规章、动态数据）。 * 优势：更新敏捷、可追溯、出错后更容易定位到资料来源或检索环节。

工程选型的四维决策矩阵——面对一个新需求，按四个维度打分（1~5 分）：

1. 知识更新频率：1 = 永恒不变（如牛顿定律）；5 = 高频变动（如每周更新的菜单、政策）。
2. 可追溯要求：1 = 无需出处（如写笑话）；5 = 必须字字有出处（如财务、合规、医疗）。
3. 数据成熟度：1 = 只有零散 PDF；5 = 数万条人工精标的问答对。
4. 算力与预算：1 = 普通笔记本；5 = 专属 GPU 集群。

相关内容见表8-3。

表8-3 决策倾向与典型分布记录表

【决策推演：科创团队竞品情报助手】

某创业团队要做一个 AI 助手，分析每周搜集来的竞争对手财报和行业政策文件。要求每条结论都能附上出处。团队只有两台普通笔记本，没有专人标注训练数据。

相关内容见表8-4。

表8-4 维度与打分记录表

结论：本场景更适合优先采用 RAG。微调在数据和算力两端条件不足；即便做了微调，下周政策变化后仍要处理最新资料，而 RAG 更适合应对高频更新资料。 *** ## AI 协同实践：搭一个最小 RAG

实践目标：通过同一组问题在无检索和有检索两种状态下的对比，观察 RAG 对无依据生成的改善；再通过对知识库内没有的问题的测试，检查系统的拒答能力。

预计时间：30 分钟左右。

第 1 步：加载迷你知识库

打开 Notebook，运行加载知识库单元格。课程环境已预置了三套迷你知识库：

相关内容见表8-5。

表8-5 主题与内容片段记录表

每段约 200~300 字，已按语义完整切好。这是一个用于实验的迷你知识库。后续实验将显示，知识库的切片质量会显著影响 RAG 的回答质量。

第 2 步：无检索对照

把 Notebook 里的检索开关关掉。课程资源提供了 6 个测试问题：

相关内容见表8-6。

表8-6 编号与问题记录表

把这 6 个问题逐一发给 AI，记录到 RAG 对照表无检索一栏。预期观察：AI 容易按一般校园制度生成看似合理、但与知识库不一致的答案。

第 3 步：开启检索再问一次

打开检索开关，系统会自动在每次提问前到知识库找最相关的 2~3 段资料，组装成新提示词：

请仅根据下面这段资料回答用户问题，禁止使用资料以外的信息。
回答时请在每个关键信息后注明来自第几段。
如果资料中未提到，请固定回复"资料中未提到该信息"，不要自行推断。

【资料】
[段落 3] ...
[段落 5] ...

【问题】借阅者一次最多借几本书？

把同样 6 个问题再问一次，记录到有检索一栏。重点观察：

• 回答是否变得更短、更克制？
• 是否出现【来源：第 X 段】标注？
• Q6（库内没有）AI 是否明确说明“资料中未提到”？

第 4 步：核对每一条引用

这一步是本章最关键的训练。AI 标注的【来源：第 X 段】不一定真实对应原文。至少抽查 5 条引用，并尽量把每一条引用逐条核对：

• 它说来自第 5 段——第 5 段真的有这句话吗？
• 内容有没有改动？有没有把两段拼成一段？
• 是否存在强行对应：资料里说的是 A，AI 答了 B，却仍然标注了一个出处？

填到引用核查表里。这是 RAG 系统的最后一道质检，真实业务中不能省略。

第 5 步：故意挑战检索机制

这一步用来暴露 RAG 的常见缺陷。课程资源提供了三种挑战性问题：

相关内容见表8-7。

表8-7 挑战性问题与设计意图记录表

把结果填到挑战性问题日志。这一步检验的是 RAG 系统的鲁棒性：常规问题下回答正确并不够，边界问题下能否守住底线更能反映系统质量。

第 6 步（拓展任务）：用脚本实现最小 RAG

如果你想看 RAG 内部流程，可以打开 scripts_optional/ch08/minimal_rag.py：

拓展说明：完整程序已放入配套 Notebook。你只需要关注观察目标、变量修改和复核要求，不需要手写这段代码。

代码意图：

• retrieve() 是检索器——本例为简化用关键词重叠，工业级会换成向量检索。
• rag_answer() 完成拼接 → 生成两步——把检索结果和问题组装成新提示词。
• 系统提示词里的两条约束（“禁止使用资料外信息”“资料未提到请回复‘资料中未提到’”）是 RAG 守住不编造、能拒答两条底线的第一道提醒。真实系统还需要代码层的检索结果判空、引用校验、日志记录和人工复核。

运行这个脚本，对比纯关键词检索和 Notebook 中向量检索的差异。通常可以看到：用户问“伙食价格”时，关键词检索可能找不到相关段落（因为知识库里写的是“食堂菜单”），但向量检索更可能找到正确片段。

验证与证据：把方法落到记录里

RAG 对照表

相关内容见表8-8。

表8-8 编号与问题记录表

引用核查表

相关内容见表8-9。

表8-9 编号与 AI 标注来源记录表

引用真实性等级： * A 完全对应：原文确实有这句话。 * B 部分对应：原文有相关内容，但 AI 有改动、简化或合并。 * C 虚假引用：原文根本没有这段，或引用编号不存在。

挑战性问题日志

相关内容见表8-10。

表8-10 编号与挑战性问题类型记录表

RAG 与微调决策推演（专业场景）

请为自己专业选一个具体业务（如实训设备使用问答、专业课程答疑），按四维矩阵打分并写出选型理由：

相关内容见表8-11。

表8-11 维度与打分（1~5）记录表

原理小结（200~300 字）

围绕以下三点写一段小结：

1. 把 6 道题无检索和有检索的差别放在一起，用一句话总结 RAG 到底改善了第7章哪两个问题。
2. 引用核查里 B 类和 C 类的比例说明了什么？这对真实业务系统意味着什么必须保留的人工动作？
3. 你做的四维矩阵推演，最容易被管理层期望误导的是哪一项？请说说理由。

伦理、安全与边界

知识库的合法性、准确性、安全性

RAG 把回答质量从 AI 的参数转移到了知识库内容，意味着知识库的合法性、准确性、安全性都成为系统建设者的责任。

可以放的：已公开且允许使用的制度、合法授权的学习资料、行业公开标准、自己编写的资料。

绝对不可以放的： * 未脱敏的真实数据：学习者姓名、学号、手机号、家庭住址、成绩明细。 * 没有授权的版权材料：教材原文章节、付费数据库内容、他人的内部文档。 * 未经核实的内部信息：道听途说的政策传言、群聊里的小道消息。

有出处不等于正确

第7章我们说流畅 ≠ 正确。在 RAG 系统里要升级成：

有出处 ≠ 正确——你还要看那个出处本身可不可靠。

如果把网上随手搜来的不可靠博客放进知识库，AI 引用得再规整，引用的也是不可靠资料。一个 RAG 系统能不能用，关键在于知识库的来源审查。

来源审查的最低要求： 1. 优先官方来源——学校官网、政府发布、行业标准。 2. 每条资料标版本和日期——便于追溯和更新。 3. 建立淘汰机制——制度会变、菜单会变，旧资料必须定期清理。

虚假引用：一个隐蔽的工程陷阱

AI 标注的【来源：第 3 段】可能并不真实对应原文。常见的三种虚假引用：

相关内容见表8-12。

表8-12 类型与表现记录表

这就是本章要求做引用核查的原因：有出处只是开始，能不能被独立核对才算闭环。任何高风险场景，都必须由人对引用做最终核验。

高风险场景的纵深防御

对于医疗、法律、安全、财务这类高风险场景，仅靠 RAG 仍然不够。需要建立风险分级流程：

相关内容见表8-13。

表8-13 风险等级与典型场景记录表

底线判断：宁可让系统说 100 次资料不足，无法作答，也不要为了用户体验虚构 1 次答案。

【思考 2】 一位实习生用学校 RAG 知识库系统整理一份《奖学金评定办法》摘要。AI 给出的回答结构清楚，每条都标了【来源：第 X 段】。实习生想直接提交作为最终公示稿。 请回答：① 这件事至少存在哪三类风险？② 在公示前应当增加哪三步核验？

思考提示：风险包括：① 虚假引用，编号对但内容被改写；② 知识库版本过期，引用的是旧版评定办法；③ 高风险场景缺少人工复核。核验动作包括：① 逐条核对引用回原文；② 确认知识库里的《评定办法》是当前生效版本；③ 由负责人做最终人工复核签字。

总结与思考

本章核心判断

• RAG 的本质是基于资料作答，AI 参数没有变化，变化在于回答之前多了一步检索资料。
• 三步：检索 → 拼接 → 生成。每一步对应一类工程问题。
• 质量取决于知识库、检索策略、提示约束、引用核查和人工复核。不合格知识库 + 强模型 = 不可靠回答。
• 可追溯是 RAG 的重要工程价值——把第7章证据链底线变成系统能力。
• 有出处 ≠ 正确。引用本身可能不可靠，必须做独立核验。RAG 降低幻觉风险，但不能消除全部风险。
• RAG 与微调：知识更新频率高、要求可追溯 → 优先 RAG；深层风格 / 稳定能力改造、数据成熟 → 可考虑微调或二者结合。

基础题（理解层面）

1. 用图书馆查资料的比喻，解释 RAG 的三个步骤。
2. 为什么 RAG 系统的下限主要不取决于模型有多强，而取决于知识库的质量？
3. 微调和 RAG 在成本、更新速度、可追溯性三个维度上分别有什么差异？请列一张对比表。

迁移题（专业场景）

1. 为你所在专业的一个具体业务场景（如实训设备使用问答、课程答疑助手、校园政策查询），完成一份四维决策矩阵分析，给出 RAG / 微调 / 二者结合的选型建议，并说明理由。
2. 设计一段系统级提示词，要求 RAG 系统在三种情况下分别做出固定回应：① 资料里没有；② 用户问题涉及高风险（医疗、用药、安全）；③ 用户试图通过忽略前面规则等话术做提示词注入。

风险题（伦理与边界）

1. 在一个项目团队中，负责人希望 AI 系统绝对不产生幻觉、能解答当天最新资讯、研发与维护成本极低。结合本章四维决策矩阵和第7章的幻觉性质，请解释这是一个高风险目标组合，并给出一个切实可行的折中架构。
2. 一位实习生在搭建客服 RAG 系统时，把网上一份未经授权的行业标准 PDF 放进了知识库；并且为了减少幻觉，把整本《公司内部手册》（含真实员工名单）也放了进去。请回答：① 这做法有哪些合规问题？② 你会要求他立刻改哪几处？

补充题（自测层面）

1. 在 RAG 系统里，检索块的大小对回答质量有什么影响？太大太小分别会出什么问题？
2. 为什么 RAG 系统在面对知识库里没有的问题时，系统提示词里必须有一句如“资料未提到，请回复‘资料中未提到’，不要自行推断”？这一条对应了第7章的什么底线？
3. 假设你做了一个 RAG 系统，运行三个月后发现回答质量持续下滑，但模型和检索算法都没变。请列出至少三个可能的原因。

本章交付物

请按下面清单提交本章过程证据包：

• 本章 Notebook 运行记录：无检索 vs 有检索的完整对照截图或文本。
• RAG 对照表（6 道题，含库内无对应资料的拒答测试）。
• 引用核查表（至少抽查 5 条引用是否真实对应原文）。
• 挑战性问题日志（错误前提 / 跨主题推理 / 注入攻击三类至少各 1 条）。
• RAG 与微调决策推演（专业业务场景的四维矩阵 + 选型理由）。
• 原理小结（200~300 字，围绕“验证与证据”中的三个问题展开）。
• 知识库合规审查记录：你查看了哪些资料来源、它们能不能进知识库、理由是什么。
• 防线反思（200 字左右）：仅靠 RAG 在高风险场景下为什么仍然不够？真实系统还应在哪三层（代码、流程、责任）增加保护？

本章讨论的是文本资料的检索与核验。后续内容将进一步进入图像、截图和专业影像等多模态资料场景，继续讨论 AI 输出与人工核验之间的边界。