跳到主要内容

K0.2 RAG：开卷考试

一个学生的两种考法​

想象两个学生考同一场「公司制度」的试：

  • 学生 A 闭卷：全靠考前背，背到的就答得出，没背到、背混了就只能编——这是上一节的大模型。
  • 学生 B 开卷：允许翻《员工手册》。拿到题，他先翻到相关那几页，再照着上面写的作答，最后还能标明「这个答案出自第 6 章」。

学生 B 的知识不比 A 多，但他答得又准又有据——因为他多做了一步：先查，再答。

这就是 RAG（Retrieval-Augmented Generation，检索增强生成）的全部思想：不改变模型本身，只是在它作答前，先从知识库里检索相关资料，摆到它面前。 把闭卷考试，改成开卷考试。

三个字，三个步骤​

RAG 的名字本身就是它的流程图。拆开这三个字：

  • ① 检索（Retrieval）：拿用户的问题，去知识库里找出最相关的几段资料。「怎么找得准」是整个 RAG 最核心的工程——K1 到 K4 四章都在讲这一步。
  • ② 增强（Augmented）：把找到的资料，拼进给模型的提问里，变成「这是相关资料：……。请根据资料回答：……」。模型的上下文（上篇 8.2 节）被这些资料「增强」了。
  • ③ 生成（Generation）：模型照着眼前的资料作答。因为答案有原文撑着，它就不容易编（K5 讲怎么让它「答必有据、还标出处」）。

你在上一节实验里点的三个按钮——「检索知识库 → 开卷作答」——走的正是这条流水线。

RAG 一次填平三个坑​

回头看上一节的三个缺陷，RAG 用同一招全部化解：

缺陷RAG 怎么治
不知道你的私事把你的手册、文档放进知识库，一查就有
记不住最新的事知识库随时更新，改文档即刻生效，无需重训模型
会一本正经地编答案由检索到的原文支撑（有据回答），还能标出处、可核对

这就是为什么到 2026 年，几乎所有「让 AI 用上企业/个人知识」的应用——智能客服、文档问答、内部知识助手——底座都是 RAG。它便宜（不用训模型）、灵活（改库即改知识）、可信（答案能溯源）。

这个比喻在哪里不准确？

「开卷考试」抓住了 RAG 的神,但简化了两处难点。其一:翻书这一步本身很难——学生翻的是一本编好目录的书,而 RAG 要在成千上万段资料里自动找出最相关的几段,找不准就全盘皆输(这就是为什么后面四章都在讲「怎么检索」)。其二:模型未必老实照抄——就算把对的资料摆在它面前,它有时仍会掺入自己的记忆、或曲解原文(K6 的失败模式)。RAG 让答对变得可能且容易,但不保证一定答对。

小结​

本节要点
  • RAG = 把大模型的「闭卷考试」改成「开卷考试」：作答前先检索资料，摆到模型面前。
  • 名字即流程：检索（找资料）→ 增强（拼进提问）→ 生成（照着答、标出处）。
  • 它一招填平三个缺陷：私有知识入库即可查、知识库随时更新、答案有原文支撑可溯源。
  • 朴素 RAG 只有几行,但每一步都能翻车——中篇后面各章就是在给这几行逐步打补丁。
📝 动手自测0/3
1. RAG 三个字母代表的三个步骤，正确顺序是？
2. 关于 RAG 和「重新训练模型」的关系，下列哪个说法正确？
3. 把「开卷考试」当作 RAG 的比喻，它没有体现出的一个真实难点是？

延伸阅读​