中篇导读:给 AI 接上你的知识
上篇讲清了大模型怎么炼成:它读遍了互联网,知识渊博、能说会道。但你真正用起来,很快会撞上三堵墙:
- 你问它「我们公司的报销上限是多少」——它不知道,因为你公司的手册不在它的训练数据里;
- 你问它「这周的发布会定在哪天」——它不知道,因为它的知识停在训练截止那一刻;
- 你问它一个具体条款——它答得煞有介事,数字却是编的(上篇 5.6 节的幻觉)。
这三堵墙,本质是同一个问题:模型的知识是「闭卷」的——全靠训练时背下来的,既不含你的私事,也不含最新的事,记混了还会硬编。
中篇讲的 RAG(检索增强生成),就是把闭卷考试改成开卷考试:回答前,先从你自己的资料库里查出相关内容,摆在模型面前,让它照着答、答必有据。这一篇拆开这个「外挂大脑」的每一个零件——从「怎么按意思找资料」到「怎么让答案有出处、可信、能评测」。
三部曲里的位置
RAG 是从「一个只会聊天的模型」通向「一个能用上你私有知识、还能自主行动的智能体」的必经之路——下篇 A3.3 的 Agentic RAG 就是本篇的高阶形态。
你需要什么基础
中篇尽量自足,但有两个上篇概念会反复用到,建议先扫一眼:
照例双轨阅读:正文人人能读,公式和工程细节折叠在「🔬 深入一层」,右下角按钮一键切换。
🔴 部分实验支持「真实模式」
K1 语义搜索台和 K5 RAG 全流程这两个实验,除了预录的示意数据,还能填入你自己的模型服务(兼容 OpenAI 协议:OpenAI、通义 DashScope、本地 Ollama/vLLM 等),用真的向量检索、真的生成跑一遍——随便输一句话,看真实的语义排名和带引用的答案。你的 Key 只存在自己浏览器里、直连你填的服务,本站无后端、不经手它。不填也能完整玩所有实验,真实模式纯属加餐。
课程地图
| 章 | 主题 | 状态 |
|---|---|---|
| K0 · 为什么需要外挂大脑 | 模型三大先天缺陷;RAG = 开卷考试 | ✅ |
| K1 · 语义检索 | 把「意思」变成坐标,按意思找资料 | ✅ |
| K2 · 切块的艺术 | 文档怎么切,决定检索准不准 | ✅ |
| K3 · 三种找法 | 关键词 vs 向量 vs 混合检索 | ✅ |
| K4 · 重排 | 把最该看的顶上来 | ✅ |
| K5 · 生成与引用 | 让答案有据可查 | ✅ |
| K6 · 评测 | RAG 三元组与三大失败模式 | ✅ |
| K7 · 进阶与前沿 | GraphRAG、Agentic RAG、RAG vs 长上下文 | ✅ |
| K8 · 上生产 | 权限、更新与重建、文档投毒——交给真实用户之后的三道坎 | ✅ |
| 附录 · 实战路线 | 100 行搭一个 RAG;向量库地图;避坑清单 | ✅ |
准备好了吗?从 K0 · 为什么需要外挂大脑 出发 📚