跳到主要内容

中篇导读:给 AI 接上你的知识

上篇讲清了大模型怎么炼成:它读遍了互联网,知识渊博、能说会道。但你真正用起来,很快会撞上三堵墙:

  • 你问它「我们公司的报销上限是多少」——它不知道,因为你公司的手册不在它的训练数据里;
  • 你问它「这周的发布会定在哪天」——它不知道,因为它的知识停在训练截止那一刻;
  • 你问它一个具体条款——它答得煞有介事,数字却是编的(上篇 5.6 节的幻觉)。

这三堵墙,本质是同一个问题:模型的知识是「闭卷」的——全靠训练时背下来的,既不含你的私事,也不含最新的事,记混了还会硬编。

中篇讲的 RAG(检索增强生成),就是把闭卷考试改成开卷考试:回答前,先从你自己的资料库里查出相关内容,摆在模型面前,让它照着答、答必有据。这一篇拆开这个「外挂大脑」的每一个零件——从「怎么按意思找资料」到「怎么让答案有出处、可信、能评测」。

三部曲里的位置​

RAG 是从「一个只会聊天的模型」通向「一个能用上你私有知识、还能自主行动的智能体」的必经之路——下篇 A3.3 的 Agentic RAG 就是本篇的高阶形态。

你需要什么基础​

中篇尽量自足,但有两个上篇概念会反复用到,建议先扫一眼:

  • 1.4 词向量——「意思相近 → 向量相近」,这是语义检索的地基;
  • 5.6 对齐的边界——幻觉是怎么回事,RAG 为什么能缓解它。

照例双轨阅读:正文人人能读,公式和工程细节折叠在「🔬 深入一层」,右下角按钮一键切换。

🔴 部分实验支持「真实模式」

K1 语义搜索台和 K5 RAG 全流程这两个实验,除了预录的示意数据,还能填入你自己的模型服务(兼容 OpenAI 协议:OpenAI、通义 DashScope、本地 Ollama/vLLM 等),用真的向量检索、真的生成跑一遍——随便输一句话,看真实的语义排名和带引用的答案。你的 Key 只存在自己浏览器里、直连你填的服务,本站无后端、不经手它。不填也能完整玩所有实验,真实模式纯属加餐。

课程地图​

章主题状态
K0 · 为什么需要外挂大脑模型三大先天缺陷;RAG = 开卷考试✅
K1 · 语义检索把「意思」变成坐标,按意思找资料✅
K2 · 切块的艺术文档怎么切,决定检索准不准✅
K3 · 三种找法关键词 vs 向量 vs 混合检索✅
K4 · 重排把最该看的顶上来✅
K5 · 生成与引用让答案有据可查✅
K6 · 评测RAG 三元组与三大失败模式✅
K7 · 进阶与前沿GraphRAG、Agentic RAG、RAG vs 长上下文✅
K8 · 上生产权限、更新与重建、文档投毒——交给真实用户之后的三道坎✅
附录 · 实战路线100 行搭一个 RAG;向量库地图;避坑清单✅

准备好了吗?从 K0 · 为什么需要外挂大脑 出发 📚