K0.1 模型的三个先天缺陷

先看三个它答不好的问题

大模型能陪你聊哲学、帮你写代码，但下面这三个问题，再强的模型也会翻车。先亲眼看一遍——注意每一组的左边（直接问）和右边（先查资料再答）用的是同一个模型：

🎮 动手实验

闭卷 vs 开卷：同一个模型，两种命运

下面三个问题，模型「凭记忆」都答不好。左边是闭卷（直接问），右边是开卷（先从知识库查资料再答）。选一个问题，一步步看差别。（回答与资料为教学构造）

🧑‍💻 我们公司的报销上限是多少？出差住宿能报多少一晚？模型短板：私有知识

🔒 闭卷：直接凭记忆答

（点下面「闭卷作答」）

📖 开卷：先检索知识库

（点下面「开卷作答」）

玩过实验，你应该已经看出三个缺陷了：

缺陷一：不知道你的私事。 「我们公司的报销上限」——模型的训练数据是公开互联网，你公司的员工手册、你的项目文档、你的私人笔记，它从来没见过。凡是不在公开语料里的私有知识，它一概不知。

缺陷二：记不住最新的事。 「这周的发布会」——模型的知识停在训练截止那一刻（上篇 4.1 节讲过预训练要花几个月）。训练之后发生的一切——新闻、新政策、你昨天改的文档——它都不知道。世界在变，它的知识却被冻在了过去。

缺陷三：会一本正经地编。 问它一个具体条款，它答得有板有眼，数字却是错的。这就是上篇 5.6 节讲的幻觉：模型的本质是「接最像的话」，记不清时它不会说「我不知道」，而会流畅地编一个看起来对的答案——这比不知道更危险，因为你很难一眼看穿。

这三堵墙看着不一样，病根却是同一个：模型的知识是「闭卷」的。它能用的，只有训练时塞进参数里的那些——不含你的私事，不含最新的事，记混了还没法翻书核对。

一句话

大模型的知识 = 一场闭卷考试：全凭脑子里背下来的，既有限、又过时、还可能记错。

你可能会想：那把我的资料、最新的新闻也拿去训练，不就行了？理论上可以，但现实里几乎没人这么干，原因很硬：

太贵太慢：预训练一次几个月、几千万起步（上篇 4.4 节算过这笔账）；你的文档每天在变，总不能每天重训一遍。
微调也不划算：就算用便宜得多的微调（上篇 5.2 节），把知识「焊」进参数依然又慢又难更新，而且它照样可能记混、照样无法给出处。
最要命的——没有出处：知识一旦进了参数，就化成了几十亿个数字，你没法让模型指着某一句说「这个答案出自手册第 6 章」。企业场景里，不能溯源的答案约等于不能用。

所以正确的思路不是「把知识塞进模型」，而是**「让模型用的时候去查」**——把闭卷改成开卷。这就是下一节的 RAG。

这三个缺陷会一起消失吗？

RAG 能大幅缓解三者，但不是万能药。它治不好「知识库本身就是错的/缺的」——查不到或查错，照样答不好（K6 会看到，检索没召回是 RAG 的头号失败模式）。它也不能让模型凭空变聪明——它只负责「把对的资料递到模型面前」，理解和推理还是模型自己的事。RAG 是给模型配了本参考书，不是换了个脑子。

本节要点

📝 动手自测0/3

1. 「我们公司的年假有几天」这个问题，大模型直接回答往往不靠谱，最根本的原因是？

2. 为什么说「幻觉」比「不知道」更危险？

3. 既然模型不知道最新和私有的知识，为什么业界一般不选择「把这些知识重新训练/微调进模型」？