跳到主要内容

K5.2 有据回答:逼模型交出处

摆好了料,它就照着答吗​

上一节把对的资料端端正正摆到了模型面前。那它就不会胡说了吗?

会好很多——但不保证。模型有时仍会:

  • 掺入旧记忆:资料明明写「陪产假 15 天」,它凭训练时的印象答成「7 天」;
  • 过度发挥:资料只说了 A,它顺手替你脑补出 B 和 C;
  • 答对但不给出处:结论是对的,可你没法核对,只能选择信或不信。

这一节讲怎么把「大概照着答」升级成「答必有据、句句可查」。这个目标有个名字,叫 有据回答(grounding):让答案里的每一句话,都由检索到的原文支撑。 两个抓手,一软一硬。

抓手一:用指令摁住「创作欲」​

模型的天性是「接最像的话」(上篇 5.6 节讲过的幻觉根源)——你不拦着,它就默认自由发挥。所以第一个抓手是在指令里把规矩定死:

「只根据以下资料回答。资料未提及的信息,回答『资料未提及』,不要用你自己的知识补充。」

这句话看着普通,作用极大:它把模型从「作家模式」切到「摘录员模式」,明确告诉它「宁可说不知道,也别编」。这正是 K5.1 的 RAG 全流程动画第 ④ 步里那句关键指令。

抓手二:用引用让答案「可核对」​

第二个抓手更硬——引用标注:要求模型像写论文一样,给每一句话都标上来源编号。

回到 RAG 全流程动画的第 ⑤ ⑥ 步,答案长这样:

黑卡会员可享全场 95 折、专属客服和生日礼券**〔1〕。积分方面,每消费 1 元累计 1 积分,100 积分可抵 1 元〔2〕**。

每句话后面都挂着来源编号,读者点一下〔1〕就能翻到「会员权益」那段原文,点〔2〕就能翻到「积分规则」——动画第 ⑥ 步的「核对」,正是把答案的每半句话对回了它的来源。

引用为什么是 RAG 最硬的底气? 因为它把答案从「你信不信我」变成了「你可以自己查」。对企业、医疗、法律这些错不起的场景,一个不能溯源的答案约等于不能用(回扣 K0 的缺陷三);而带上引用,答案就有了可被验证的锚点——这是对付幻觉最实在的一招。

引用也会骗人​

但别高兴太早。引用能被伪造:

  • 引用幻觉:模型标了「〔1〕」,可原文〔1〕里根本没说这句话——它编了内容,还顺手编了个出处;
  • 张冠李戴:答案对的,引用却标错了来源。

所以光「有引用」还不够,引用本身得能被验证。这就自然引出了下一章——K6 评测:怎么系统地检查「答案的每句话,是不是真的出自它标的来源」。

「有引用」不等于「正确」

有据回答能大幅降低幻觉,但不能归零。两个残留风险:其一,模型仍可能在资料的模糊地带过度推断;其二,如果知识库里那条资料本身就是错的,模型会忠实地把错误复述出来、还一本正经地标上出处(垃圾进垃圾出,回扣 K0 和上篇 4.1 数据质量)。所以记住:引用只是让「可核对」成为可能,核对本身还得靠人或评测去做。 「答案带了引用」和「答案是对的」,是两回事。

小结​

本节要点
  • 有据回答(grounding):让答案的每句话都由检索到的原文支撑,是 RAG 抑制幻觉的核心。
  • 两个抓手:指令摁住模型的创作欲(「只根据资料答、没有就说没有」),引用给每句话标出处、让答案可核对。
  • 引用是 RAG 最硬的底气——把答案从「你信不信我」变成「你可以自己查」,对错不起的场景是刚需。
  • 但「有引用」不等于「正确」:会有引用幻觉、会忠实复述错误资料——引用让核对成为可能,核对本身还得靠人和评测。
📝 动手自测0/3
1. 「有据回答(grounding)」指的是什么?
2. 为什么说「引用标注」是 RAG 最硬的底气?
3. 一个 RAG 答案给每句话都标了来源〔1〕〔2〕。下列理解最准确的是?

延伸阅读​

  • 上篇 5.6 对齐的边界——幻觉与「该说不知道时说不知道」,本节拒答机制的背景。
  • 上篇 7.2 评测的坑——用模型当裁判核对忠实度,本节引用检测的方法来源。
  • 下一章 K6 · 评测:有了能跑、能引用的 RAG,怎么系统地知道它到底准不准。