K5.2 有据回答:逼模型交出处
摆好了料,它就照着答吗
上一节把对的资料端端正正摆到了模型面前。那它就不会胡说了吗?
会好很多——但不保证。模型有时仍会:
- 掺入旧记忆:资料明明写「陪产假 15 天」,它凭训练时的印象答成「7 天」;
- 过度发挥:资料只说了 A,它顺手替你脑补出 B 和 C;
- 答对但不给出处:结论是对的,可你没法核对,只能选择信或不信。
这一节讲怎么把「大概照着答」升级成「答必有据、句句可查」。这个目标有个名字,叫 有据回答(grounding):让答案里的每一句话,都由检索到的原文支撑。 两个抓手,一软一硬。
抓手一:用指令摁住「创作欲」
模型的天性是「接最像的话」(上篇 5.6 节讲过的幻觉根源)——你不拦着,它就默认自由发挥。所以第一个抓手是在指令里把规矩定死:
「只根据以下资料回答。资料未提及的信息,回答『资料未提及』,不要用你自己的知识补充。」
这句话看着普通,作用极大:它把模型从「作家模式」切到「摘录员模式」,明确告诉它「宁可说不知道,也别编」。这正是 K5.1 的 RAG 全流程动画第 ④ 步里那句关键指令。
抓手二:用引用让答案「可核对」
第二个抓手更硬——引用标注:要求模型像写论文一样,给每一句话都标上来源编号。
回到 RAG 全流程动画的第 ⑤ ⑥ 步,答案长这样:
黑卡会员可享全场 95 折、专属客服和生日礼券**〔1〕。积分方面,每消费 1 元累计 1 积分,100 积分可抵 1 元〔2〕**。
每句话后面都挂着来源编号,读者点一下〔1〕就能翻到「会员权益」那段原文,点〔2〕就能翻到「积分规则」——动画第 ⑥ 步的「核对」,正是把答案的每半句话对回了它的来源。
引用为什么是 RAG 最硬的底气? 因为它把答案从「你信不信我」变成了「你可以自己查」。对企业、医疗、法律这些错不起的场景,一个不能溯源的答案约等于不能用(回扣 K0 的缺陷三);而带上引用,答案就有了可被验证的锚点——这是对付幻觉最实在的一招。
引用也会骗人
但别高兴太早。引用能被伪造:
- 引用幻觉:模型标了「〔1〕」,可原文〔1〕里根本没说这句话——它编了内容,还顺手编了个出处;
- 张冠李戴:答案对的,引用却标错了来源。
所以光「有引用」还不够,引用本身得能被验证。这就自然引出了下一章——K6 评测:怎么系统地检查「答案的每句话,是不是真的出自它标的来源」。
「有引用」不等于「正确」
小结
本节要点
- 有据回答(grounding):让答案的每句话都由检索到的原文支撑,是 RAG 抑制幻觉的核心。
- 两个抓手:指令摁住模型的创作欲(「只根据资料答、没有就说没有」),引用给每句话标出处、让答案可核对。
- 引用是 RAG 最硬的底气——把答案从「你信不信我」变成「你可以自己查」,对错不起的场景是刚需。
- 但「有引用」不等于「正确」:会有引用幻觉、会忠实复述错误资料——引用让核对成为可能,核对本身还得靠人和评测。
📝 动手自测0/3
1. 「有据回答(grounding)」指的是什么?
2. 为什么说「引用标注」是 RAG 最硬的底气?
3. 一个 RAG 答案给每句话都标了来源〔1〕〔2〕。下列理解最准确的是?