「看起来很像引用」不等于可核对。引用落地要求:生成内容中的关键命题能指回检索命中的片段,且片段确实支持该命题。

FAQ

为什么模型一本正经却引错段?

检索召回了相关但不支撑该句的段落,或生成时忽略了「仅依据提供上下文」。缓解:强制「每条要点后附 snippet_id」;无支持则输出「材料不足」。

要不要让模型自己编页码?

不要。页码、条款号必须来自元数据或原文。你可在索引阶段写入 doc_id/page/section,生成时只允许从候选里选。

引用密度多少合适?

视场景:对外合规说明宜「一句一引」;对内草稿可「段末汇总结引」。关键数字与结论必须有引。

和元数据过滤什么关系?

先过滤再生成,能减少错误文档混入。参见RAG 元数据过滤模式。

后校验做什么?

用规则或小模型检查:答案中的引用 id 是否都在检索集;被引片段是否包含答案里的专有名词/数字。失败则重生成或降级为「无法从材料得出」。

提示词片段

仅依据【检索片段】回答。每条关键结论后标注 [snippet_id]。
若片段不足以支持,明确写「材料不足」,禁止补全外部事实。
禁止输出未提供的页码或网址。

小结

引用落地是检索质量 + 生成约束 + 后校验三件套。把「能不能指回原文」当成发布门槛,而不是装饰。

多文档冲突时

两份材料结论不一致,应输出冲突说明并分别引用,而不是静默选边。产品若必须给单一答案,要有明确优先级规则(时间、权威来源),并在答案中披露。

切片过碎

切片太短会导致引用「看起来相关却撑不住整句」。调切片与重叠时,用「命题能否被片段支持」做验收,而不是只看检索分数。

前端如何展示引用

展示原文短摘与文档标题,比只显示「来源 1」更易核对。点击引用应能跳到片段。若片段含敏感信息,展示前做脱敏。生成侧禁止输出未授权的内部文档名给普通用户。

评测引用质量时,可抽样人工打标:引用是否支持命题、是否张冠李戴、是否缺引。把错误类型反馈给切片与检索参数,而不是只调生成温度。对法规与医疗等高风险域,默认「无引则不答」比「流畅但无依据」更安全。索引更新后要回归同一组抽样题,防止引用锚定漂移。

相关阅读