把防幻觉与事实核查提示和 AI 研究资料与文献引用核查结合起来用
防幻觉与事实核查提示单独使用已经很有用,但在复杂任务里,和 AI 研究资料与文献引用核查组合起来效果更好。下面讲清两者如何分工、按什么顺序使用。
两个技能各自负责什么
- 防幻觉核查:防幻觉核查是一组让 AI 少编造、并让编造更容易被发现的提问技巧,包括要求标注来源、区分事实与推测、允许回答“不知道”,以及对关键信息进行交叉验证。
- 引用核查:引用核查是在使用 AI 辅助研究和写作时,系统地验证文中引用的文献、数据和观点是否真实存在、是否被准确引用。
防幻觉核查有效是因为大模型会生成看起来很合理但并不正确的内容,例如不存在的引用、错误的数字;通过提示词约束和核查流程,可以降低风险并把剩余错误暴露出来;引用核查有效则是因为 AI 可能生成格式正确但并不存在的文献,或把观点张冠李戴;核查流程能把这些问题在发表或提交前找出来。两者叠加,正好互补。
组合流程
- (防幻觉核查)在提示词中明确允许回答“不确定”或“不知道”
- (防幻觉核查)要求给出信息来源;使用联网工具时附上链接。
- (引用核查)逐条在学术数据库、官方网站或原始出处检索。
- (引用核查)找到原文,确认被引用的观点或数据确实出现在原文中。
- (收尾)对无法核实的内容删除或标注“未经核实”
组合模板
以财务的场景为例,先用下面的模板完成防幻觉核查部分:
请对下面这段文字做事实核查:
1. 逐句列出其中包含的可核查声明(数字、日期、人名、机构、引用、因果关系);
2. 对每条声明给出:可核查性(可/难)、需要查证的来源类型、你对其准确性的初步判断及理由;
3. 标记最可能出错的 3 条,按风险排序;
4. 不要假装已经核实,你的判断只是初步意见。
文字:[粘贴]
然后再按引用核查的思路补一轮,例如:更稳妥的流程是先自己检索真实文献,再让 AI 根据你提供的摘要写作。
示例
以下为虚构示例:
示例(虚构):用户让 AI 介绍一项政策。AI 按规则输出:“【事实】该政策面向小微企业(依据:你提供的文件第二段)。【推测】申请周期可能在一个月左右,我不确定,建议以主管部门公告为准。”需要核实的内容一目了然。
组合之后,引用核查这一环的价值在于:引用核查要过两关:存在性和准确性。
组合使用时的注意事项
- 在对外内容中保留核查记录,出问题时可以追溯。
- 相信 AI 给出的参考文献列表。应对方法:每一条都要检索确认,格式正确不代表文献存在。
- 两个技能叠加会让提示词变长,先确认单独使用时各自有效,再组合。
提示词技巧的共同点是把你脑子里的隐含要求说出来。AI 不知道你的读者是谁、标准是什么,写得越具体,它越少猜测。
进一步扩展
熟悉这个组合后,还可以加入深度研究,形成三步流程。但每加一项都要问:它解决了什么具体问题?如果说不出来,就不要加。