刚接触防幻觉与事实核查提示的人,问得最多的往往是下面这几个问题。

Q1:防幻觉核查到底是什么?

防幻觉核查是一组让 AI 少编造、并让编造更容易被发现的提问技巧,包括要求标注来源、区分事实与推测、允许回答“不知道”,以及对关键信息进行交叉验证。

Q2:为什么它有效?和直接相信回答有什么不同?

大模型会生成看起来很合理但并不正确的内容,例如不存在的引用、错误的数字;通过提示词约束和核查流程,可以降低风险并把剩余错误暴露出来。直接使用最快,但存在被错误信息误导的风险;防幻觉核查多一步验证,适合对准确性有要求的内容。

Q3:哪些场景最值得用?

最典型的是两类:一是内容要对外发布或用于决策;二是在专业领域提问,比如医疗、法律、财务。以设计师为例,处理“整理按钮与表单组件规范”这类工作时就很适合尝试。

Q4:具体怎么开始?

建议按这三步起步:

  1. 在提示词中明确允许回答“不确定”或“不知道”
  2. 要求区分事实、推测和建议,并分别标注。
  3. 要求给出信息来源;使用联网工具时附上链接。

熟练之后再养成一个习惯:对无法核实的内容删除或标注“未经核实”

Q5:有没有现成的模板?

有,下面这个可以直接复制,按需替换方括号内容:

请对下面这段文字做事实核查:
1. 逐句列出其中包含的可核查声明(数字、日期、人名、机构、引用、因果关系);
2. 对每条声明给出:可核查性(可/难)、需要查证的来源类型、你对其准确性的初步判断及理由;
3. 标记最可能出错的 3 条,按风险排序;
4. 不要假装已经核实,你的判断只是初步意见。
文字:[粘贴]

Q6:联网搜索就不会有幻觉了吗?

联网能提供来源,但 AI 仍可能误读或拼接错误信息,需要打开链接核对原文。

Q7:哪些内容最容易出错?

具体数字、日期、引用、冷门人物和机构、最新事件,以及多步推理得出的结论。

Q8:能让 AI 只根据我给的资料回答吗?

可以明确要求“只使用提供的资料,资料中没有就说没有”,这能显著减少编造。

举个例子

举个虚构的例子:一位研究生让 AI 帮忙写文献综述,初稿引用了五篇论文。他逐条去学术数据库检索,发现其中两篇根本不存在,另一篇作者对得上但年份错了。之后他改为先自己检索真实文献,再让 AI 只根据他提供的摘要写综述,问题不再出现。

补充:最容易踩的坑和用好的诀窍

  • 不允许 AI 说不知道。改进:明确允许“不确定”,否则它更可能硬编一个答案。
  • 只核查一次就放心。改进:重要内容至少通过两个独立来源交叉验证。
  • 把核查清单固定下来:数字、日期、人名、引用、因果。
  • 对专业领域的问题,把 AI 的回答当作提问清单,再去咨询专业人士。

下一步学什么

掌握防幻觉核查之后,可以继续了解引用核查和联网搜索问答,它们经常和防幻觉核查一起使用,组合起来能处理更复杂的任务。

相关阅读