很多人用了防幻觉与事实核查提示却觉得效果一般,问题往往出在几个常见错误上。先回顾一下:防幻觉核查是一组让 AI 少编造、并让编造更容易被发现的提问技巧,包括要求标注来源、区分事实与推测、允许回答“不知道”,以及对关键信息进行交叉验证。下面逐个拆解 5 个最常见的错误。

错误 1:让 AI 直接给出参考文献列表

问题在哪:让 AI 直接给出参考文献列表。很多人第一次使用时都会这样写。

怎么改:AI 可能生成不存在的文献,必须逐条检索核实。

错误 2:把“听起来很专业”当作“正确”

问题在哪:把“听起来很专业”当作“正确”这是最常见也最容易忽略的情况。

怎么改:流畅的表达不代表事实准确,关键信息都要核对。

错误 3:不允许 AI 说不知道

问题在哪:不允许 AI 说不知道。看似省事,实际会让后续修改更费劲。

怎么改:明确允许“不确定”,否则它更可能硬编一个答案。

错误 4:只核查一次就放心

问题在哪:只核查一次就放心。这是最常见也最容易忽略的情况。

怎么改:重要内容至少通过两个独立来源交叉验证。

错误 5:把核查责任交给 AI 自己

问题在哪:把核查责任交给 AI 自己。看似省事,实际会让后续修改更费劲。

怎么改:AI 的自查有帮助,但最终核实要依靠原始来源。

这些错误的共同根源

幻觉之所以危险,是因为它和正确信息看起来一模一样。防幻觉的思路有两层:第一层是在提问时降低编造概率,比如允许说不知道、限定只用提供的资料;第二层是在使用前把错误找出来,比如标注来源、交叉验证。两层缺一不可,任何提示词都不能保证百分之百准确。

顺带回答一个常见疑问——能让 AI 只根据我给的资料回答吗?可以明确要求“只使用提供的资料,资料中没有就说没有”,这能显著减少编造。

修正后的标准写法

把上面的修正综合起来,以退休人士的场景为例,一个更可靠的写法是:

请回答关于“退休后的生活安排”的问题:[你的问题]
规则:
1. 每条信息后标注类型:【事实】【推测】【建议】;
2. 【事实】必须说明依据;不确定时写“我不确定”,不要猜测;
3. 不要编造数字、文献、法规条款或人名;
4. 最后列出:哪些信息需要退休人士到官方渠道核实。

如果你是退休人士,还要额外注意一点:遇到不懂的事可以直接用大白话问 AI,让它一步一步讲,听不懂就让它再讲简单点。

最后一个建议

对专业领域的问题,把 AI 的回答当作提问清单,再去咨询专业人士。记住防幻觉核查的原理——大模型会生成看起来很合理但并不正确的内容,例如不存在的引用、错误的数字;通过提示词约束和核查流程,可以降低风险并把剩余错误暴露出来——遇到新情况时就能自己判断怎么写。

一个简单的自查方法

把你的提示词发给一位不了解背景的同事看,如果对方需要追问才能动手,AI 多半也会理解偏差。把同事会问的问题提前写进提示词,效果往往立刻改善。

相关阅读