防幻觉核查是一组让 AI 少编造、并让编造更容易被发现的提问技巧，包括要求标注来源、区分事实与推测、允许回答“不知道”，以及对关键信息进行交叉验证。读完这篇，你就能把它用到自己的日常工作里。

防幻觉核查是什么，为什么有效

背后的原理并不复杂：大模型会生成看起来很合理但并不正确的内容，例如不存在的引用、错误的数字；通过提示词约束和核查流程，可以降低风险并把剩余错误暴露出来。与直接相信回答相比，直接使用最快，但存在被错误信息误导的风险；防幻觉核查多一步验证，适合对准确性有要求的内容。

幻觉之所以危险，是因为它和正确信息看起来一模一样。防幻觉的思路有两层：第一层是在提问时降低编造概率，比如允许说不知道、限定只用提供的资料；第二层是在使用前把错误找出来，比如标注来源、交叉验证。两层缺一不可，任何提示词都不能保证百分之百准确。

哪些情况值得用

  • 涉及数字、日期、人名、法规、引用等事实信息。
  • 内容要对外发布或用于决策。
  • 使用 AI 查资料、写研究摘要。
  • 在专业领域提问，比如医疗、法律、财务。

怎么用：6 步上手

  1. 在提示词中明确允许回答“不确定”或“不知道”
  2. 要求区分事实、推测和建议，并分别标注。
  3. 要求给出信息来源；使用联网工具时附上链接。
  4. 对关键事实单独追问：“这一条你的依据是什么？”
  5. 打开来源核对原文，或用权威渠道交叉验证。
  6. 对无法核实的内容删除或标注“未经核实”

可直接复制的提示词

下面以运营的工作场景为例，方括号里的内容换成你自己的信息即可：

请回答关于“双十一预热活动”的问题：[你的问题]
规则：
1. 每条信息后标注类型：【事实】【推测】【建议】；
2. 【事实】必须说明依据；不确定时写“我不确定”，不要猜测；
3. 不要编造数字、文献、法规条款或人名；
4. 最后列出：哪些信息需要运营到官方渠道核实。

效果示例

以下内容为虚构示例，仅用于说明效果：

示例（虚构）：用户让 AI 介绍一项政策。AI 按规则输出：“【事实】该政策面向小微企业（依据：你提供的文件第二段）。【推测】申请周期可能在一个月左右，我不确定，建议以主管部门公告为准。”需要核实的内容一目了然。

新手最常犯的两个错误

  • 容易犯的错：让 AI 直接给出参考文献列表。更好的做法：AI 可能生成不存在的文献，必须逐条检索核实。
  • 容易犯的错：把“听起来很专业”当作“正确”更好的做法：流畅的表达不代表事实准确，关键信息都要核对。

上手后的小技巧

  • 对数字类信息，要求 AI 写出计算过程，便于你复算。
  • 使用联网搜索时，优先打开官方网站、原始文件等一手来源。

一个常见疑问

联网搜索就不会有幻觉了吗？ 联网能提供来源，但 AI 仍可能误读或拼接错误信息，需要打开链接核对原文。

所有提示词技巧都在解决同一个问题：减少 AI 的猜测空间。背景、目标和标准写清楚，比任何花哨的句式都重要。

下一步

入门之后，可以看看防幻觉核查的进阶技巧和常见错误，再结合引用核查一起使用。

相关阅读