很多 AI 产品团队都会遇到一个矛盾：一方面，用户抱怨 AI 不可靠，不敢依赖它的结果；另一方面，也有用户对 AI 过度信任，不加核实就直接使用，结果出了问题。产品设计的目标不是让用户无条件信任 AI，而是建立“恰当的信任”：在 AI 可靠时放心使用，在 AI 可能出错时保持警惕。 这需要通过一系列设计手段，让 AI 的可靠程度对用户可见。

引用与溯源

为什么重要

当 AI 给出一个答案时，用户最想知道的是：这个答案从哪里来？附上来源，用户就能快速核实，而不必盲目相信或完全不信。

设计要点

  • 就近标注：在具体的句子或段落旁标注引用编号，而不是只在末尾列一堆参考资料；
  • 可点击查看原文：点击引用直接定位到原文对应位置，并高亮相关内容；
  • 展示来源属性：文档名称、作者、更新时间、权威程度；
  • 校验引用的真实性：在系统层面检查引用是否真实存在、内容是否确实支持该论述，防止 AI 编造引用，参见大模型幻觉的成因。

对于知识库类产品，引用设计是建立信任的基础，参见企业知识库问答落地。

表达不确定性

让 AI 学会说“不确定”

  • 当资料中没有相关信息时，明确告知“未找到相关依据”，而不是勉强作答；
  • 当信息存在冲突时，展示不同来源的说法；
  • 区分“资料中明确说明的”和“基于资料推断的”。

视觉化置信程度

对于结构化的输出，例如信息抽取、分类结果，可以用颜色或标签标出低置信度的字段，引导用户重点核查。注意不要展示伪精确的数字，例如“置信度 87.3%”，如果这个数字本身并不可靠，反而会误导用户。

解释推理依据

  • 展示关键步骤：对于分析和推理类任务，简要展示 AI 是基于哪些信息、经过哪些步骤得出结论的；
  • 说明判断依据：例如“该合同条款被标记为高风险，因为违约金比例明显高于公司标准模板”；
  • 展示执行过程：对于 Agent 类产品，让用户看到 AI 搜索了什么、读取了哪些文件、调用了哪些工具。

解释要简洁，以帮助用户判断为目的，而不是堆砌大量技术细节。

便捷的纠错与反馈

降低纠错成本

  • AI 生成的内容可以直接编辑；
  • 提供“重新生成”“换一种说法”“更简洁”等快捷操作；
  • 对于结构化结果，可以逐个字段修改。

让反馈产生效果

  • 用户纠正后，在当前会话中记住纠正内容；
  • 收集反馈用于改进系统，并在适当时候告知用户“根据你的反馈，我们改进了……”；
  • 提供报告严重问题的渠道。

尊重用户的决定

当用户拒绝 AI 的建议时，不应反复推荐同样的内容。

避免过度信任

过度信任同样危险，尤其是在医疗、法律、金融等高风险领域：

  • 在关键时刻提醒：在用户即将基于 AI 结果做出重要决定时，提醒核实关键信息；
  • 高风险操作需要确认：对外发送、付款、删除等操作，展示具体内容并要求用户确认，参见人在回路的设计；
  • 明确责任边界：在专业建议类产品中，说明 AI 输出仅供参考，不能替代专业人士的判断；
  • 避免拟人化过度：过度拟人的语气和形象可能让用户高估 AI 的能力。

用一致性建立长期信任

信任是在多次交互中逐渐建立的：

  • 在同类任务上保持稳定的质量；
  • 坦诚承认错误，而不是掩饰；
  • 让能力边界清晰且稳定，不要时好时坏；
  • 模型或功能更新导致行为变化时，及时告知用户。

小结

建立用户对 AI 的恰当信任，需要让 AI 的可靠程度变得可见：用引用和溯源支持核实，用不确定性表达提示风险，用推理依据帮助判断，用便捷的纠错机制降低出错成本，同时在关键时刻提醒用户避免过度依赖。这些设计让用户既能放心使用 AI，又能在需要时保持警惕。更多原则见 AI 产品设计原则。