传统软件的设计建立在确定性之上：点击同一个按钮，总是得到同样的结果。AI 产品打破了这一前提：同样的输入可能产生不同的输出，大多数时候结果很好，偶尔却会出现明显错误。 这要求产品经理和设计师用新的思路设计体验，不是假装 AI 永远正确，而是为它的不确定性做好准备。

原则一：从真实问题出发，而不是从技术出发

很多 AI 产品失败的原因是“为了 AI 而 AI”：先有一个酷炫的模型能力，再去寻找使用场景。更好的做法是从用户的真实痛点出发，评估 AI 是否是解决问题的最佳方式。有时候一个好的搜索框或一个模板，比一个聊天机器人更有效。如何验证需求可参考 AI 创业 MVP。

原则二：清晰传达能力边界

用户对 AI 的期望往往两极分化：要么以为它无所不能，要么一次失败后就完全不信任。产品需要帮助用户建立准确的预期：

  • 在入口处说明 AI 能做什么、不能做什么；
  • 提供示例问题和使用场景，引导用户在能力范围内使用；
  • 当请求超出能力范围时，明确告知并给出替代方案，而不是勉强生成一个低质量的结果。

原则三：为错误设计

AI 一定会犯错，关键是让错误容易被发现、容易被纠正：

让结果可核查

展示信息来源、引用原文、标注依据，让用户能够快速判断结果是否可信，参见让用户信任 AI。

让修改成本低

AI 生成的内容应该可以直接编辑，而不是只能接受或重新生成。比如写作助手生成的段落，用户可以修改其中几句，而不必从头再来。

提供重试和多选项

允许用户重新生成，或一次提供多个候选供选择。

保留撤销能力

AI 执行的操作应该可以撤销，至少在一段时间内可以恢复。

原则四：让用户保持控制

  • AI 建议，用户决定：对于重要决策和不可逆操作，AI 提供建议和草稿，由用户确认执行，参见人在回路的设计；
  • 可调节的自动化程度：让用户选择 AI 介入的程度，比如只给建议、自动执行后通知、完全自动化；
  • 透明的行为：让用户知道 AI 正在做什么、基于什么信息做出判断。

原则五：渐进式自动化

不要一开始就追求完全自动化。更稳妥的路径是：

  1. 辅助阶段：AI 提供建议，人工完成工作；
  2. 协作阶段：AI 完成初稿，人工审核修改；
  3. 自动阶段：AI 自动处理，人工抽检和处理例外。

每个阶段积累的数据和信任，为下一阶段打下基础。Copilot 与 Agent 两种产品形态的选择，可参考 Copilot 还是 Agent。

原则六：设计等待体验

AI 生成需要时间。使用流式输出让内容逐步出现，显示清晰的进度状态，对长时间任务采用异步处理和完成通知，参见降低大模型应用延迟。

原则七：建立反馈闭环

  • 在每个 AI 输出旁提供简单的反馈入口，例如有用、无用、报告问题；
  • 记录用户对 AI 输出的编辑行为，编辑幅度本身就是质量信号；
  • 把反馈数据用于改进提示词、补充知识和构建评测集；
  • 定期回顾失败案例，决定是改进 AI，还是调整产品设计来规避。

原则八：把评测当作产品能力

传统产品通过功能测试保证质量，AI 产品还需要持续评测输出质量。产品经理应该参与定义“好的输出”标准，并推动建立覆盖核心场景的评测集，参见如何构建评测集。

小结

优秀的 AI 产品不是隐藏 AI 的不确定性，而是坦然面对它：从真实问题出发，清晰传达能力边界，为错误设计纠错路径，让用户保持控制，通过渐进式自动化建立信任，并用反馈和评测持续改进。这些原则能帮助团队做出既有用又可靠的 AI 产品。