人工卡点(human checkpoint)不是「不信任 AI」,而是把不可逆动作挡在人确认之后。 草稿可以自动,发送、扣款、删数据通常不能。

哪些步骤建议卡点

  • 对外发送:邮件、社媒、客户短信。
  • 资金与合约:改价、退款、下单。
  • 权限变更:加管理员、开生产访问。
  • 高影响删除:清库、批量下架。

只读分析、内部摘要、格式转换可以自动跑完。

卡点界面要展示什么

  1. 拟执行动作的人话描述(不是原始 JSON 甩给业务同学)。
  2. 关键字段 diff(改前 / 改后)。
  3. 依据:用了哪些输入、检索了哪些文档。
  4. 一键批准 / 驳回 / 编辑后批准。

设计步骤

  1. 画出工作流,标出外部副作用节点。
  2. 为每个副作用节点设角色(谁可以批)与超时策略。
  3. 超时默认「不执行」还是「升级给备份审批人」,写进规程。
  4. 留审计日志:谁在何时批了什么。

提示词配合(示意)

遇到需要发送、付款、删除或修改生产配置的步骤,只生成待审批草稿,
调用「create_approval」工具,等待人工结果后再继续。禁止自行调用执行类工具。

常见坑

  • 卡点太多,团队绕过系统改用私人账号操作。
  • 卡点太少,出了事无法回滚。
  • 审批人看到的是技术字段,看不懂就盲点「同意」。

落地检查

选一个真实工作流画泳道图,用红点标出副作用节点,确认每个红点都有审批角色与超时默认「不执行」。用一次演习:审批人拒批后,流程不得偷偷继续。审计日志保留至少满足公司合规要求的时长。若业务绕过系统改用私人邮箱发送,视为流程失败并复盘。

卡点文案用业务语言,把 JSON 留给高级选项折叠里。

相关阅读:Agent 幂等工具调用、技能缺口自评,更多见 AI 技能分类。

写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。

写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。

写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。

写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。