AI 工作流里的人工卡点:什么步骤必须人点头
人工卡点(human checkpoint)不是「不信任 AI」,而是把不可逆动作挡在人确认之后。 草稿可以自动,发送、扣款、删数据通常不能。
哪些步骤建议卡点
- 对外发送:邮件、社媒、客户短信。
- 资金与合约:改价、退款、下单。
- 权限变更:加管理员、开生产访问。
- 高影响删除:清库、批量下架。
只读分析、内部摘要、格式转换可以自动跑完。
卡点界面要展示什么
- 拟执行动作的人话描述(不是原始 JSON 甩给业务同学)。
- 关键字段 diff(改前 / 改后)。
- 依据:用了哪些输入、检索了哪些文档。
- 一键批准 / 驳回 / 编辑后批准。
设计步骤
- 画出工作流,标出外部副作用节点。
- 为每个副作用节点设角色(谁可以批)与超时策略。
- 超时默认「不执行」还是「升级给备份审批人」,写进规程。
- 留审计日志:谁在何时批了什么。
提示词配合(示意)
遇到需要发送、付款、删除或修改生产配置的步骤,只生成待审批草稿,
调用「create_approval」工具,等待人工结果后再继续。禁止自行调用执行类工具。
常见坑
- 卡点太多,团队绕过系统改用私人账号操作。
- 卡点太少,出了事无法回滚。
- 审批人看到的是技术字段,看不懂就盲点「同意」。
落地检查
选一个真实工作流画泳道图,用红点标出副作用节点,确认每个红点都有审批角色与超时默认「不执行」。用一次演习:审批人拒批后,流程不得偷偷继续。审计日志保留至少满足公司合规要求的时长。若业务绕过系统改用私人邮箱发送,视为流程失败并复盘。
卡点文案用业务语言,把 JSON 留给高级选项折叠里。
相关阅读:Agent 幂等工具调用、技能缺口自评,更多见 AI 技能分类。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。
写完模板后,建议在真实场景试运行一次,把含糊句子改成你们行话,并删掉任何模型编造的数字、法规条款号或保证措辞。把终版存入共享文档并注明适用日期,避免同事继续使用过期口径。