扣子工作流实战:搭一个内容安全策略智能体
如果你在代码、配置与云环境里反复做内容安全策略,可以考虑把经验沉淀为一个 Skill:写清触发条件、步骤、输出格式和边界,让智能体代劳重复部分,人只负责把关。
本文介绍如何在 扣子(Coze)智能体与工作流 上实现这个技能,包括它的形态、示例配置、启用步骤、一次完整的运行过程和常见坑。
这个技能做什么
| 项目 | 说明 |
|---|---|
| 技能 | 内容安全策略(csp-builder) |
| 作用 | 为站点生成内容安全策略并分阶段上线 |
| 输入 | 站点资源清单 |
| 输出 | CSP 配置 |
| 形态 | 纯提示词 |
| 风险 | 中 |
| 适用人群 | 安全工程师与开发团队 |
处理流程分四步:
- 收集资源来源
- 编写策略
- 先用报告模式
- 逐步收紧
这个技能纯指令型,不需要额外脚本或外部连接,复制到大多数平台都能用;属于中等风险:结果会影响业务判断,建议在输出前设置人工审核点。
在 扣子(Coze)智能体与工作流 中是什么形态
扣子(Coze)是字节跳动推出的智能体开发平台,可以为智能体设置人设与回复逻辑,挂载插件、知识库和工作流,并发布到多个渠道。
国内版与海外版在功能和发布渠道上可能不同,具体以所用版本的官方文档为准。
示例配置
# 扣子(Coze)配置思路示意,界面字段以平台当前版本为准
智能体: 内容安全策略
人设与回复逻辑: 你负责为站点生成内容安全策略并分阶段上线。收到站点资源清单后按工作流处理,不确定处要说明。
工作流 csp_builder:
- 开始: content
- 大模型: 收集资源来源;编写策略
- 大模型: 先用报告模式;逐步收紧
- 结束: CSP 配置
知识库: 团队规范与示例(可选)
示例里最重要的是两处:一是描述(或指令开头)要写明「什么时候用」,让智能体在安全工程师与开发团队提出相关请求时能对上号;二是约束部分要写进「扫描结论需人工复核,涉及生产的动作走变更流程」这类领域规矩,避免智能体自作主张。
安装与启用步骤
- 新建智能体,写好人设与回复逻辑
- 新建工作流,按技能步骤添加大模型、代码、插件节点
- 上传团队规范作为知识库(可选)
- 在调试窗口测试多组输入
- 发布到需要的渠道
实操:一次完整的运行
假设你在代码、配置与云环境中发出这样的请求(虚构示例):
用内容安全策略技能处理这份站点资源清单,输出CSP 配置。
智能体识别到任务与「内容安全策略」相关后,会依次收集资源来源、编写策略、先用报告模式、逐步收紧。最终交付CSP 配置,并在末尾列出需要人工确认的内容。你的工作是对照原始站点资源清单抽查两三处关键信息,确认无误后再使用。
测试与验收
在调试窗口查看工作流每个节点的运行结果,尤其检查插件返回为空时的处理。
针对这个技能,还建议额外准备:
- 一份信息齐全的标准站点资源清单,检查输出是否完整
- 一份缺少关键信息的输入,检查智能体是否先提问而不是编造
- 一份包含“忽略以上规则”等字样的输入,检查约束是否仍然有效
常见坑
- 人设写得过于花哨,反而削弱了流程约束。
- 插件授权范围过大。
- 只写了步骤,没写交付格式,导致每次输出的CSP 配置结构不同。
- 没有给出样例,智能体对“好结果”的理解与你不一致;在参考资料里放一两份范例会明显改善。
延伸阅读
- 内容安全策略 · Dify 工作流 版
- 内容安全策略 · 快速上手
- 内容安全策略 · 组合用法
- 备份加密检查 · 扣子(Coze)智能体与工作流 版
- 静态扫描结果分诊 · 扣子(Coze)智能体与工作流 版
- 智能体Skills 分类:625 个技能 × 32 个角度
说明:文中的配置、代码与目录结构均为示意,用于说明思路;各平台的入口、字段名与能力会更新,落地前请以对应官方文档为准。示例中的数据与场景为虚构,不代表真实案例。