如果你在代码、配置与云环境里反复做提示注入测试,可以考虑把经验沉淀为一个 Skill:写清触发条件、步骤、输出格式和边界,让智能体代劳重复部分,人只负责把关。

单个技能解决一个环节,把几个技能串起来,才能覆盖一整段工作。本文示范「提示注入测试」与三个相关技能的组合。

组合方案

顺序技能作用交给下一步的东西
1隐私影响评估为新功能做隐私影响初步评估评估报告
2提示注入测试为大模型应用设计提示注入测试用例测试用例与结果
3输入校验审查检查注入、路径穿越与反序列化风险问题清单
4容量预估根据历史指标估算资源何时需要扩容容量预估

交接格式是关键

技能之间靠“上一步的输出就是下一步的输入”衔接。建议约定:

  • 每个技能的输出都带固定标题,便于下一个技能定位内容
  • 不确定项统一放在“需人工确认”小节,后续技能不得把它当作确定事实
  • 「提示注入测试」接收的是应用说明,如果上一步给的格式不同,先做一次转换

怎么编排

有三种常见方式:

  1. 人工串联:每一步结束后由人确认,再触发下一个技能,最稳妥
  2. 编排指令:写一个总技能,列出调用顺序与交接要求,由智能体依次执行
  3. 工作流平台:在 Dify、扣子、n8n 等平台中把每个技能做成节点,用条件分支处理异常

编排指令示例(示意)

# 组合流程:隐私影响评估 → 提示注入测试 → 输入校验审查 → 容量预估
1. 调用 privacy-impact,保存输出为 step1
2. 以 step1 为输入调用 prompt-injection-test,保存为 step2
3. 以 step2 为输入调用 input-validation-review
4. 调用 capacity-forecast 做收尾
- 任一步出现“需人工确认”时暂停,等待用户回复后再继续

注意事项

  • 链条越长,错误越容易被放大,关键节点要有人看
  • 属于中等风险:结果会影响业务判断,建议在输出前设置人工审核点
  • 每个技能单独测试通过后再组合

相关技能

准备一份好范例

在技能的参考资料里放一份你认可的测试用例与结果范例,往往比多写十条规则更有效。好范例应当:

  • 来自真实工作,但已去除个人信息和敏感数据
  • 体现团队习惯的结构、措辞和详略程度
  • 包含一处“需人工确认”的标注示范,让智能体学会如何表达不确定
  • 篇幅适中,不要比平时的产出长太多

范例不必多,一到两份即可;太多范例反而会让智能体机械模仿某一份的细节。

每一步要产出什么

把每一步的中间产出写清楚,智能体就不容易跳步,人也方便定位问题:

  1. 识别外部输入点:产出一段简短的中间结果,并注明依据来自应用说明的哪一部分
  2. 构造注入样例:产出一段简短的中间结果,并注明依据来自应用说明的哪一部分
  3. 运行并记录:产出一段简短的中间结果,并注明依据来自应用说明的哪一部分
  4. 给出防护建议:产出一段简短的中间结果,并注明依据来自应用说明的哪一部分

最后一步之后,再把这些中间结果汇总成测试用例与结果。中间结果可以折叠或省略展示,但在技能指令中要求智能体“先完成再汇总”,能明显减少遗漏。

延伸阅读

说明:文中的配置、代码与目录结构均为示意,用于说明思路;各平台的入口、字段名与能力会更新,落地前请以对应官方文档为准。示例中的数据与场景为虚构,不代表真实案例。