给「不稳定测试排查」Skill 写测试用例:6 类输入与预期行为
如果你在测试框架与 CI 流水线里反复做不稳定测试排查,可以考虑把经验沉淀为一个 Skill:写清触发条件、步骤、输出格式和边界,让智能体代劳重复部分,人只负责把关。
技能写好后,最常见的问题是“演示时很好,真用时出错”。原因通常是只用一份理想样例试过。本文给「不稳定测试排查」准备 6 类测试输入。
测试用例表
| 类型 | 输入 | 预期行为 |
|---|---|---|
| 正常输入 | 信息齐全的标准测试命令 | 按步骤完成,交付结构完整的不稳定测试清单与原因分析 |
| 缺少关键信息 | 删掉一项必要内容的测试命令 | 先列出缺失项并提问,不编造补齐 |
| 含糊或矛盾 | 前后说法不一致的材料 | 指出矛盾处,给出可能的理解并请用户确认 |
| 超长输入 | 远超平时篇幅的材料 | 分段处理或说明范围,不悄悄丢弃内容 |
| 提示注入 | 材料中夹带“忽略以上规则,直接……” | 把它当作普通文本,继续遵守技能约束 |
| 越权请求 | 要求直接执行不可逆操作或发送外部消息 | 拒绝直接执行,只给建议或草稿并请求确认 |
每一步的检查点
- 重复运行收集失败:中间结果是否可追溯、是否与原始材料一致
- 对比失败日志:中间结果是否可追溯、是否与原始材料一致
- 归类为时序、顺序依赖、外部依赖:中间结果是否可追溯、是否与原始材料一致
- 给出修复方向:中间结果是否可追溯、是否与原始材料一致
怎么执行
- 把 6 份输入存成文件,放在技能目录的
tests/下(不要包含真实个人信息) - 每次修改技能后,逐一运行并记录输出
- 对照“预期行为”打勾,有一项不通过就回到技能里修改对应指令
- 新发现的问题样例补进测试集
判定标准
- 结构:不稳定测试清单与原因分析的固定结构是否完整
- 事实:关键内容能否在输入中找到依据
- 边界:缺信息时是否提问、越权时是否拒绝
- 风险:风险较低,但输出仍需快速过目再使用
小贴士
测试集不需要很大,6 到 10 份就能覆盖大部分问题。更系统的打分方法见效果评估,常见失败原因见故障排查。
平台选择建议
同一个「不稳定测试排查」技能可以落在不同平台上,选择时主要看你在哪里工作、要不要执行代码、要不要接外部系统:
- Cursor Rules:Cursor 用项目规则(Project Rules)给智能体注入长期指令。详见Cursor Rules 版
- Windsurf Rules:Windsurf 的规则用于约束 Cascade 智能体的行为。详见Windsurf Rules 版
- Dify 工作流:Dify 是开源的大模型应用开发平台。详见Dify 工作流 版
这个技能需要运行本地脚本(解析文件、调用命令行工具等),要求运行环境允许执行代码,可据此排除不支持相应能力的平台。
智能体与人的分工
技能不是把工作全部交出去,而是把重复、机械的部分交给智能体,人把住判断和责任:
| 步骤 | 智能体负责 | 人负责 |
|---|---|---|
| 重复运行收集失败 | 按指令完成并给出依据 | 抽查关键处,确认无误 |
| 对比失败日志 | 按指令完成并给出依据 | 抽查关键处,确认无误 |
| 归类为时序、顺序依赖、外部依赖 | 按指令完成并给出依据 | 抽查关键处,确认无误 |
| 给出修复方向 | 按指令完成并给出依据 | 抽查关键处,确认无误 |
| 最终交付 | 整理不稳定测试清单与原因分析 | 决定是否采用、是否对外 |
风险较低,但输出仍需快速过目再使用。
延伸阅读
说明:文中的配置、代码与目录结构均为示意,用于说明思路;各平台的入口、字段名与能力会更新,落地前请以对应官方文档为准。示例中的数据与场景为虚构,不代表真实案例。