漏斗分析 Skill 效果评估方法:样例集、评分维度与迭代
把「漏斗分析」交给智能体,难点不在模型能力,而在流程是否说清楚:输入是什么(事件数据),按什么顺序处理,交付什么(漏斗报告),哪些事不能做。Skill 就是把这些写下来的载体。
“感觉好用”不足以说明技能有效。下面给出一套轻量的评估方法,用来判断「漏斗分析」是否达标,以及每次修改后是变好还是变坏。
1. 建一个样例集
收集 10~20 份有代表性的事件数据(已脱敏),覆盖常见情况、困难情况和边界情况。为每份样例写下“合格输出应该包含什么”。
2. 定义评分维度
| 维度 | 0 分 | 1 分 | 2 分 |
|---|---|---|---|
| 完整性 | 缺少主要部分 | 缺少次要部分 | 漏斗报告结构完整 |
| 准确性 | 有编造或明显错误 | 有小瑕疵 | 内容都能在输入中找到依据 |
| 流程遵循 | 跳过多个步骤 | 跳过一步 | 按步骤执行 |
| 边界处理 | 缺信息时编造 | 部分提问 | 先提问或明确标注 |
| 可用性 | 需要大改 | 需要小改 | 基本可直接使用 |
3. 打分方式
- 人工打分最可靠,两人独立打分取平均
- 可以让另一个模型按评分表初评,但要人工抽查,不要完全依赖
- 记录每个样例的得分和问题描述
4. 回归测试
每次修改技能后,跑一遍完整样例集,比较总分与各维度变化。某个维度下降时,回看是哪条修改导致的。
5. 关注真实使用
离线样例之外,留意真实使用中被人工大幅修改的输出,把它们补进样例集。
每一步可以单独检查
- 定义步骤:是否完成、是否有依据
- 计算各步转化:是否完成、是否有依据
- 按渠道拆分:是否完成、是否有依据
- 提出优化假设:是否完成、是否有依据
提醒
评分表是工具,不是目标。风险较低,但输出仍需快速过目再使用。不要为了分数好看而让技能输出冗长内容。相关:测试用例、故障排查。
每一步要产出什么
把每一步的中间产出写清楚,智能体就不容易跳步,人也方便定位问题:
- 定义步骤:产出一段简短的中间结果,并注明依据来自事件数据的哪一部分
- 计算各步转化:产出一段简短的中间结果,并注明依据来自事件数据的哪一部分
- 按渠道拆分:产出一段简短的中间结果,并注明依据来自事件数据的哪一部分
- 提出优化假设:产出一段简短的中间结果,并注明依据来自事件数据的哪一部分
最后一步之后,再把这些中间结果汇总成漏斗报告。中间结果可以折叠或省略展示,但在技能指令中要求智能体“先完成再汇总”,能明显减少遗漏。
领域注意事项
「漏斗分析」属于数据分析领域,使用者多是数据分析师与运营,工作环境通常是表格、数据库与 Notebook。这个领域最重要的一条底线是:结论要回到原始数据核对口径,避免把相关当因果。
建议把这条底线原样写进技能的约束部分,而不是指望智能体自己意识到。同时,在团队内部明确:智能体给出的漏斗报告只是初稿或建议,最终由谁签字确认、出了问题由谁负责。
延伸阅读
- 漏斗分析 · n8n AI Agent 版
- 漏斗分析 · SKILL.md 写法
- 漏斗分析 · 安全审查
- 看板审查 · 效果评估
- 周报数据汇总 · 效果评估
- 智能体Skills 分类:625 个技能 × 32 个角度
说明:文中的配置、代码与目录结构均为示意,用于说明思路;各平台的入口、字段名与能力会更新,落地前请以对应官方文档为准。示例中的数据与场景为虚构,不代表真实案例。