用评分表评估 AI 输出:先定维度再打分,少靠感觉改提示词
评估先于调参:没有评分表,你只是在随机重试。 即使是个人使用,三四个维度也能让提示词迭代有方向。
最小可行评分表
| 维度 | 1 分 | 3 分 | 5 分 |
|---|---|---|---|
| 相关性 | 答非所问 | 部分碰到 | 直击任务 |
| 事实克制 | 明显编造 | 有猜测未标注 | 未知处标明 |
| 格式 | 难粘贴 | 基本可用 | 完全符合模板 |
| 可执行性 | 只有空话 | 有步骤但不清 | 可直接照做 |
每次输出按维度打分,看哪一列长期低。
操作步骤
- 固定同一输入样例 3 个。
- 同一提示词跑 3 次,填表。
- 只改与最低分维度对应的约束(例如格式低就加强模板,不先改文风)。
- 再跑 3 次,对比平均分。
提示词片段:让模型先自检
输出后,按相关性/事实克制/格式/可执行性各给 1–5 分,
并写一句「若要到 5 分应改什么」。分数仅作参考,最终以我的评分表为准。
自检不能替代你的表,但能暴露模型也知道不稳的地方。
注意
- 创意写作与合规文档的「好」不同,维度要按任务换。
- 不要一次改五处提示词,否则无法归因。
练习:用同一输入对比两版提示词
准备一段你本周真实会用到的材料,分别用「旧提示词」和「按本文改过的提示词」各生成一次,然后只比较:
- 是否还要手工删废话。
- 关键字段是否一次成型。
- 不确定处是否被标成待确认,而不是被圆滑地补全。
把对比结论写在模板版本备注里(例如 v3:加入负面约束后少删两段开场白)。个人知识库不需要复杂平台,一块笔记就够。
常见问题
问:一定要用很贵的模型吗?
答:多数通知、清单、结构化合稿用你日常能稳定调用的对话模型即可;关键是材料和规则要由人提供。
问:生成后还要改多久?
答:第一周可能每条改 2–5 分钟;模板稳定后,多数情况只替换变量并扫一眼敏感句。
问:能不能让 AI 直接对客发送?
答:涉及承诺、金钱、健康、未成年人与安全核验的内容,建议始终人工确认后再发。
为什么值得做成固定流程
临时找 AI「帮我写一下」每次都要重新解释背景,结果忽长忽短。固定流程的好处是:规则只维护一份,新人也能按同一口径沟通,并且出了问题可以回看是材料不全还是模板过时。把提示词、审核人和更新日期写在一起,比把文案散落在聊天记录里更可持续。
把评分表嵌进日常
不必每次都填完整表格。可以在笔记里用一行缩写:相关4 事实5 格式3 执行4。当某一维连续低于 3,本周只攻坚这一维。团队协作时,先共同试评同一份输出,校准「3 分」长什么样,否则评分表会变成各自的心情分。对合规、对外公开内容,可把「事实克制」权重大于文风偏好。