评估先于调参:没有评分表,你只是在随机重试。 即使是个人使用,三四个维度也能让提示词迭代有方向。

最小可行评分表

维度1 分3 分5 分
相关性答非所问部分碰到直击任务
事实克制明显编造有猜测未标注未知处标明
格式难粘贴基本可用完全符合模板
可执行性只有空话有步骤但不清可直接照做

每次输出按维度打分,看哪一列长期低。

操作步骤

  1. 固定同一输入样例 3 个。
  2. 同一提示词跑 3 次,填表。
  3. 只改与最低分维度对应的约束(例如格式低就加强模板,不先改文风)。
  4. 再跑 3 次,对比平均分。

提示词片段:让模型先自检

输出后,按相关性/事实克制/格式/可执行性各给 1–5 分,
并写一句「若要到 5 分应改什么」。分数仅作参考,最终以我的评分表为准。

自检不能替代你的表,但能暴露模型也知道不稳的地方。

注意

  • 创意写作与合规文档的「好」不同,维度要按任务换。
  • 不要一次改五处提示词,否则无法归因。

练习:用同一输入对比两版提示词

准备一段你本周真实会用到的材料,分别用「旧提示词」和「按本文改过的提示词」各生成一次,然后只比较:

  1. 是否还要手工删废话。
  2. 关键字段是否一次成型。
  3. 不确定处是否被标成待确认,而不是被圆滑地补全。

把对比结论写在模板版本备注里(例如 v3:加入负面约束后少删两段开场白)。个人知识库不需要复杂平台,一块笔记就够。

常见问题

问:一定要用很贵的模型吗?
答:多数通知、清单、结构化合稿用你日常能稳定调用的对话模型即可;关键是材料和规则要由人提供。

问:生成后还要改多久?
答:第一周可能每条改 2–5 分钟;模板稳定后,多数情况只替换变量并扫一眼敏感句。

问:能不能让 AI 直接对客发送?
答:涉及承诺、金钱、健康、未成年人与安全核验的内容,建议始终人工确认后再发。

为什么值得做成固定流程

临时找 AI「帮我写一下」每次都要重新解释背景,结果忽长忽短。固定流程的好处是:规则只维护一份,新人也能按同一口径沟通,并且出了问题可以回看是材料不全还是模板过时。把提示词、审核人和更新日期写在一起,比把文案散落在聊天记录里更可持续。

把评分表嵌进日常

不必每次都填完整表格。可以在笔记里用一行缩写:相关4 事实5 格式3 执行4。当某一维连续低于 3,本周只攻坚这一维。团队协作时,先共同试评同一份输出,校准「3 分」长什么样,否则评分表会变成各自的心情分。对合规、对外公开内容,可把「事实克制」权重大于文风偏好。

相关阅读:成对盲评评估、少样本示例怎么选,更多见 AI 技能。