怎么判断 Spellbook 的产出好不好:一张评分表
Spellbook 是一款插件 / 扩展:在 Word 中起草与审阅合同的 AI 插件。
用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。
评分表(每项 1 到 5 分)
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 专业准确 | 是否符合行业规范和事实 | 明显不合格 | 无需修改即可使用 |
| 可追溯 | 结论能否回到原始资料 | 明显不合格 | 无需修改即可使用 |
| 合规 | 是否满足行业监管与隐私要求 | 明显不合格 | 无需修改即可使用 |
| 责任清晰 | 是否保留专业人员的最终判断 | 明显不合格 | 无需修改即可使用 |
| 效率 | 是否切实减少重复性工作 | 明显不合格 | 无需修改即可使用 |
建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
资料检索与摘要
准备材料:一个专业问题。
检索与这个问题相关的权威资料,给出摘要并附出处,明确区分「资料原文结论」与「推论」。
检查点:区分原文与推论。
怎么让评分更可靠
- 同一批材料至少测 5 次,不只看最好的一次。
- 两人分别打分,分歧大的维度再讨论标准。
- 把 Spellbook 的结果与人工完成或 Ironclad AI 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
补充练习
批量文档审阅
适用情况:手头有一批合同、报告或单据时。
审阅这批文档,标出缺少关键条款、金额不一致或日期异常的文件,输出问题清单,不做最终判断。
交付前确认:只标问题不下结论。
合规清单
适用情况:手头有一项业务流程时。
针对这项流程列出需要关注的合规检查点,每项注明依据类型(法规 / 行业标准 / 内部制度)以及需要向谁确认。
交付前确认:注明了确认对象。
常见问题:输出引用了不存在的条款或文献
只接受能追溯到原文的引用,逐条核对。
常见问题:识别模型在新场景失效
补充新场景的标注数据重新评估。
常见问题:数据合规审批卡住
提前准备数据流向说明、供应商资质和合同条款。
概念补充:免责声明
说明 AI 输出仅供参考、不构成专业意见的提示。
概念补充:人在回路
关键判断必须由有资质的人员确认。
适合人群:行政与助理
行政与助理可以用 Spellbook 处理会议安排与纪要、通知公告等工作。需要注意:员工个人信息与内部文件按权限管理。
适合人群:财务人员
财务人员可以用 Spellbook 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。
适合人群:数据分析师
数据分析师可以用 Spellbook 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。
注意事项
本文基于 Spellbook 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。
文中提示词和示例仅作示意,实际效果取决于你的材料和 Spellbook 当前版本,重要内容请人工核对后再使用。