怎么判断 Sierra 的产出好不好:一张评分表
Sierra 是一款在线服务:为企业搭建面向客户的对话智能体的平台。
用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。
评分表(每项 1 到 5 分)
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 解决率 | 问题是否被真正解决 | 明显不合格 | 无需修改即可使用 |
| 准确性 | 政策、流程信息是否正确 | 明显不合格 | 无需修改即可使用 |
| 语气 | 是否礼貌、共情 | 明显不合格 | 无需修改即可使用 |
| 合规 | 是否遵守隐私与承诺边界 | 明显不合格 | 无需修改即可使用 |
| 效率 | 是否减少了客户等待和重复沟通 | 明显不合格 | 无需修改即可使用 |
建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
工单分类
准备材料:一批未分类的工单。
按「账号 / 支付 / 物流 / 产品故障 / 建议」分类这些工单,标出情绪激烈需要优先处理的,以及可能是同一故障的集中反馈。
检查点:识别出集中反馈。
怎么让评分更可靠
- 同一批材料至少测 5 次,不只看最好的一次。
- 两人分别打分,分歧大的维度再讨论标准。
- 把 Sierra 的结果与人工完成或 Decagon 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
更多可以试的用法
回复草稿
适用情况:手头有一张客户投诉工单时。
为这张工单起草回复:先确认客户遇到的问题,说明我们会怎么处理和时间预期,不承诺政策以外的补偿,语气诚恳。
检查点:没有超出政策的承诺。
知识库补全
适用情况:手头有最近一个月的工单记录时。
分析这些工单,找出知识库中没有覆盖的 10 个高频问题,为每个问题起草一篇帮助文章草稿:问题描述、原因、解决步骤。
交付前确认:覆盖了真实高频问题。
满意度分析
输入:一批满意度评价和留言。
把评价留言归类为主要原因,统计各类数量,摘录有代表性的原话,并给出 3 条改进建议。
交付前确认:原话被准确摘录。
常见问题:知识库过时
建立更新责任人和定期复查机制。
常见问题:机器人承诺了无法兑现的事
限制回答范围,涉及退款赔偿的问题强制转人工。
常见问题:回复语气生硬
提供优秀人工回复样例作为风格参考。
概念补充:知识库
客服与机器人回答问题的依据,需要持续维护。
概念补充:首次解决率
第一次接触就解决问题的比例。
适合人群:数据分析师
数据分析师可以用 Sierra 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。
适合人群:新媒体运营
新媒体运营可以用 Sierra 处理内容排期、数据复盘等工作。需要注意:活动规则与奖品说明要准确,避免诱导分享等违规玩法。
适合人群:行政与助理
行政与助理可以用 Sierra 处理会议安排与纪要、通知公告等工作。需要注意:员工个人信息与内部文件按权限管理。
使用提醒
涉及个人信息、商业机密或受监管数据时,先确认 Sierra 的数据处理条款,再决定能否使用。
本文基于 Sierra 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。