在「数据与分析」类工具里，Arize Phoenix 的定位是：开源的大模型可观测与评测工具。

用 AI 最容易犯的错是「看着不错就用了」，这篇给出一张可复用的打分表。

评分表（每项 1 到 5 分）

维度看什么1 分5 分
数字正确结果能否被独立复核明显不合格无需修改即可使用
口径一致与既有报表定义是否一致明显不合格无需修改即可使用
可解释是否给出计算过程与假设明显不合格无需修改即可使用
可视化恰当图表是否清晰且不误导明显不合格无需修改即可使用
数据安全是否遵守权限与脱敏要求明显不合格无需修改即可使用

建议：任一维度低于 3 分就不要直接使用；总分用于比较不同提示词或不同工具的效果。

用一个任务试打分

写 SQL 查询

适用情况：手头有数据库表结构说明时。

根据以下表结构写 SQL：统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

验收标准：说明了口径问题。

怎么让评分更可靠

  • 同一批材料至少测 5 次，不只看最好的一次。
  • 两人分别打分，分歧大的维度再讨论标准。
  • 把 Arize Phoenix 的结果与人工完成或 LangSmith 的结果放在一起盲评。
  • 每次改提示词后用同一批材料复测。

补充练习

自然语言问数

输入：一张销售明细表。

请基于这张表回答：上个季度销售额最高的 3 个地区是哪些？与前一季度相比变化多少？请同时给出你使用的计算方法或 SQL，便于我复核。

交付前确认：给出了可复核的计算过程。

图表建议

准备材料：一组需要汇报的数据。

根据这些数据推荐合适的图表类型，说明理由，并指出容易误导读者的画法（如截断坐标轴）。

检查点：指出了误导风险。

评测大模型应用

输入：一批真实用户问题和应用回答。

为这批回答设计评测：定义 4 个评分维度，写出评分标准，抽取 20 条进行人工打分，并统计各维度的问题类型。

交付前确认：评分标准清晰可复用。

常见问题：敏感数据暴露给模型

使用脱敏视图或只读账号，限制可访问的表。

常见问题：图表结论被过度解读

区分相关与因果，在报告中标注假设。

常见问题：问数结果看似合理但错误

准备几道已知答案的问题做抽检。

概念补充：口径

指标的定义与计算规则，不同口径会得出不同结论。

概念补充：文本转 SQL

把自然语言问题转换为数据库查询语句。

适合人群：财务人员

财务人员可以用 Phoenix 处理单据识别录入、报表说明与分析等工作。需要注意：财务数据属于敏感信息，优先使用企业版或本地方案，结果需复核。

适合人群：HR 与招聘

HR 与招聘可以用 Phoenix 处理岗位描述撰写、面试题与评估表等工作。需要注意：简历筛选不得以性别、年龄等因素做歧视性判断，候选人信息需妥善保管。

写在最后

文中提示词和示例仅作示意，实际效果取决于你的材料和 Phoenix 当前版本，重要内容请人工核对后再使用。

所有示例输出均为示意，不代表真实统计或效果承诺；请以自己的测试结果为准。

延伸阅读