先说清楚它是什么:Arize Phoenix 属于「数据与分析」方向的开源项目,开源的大模型可观测与评测工具。

如果你刚开始接触它,可以按下面 7 天的安排练习,每天 20 到 40 分钟。

每日安排

  • 第 1 天:注册与熟悉界面:阅读仓库 README 与许可证;按官方推荐方式安装(容器或包管理器)
  • 第 2 天:完成第一个任务「自然语言问数」,按下文提示词操作。
  • 第 3 天:换一类任务「图表建议」,对比两次结果的质量。
  • 第 4 天:学习关键概念:口径、文本转 SQL、语义层。
  • 第 5 天:用真实工作材料做一次「指标异动解读」,记录省下的时间和需要返工的地方。
  • 第 6 天:排查问题:对照常见问题「AI 算出的数字和报表不一致」等检查自己的用法。
  • 第 7 天:复盘:保留有效的提示词,写下继续使用或放弃的理由。

第 2 天的练习材料

自然语言问数

准备材料:一张销售明细表。

请基于这张表回答:上个季度销售额最高的 3 个地区是哪些?与前一季度相比变化多少?请同时给出你使用的计算方法或 SQL,便于我复核。

验收标准:给出了可复核的计算过程。

一周后怎么判断值不值得继续

  • 是否稳定地节省了时间,而不只是第一次觉得新鲜。
  • 返工次数是否在下降。
  • 与 Langfuse 等同类相比,是否更适合你的场景。
  • 数据与费用是否在可接受范围内。

延伸练习

写 SQL 查询

适用情况:手头有数据库表结构说明时。

根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

验收标准:说明了口径问题。

数据清洗方案

适用情况:手头有一份有缺失和异常值的数据时。

分析这份数据的质量问题:缺失值比例、异常值、格式不一致的字段,给出处理建议,并说明每种处理方式对结论的影响。

验收标准:说明了处理对结论的影响。

评测大模型应用

准备材料:一批真实用户问题和应用回答。

为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。

检查点:评分标准清晰可复用。

常见问题:图表结论被过度解读

区分相关与因果,在报告中标注假设。

常见问题:生成的 SQL 运行报错

提供准确的表结构和字段说明,先在测试库运行。

常见问题:问数结果看似合理但错误

准备几道已知答案的问题做抽检。

概念补充:文本转 SQL

把自然语言问题转换为数据库查询语句。

概念补充:异常检测

自动发现偏离正常范围的数据点。

适合人群:咨询顾问

咨询顾问可以用 Phoenix 处理行业研究、访谈整理等工作。需要注意:客户机密遵守保密协议,研究结论注明来源。

适合人群:数据分析师

数据分析师可以用 Phoenix 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。

使用提醒

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

文中提示词和示例仅作示意,实际效果取决于你的材料和 Phoenix 当前版本,重要内容请人工核对后再使用。

延伸阅读