在「数据与分析」类工具里,Arize Phoenix 的定位是:开源的大模型可观测与评测工具。

与其看十篇介绍,不如完整做一个小项目,这篇带你走一遍。

项目:写 SQL 查询

目标:用 Arize Phoenix 完成一次「写 SQL 查询」,交付一份可以直接给同事或客户看的结果。预计用时 1 小时以内。

步骤

  1. 阅读仓库 README 与许可证。
  2. 准备材料:数据库表结构说明(先脱敏)
  3. 复制下面的提示词,替换方括号内容。
  4. 第一次结果出来后,只针对一个问题追问修改。
  5. 按验收标准检查:说明了口径问题。
  6. 保存提示词与最终结果,写三行复盘。
根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

复盘模板

这次任务:
节省或多花的时间:
需要人工修改的地方:
下次会改进的提示:
是否继续使用:

做完之后

可以尝试第二个任务「指标异动解读」,或者把这次的流程分享给同事一起试。

补充练习

图表建议

输入:一组需要汇报的数据。

根据这些数据推荐合适的图表类型,说明理由,并指出容易误导读者的画法(如截断坐标轴)。

检查点:指出了误导风险。

评测大模型应用

输入:一批真实用户问题和应用回答。

为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。

交付前确认:评分标准清晰可复用。

数据清洗方案

准备材料:一份有缺失和异常值的数据。

分析这份数据的质量问题:缺失值比例、异常值、格式不一致的字段,给出处理建议,并说明每种处理方式对结论的影响。

验收标准:说明了处理对结论的影响。

常见问题:敏感数据暴露给模型

使用脱敏视图或只读账号,限制可访问的表。

常见问题:图表结论被过度解读

区分相关与因果,在报告中标注假设。

常见问题:生成的 SQL 运行报错

提供准确的表结构和字段说明,先在测试库运行。

概念补充:评测集

用于反复检验模型或应用效果的标准问题集合。

概念补充:文本转 SQL

把自然语言问题转换为数据库查询语句。

适合人群:HR 与招聘

HR 与招聘可以用 Phoenix 处理岗位描述撰写、面试题与评估表等工作。需要注意:简历筛选不得以性别、年龄等因素做歧视性判断,候选人信息需妥善保管。

适合人群:电商运营

电商运营可以用 Phoenix 处理商品详情与主图、活动方案与客服话术等工作。需要注意:商品参数和促销规则必须与后台一致,避免虚假宣传。

适合人群:财务人员

财务人员可以用 Phoenix 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。

写在最后

文中提示词和示例仅作示意,实际效果取决于你的材料和 Phoenix 当前版本,重要内容请人工核对后再使用。

本文基于 Arize Phoenix 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。

延伸阅读