开源的大模型可观测与评测工具——这是 Arize Phoenix 最主要的用途，也是本文讨论的前提。

换工具的成本常被低估，这篇按步骤列出迁移前后要做的事。

以从 Langfuse 迁移为例

迁移不一定是「全面替换」。很多团队会先把一部分任务交给 Arize Phoenix，与 Langfuse 并行一段时间再决定。

迁移步骤

  1. 盘点资产：现在用的提示词、模板、知识库、自动化流程和历史产出。
  2. 确认导出方式：哪些能导出、格式是什么、哪些只能手工迁移。
  3. 挑 3 个典型任务（如「图表建议」「写 SQL 查询」）在两边同时做。
  4. 按同一张评分表比较结果。
  5. 迁移账号与权限，通知团队新的使用规范。
  6. 保留旧工具一段时间的只读访问，确认无遗漏后再停用。

对比测试用的任务

图表建议

输入：一组需要汇报的数据。

根据这些数据推荐合适的图表类型，说明理由，并指出容易误导读者的画法（如截断坐标轴）。

交付前确认：指出了误导风险。

不建议迁移的情况

  • 核心流程依赖 Langfuse 特有的功能或集成。
  • 团队刚刚完成培训，切换成本过高。
  • 新工具的数据处理条款不满足要求。

更多可以试的用法

评测大模型应用

适用情况：手头有一批真实用户问题和应用回答时。

为这批回答设计评测：定义 4 个评分维度，写出评分标准，抽取 20 条进行人工打分，并统计各维度的问题类型。

验收标准：评分标准清晰可复用。

指标异动解读

准备材料：一个突然下降的业务指标。

日活本周下降了，请列出可能原因的排查清单，按「数据问题 / 产品变化 / 外部因素」分类，每项写明需要查看的数据。

验收标准：先排查数据本身问题。

自然语言问数

输入：一张销售明细表。

请基于这张表回答：上个季度销售额最高的 3 个地区是哪些？与前一季度相比变化多少？请同时给出你使用的计算方法或 SQL，便于我复核。

检查点：给出了可复核的计算过程。

常见问题：生成的 SQL 运行报错

提供准确的表结构和字段说明，先在测试库运行。

常见问题：问数结果看似合理但错误

准备几道已知答案的问题做抽检。

常见问题：图表结论被过度解读

区分相关与因果，在报告中标注假设。

概念补充：评测集

用于反复检验模型或应用效果的标准问题集合。

概念补充：语义层

把业务指标定义统一管理，让 AI 查询时口径一致。

适合人群：财务人员

财务人员可以用 Phoenix 处理单据识别录入、报表说明与分析等工作。需要注意：财务数据属于敏感信息，优先使用企业版或本地方案，结果需复核。

适合人群：新媒体运营

新媒体运营可以用 Phoenix 处理内容排期、数据复盘等工作。需要注意：活动规则与奖品说明要准确，避免诱导分享等违规玩法。

适合人群：销售

销售可以用 Phoenix 处理客户背景调研、跟进邮件与话术等工作。需要注意：客户数据按公司规定处理，报价和承诺以合同为准。

使用提醒

涉及个人信息、商业机密或受监管数据时，先确认 Arize Phoenix 的数据处理条款，再决定能否使用。

本文基于 Arize Phoenix 公开的定位与通用用法编写，具体功能、套餐与可用地区以官方页面为准，产品更新后界面和名称可能变化。

延伸阅读