开源的大模型可观测与评测工具——这是 Arize Phoenix 最主要的用途,也是本文讨论的前提。

这篇写给咨询顾问:围绕行业研究、访谈整理和方案文档这几类日常工作,说明它能帮上什么忙、怎么用、哪些地方必须自己把关。

咨询顾问的三个高频用法

1. 行业研究

可直接复制到 Phoenix 里修改:

围绕【行业】整理一份行业概览框架:市场结构、主要参与者类型、价值链、关键驱动因素,所有数据点标注需要补充的来源。

把关:数据点都标注了来源需求。

2. 访谈整理

提示词示例:

把这几份访谈记录整理成洞察:共性观点、分歧观点、意外发现,每条附访谈对象编号和原话摘录。

把关:洞察可追溯到访谈。

3. 方案文档

提示词示例:

根据以上分析搭建方案 PPT 的故事线:每页一句标题结论,共 12 页,标出需要数据支撑的页面。

把关:每页标题是结论句。

也可以试试:评测大模型应用

这是「数据与分析」类工具的通用任务,咨询顾问同样用得上。

为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。

边界与合规

客户机密遵守保密协议,研究结论注明来源。

  • 产出由咨询顾问本人负责,AI 只是草稿和辅助。
  • 对外内容发布前至少看一遍。
  • 如单位有规定的工具清单,优先在清单内选择;Arize Phoenix 的同类还有 Langfuse、LangSmith。

一周试用建议

选一个最常做的任务连续用 5 个工作日,记录每次节省的时间和需要修改的地方,再决定是否把 Phoenix 纳入日常流程。

更多可以试的用法

写 SQL 查询

适用情况:手头有数据库表结构说明时。

根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

交付前确认:说明了口径问题。

数据清洗方案

适用情况:手头有一份有缺失和异常值的数据时。

分析这份数据的质量问题:缺失值比例、异常值、格式不一致的字段,给出处理建议,并说明每种处理方式对结论的影响。

验收标准:说明了处理对结论的影响。

自然语言问数

适用情况:手头有一张销售明细表时。

请基于这张表回答:上个季度销售额最高的 3 个地区是哪些?与前一季度相比变化多少?请同时给出你使用的计算方法或 SQL,便于我复核。

检查点:给出了可复核的计算过程。

常见问题:图表结论被过度解读

区分相关与因果,在报告中标注假设。

常见问题:生成的 SQL 运行报错

提供准确的表结构和字段说明,先在测试库运行。

常见问题:AI 算出的数字和报表不一致

检查口径和过滤条件,要求它输出 SQL 或公式逐步复核。

概念补充:追踪(Tracing)

记录大模型应用每次调用的输入输出与耗时。

概念补充:异常检测

自动发现偏离正常范围的数据点。

写在最后

文中提示词和示例仅作示意,实际效果取决于你的材料和 Phoenix 当前版本,重要内容请人工核对后再使用。

本文基于 Arize Phoenix 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。

延伸阅读