咨询顾问怎么用 Arize Phoenix:3 个高频任务的做法
开源的大模型可观测与评测工具——这是 Arize Phoenix 最主要的用途,也是本文讨论的前提。
这篇写给咨询顾问:围绕行业研究、访谈整理和方案文档这几类日常工作,说明它能帮上什么忙、怎么用、哪些地方必须自己把关。
咨询顾问的三个高频用法
1. 行业研究
可直接复制到 Phoenix 里修改:
围绕【行业】整理一份行业概览框架:市场结构、主要参与者类型、价值链、关键驱动因素,所有数据点标注需要补充的来源。
把关:数据点都标注了来源需求。
2. 访谈整理
提示词示例:
把这几份访谈记录整理成洞察:共性观点、分歧观点、意外发现,每条附访谈对象编号和原话摘录。
把关:洞察可追溯到访谈。
3. 方案文档
提示词示例:
根据以上分析搭建方案 PPT 的故事线:每页一句标题结论,共 12 页,标出需要数据支撑的页面。
把关:每页标题是结论句。
也可以试试:评测大模型应用
这是「数据与分析」类工具的通用任务,咨询顾问同样用得上。
为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。
边界与合规
客户机密遵守保密协议,研究结论注明来源。
- 产出由咨询顾问本人负责,AI 只是草稿和辅助。
- 对外内容发布前至少看一遍。
- 如单位有规定的工具清单,优先在清单内选择;Arize Phoenix 的同类还有 Langfuse、LangSmith。
一周试用建议
选一个最常做的任务连续用 5 个工作日,记录每次节省的时间和需要修改的地方,再决定是否把 Phoenix 纳入日常流程。
更多可以试的用法
写 SQL 查询
适用情况:手头有数据库表结构说明时。
根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。
交付前确认:说明了口径问题。
数据清洗方案
适用情况:手头有一份有缺失和异常值的数据时。
分析这份数据的质量问题:缺失值比例、异常值、格式不一致的字段,给出处理建议,并说明每种处理方式对结论的影响。
验收标准:说明了处理对结论的影响。
自然语言问数
适用情况:手头有一张销售明细表时。
请基于这张表回答:上个季度销售额最高的 3 个地区是哪些?与前一季度相比变化多少?请同时给出你使用的计算方法或 SQL,便于我复核。
检查点:给出了可复核的计算过程。
常见问题:图表结论被过度解读
区分相关与因果,在报告中标注假设。
常见问题:生成的 SQL 运行报错
提供准确的表结构和字段说明,先在测试库运行。
常见问题:AI 算出的数字和报表不一致
检查口径和过滤条件,要求它输出 SQL 或公式逐步复核。
概念补充:追踪(Tracing)
记录大模型应用每次调用的输入输出与耗时。
概念补充:异常检测
自动发现偏离正常范围的数据点。
写在最后
文中提示词和示例仅作示意,实际效果取决于你的材料和 Phoenix 当前版本,重要内容请人工核对后再使用。
本文基于 Arize Phoenix 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。