Weights & Biases 的大模型应用追踪与评测工具——这是 W&B Weave 最主要的用途,也是本文讨论的前提。

这篇不讲概念,直接给能复制修改的模板,以及每个模板该怎么填。

模板怎么用

每个模板都由三部分组成:背景(你是谁、要做什么)、约束(格式、篇幅、禁止事项)、验收(怎样算合格)。把方括号里的内容换成你自己的信息即可。

模板 1:指标异动解读

适合:一个突然下降的业务指标。

日活本周下降了,请列出可能原因的排查清单,按「数据问题 / 产品变化 / 外部因素」分类,每项写明需要查看的数据。

填写提示:如果结果太长,补一句字数或条数上限;验收看「先排查数据本身问题」。

模板 2:数据清洗方案

适合:一份有缺失和异常值的数据。

分析这份数据的质量问题:缺失值比例、异常值、格式不一致的字段,给出处理建议,并说明每种处理方式对结论的影响。

填写提示:要求它在不确定处标注,而不是自行补全;验收看「说明了处理对结论的影响」。

模板 3:图表建议

适合:一组需要汇报的数据。

根据这些数据推荐合适的图表类型,说明理由,并指出容易误导读者的画法(如截断坐标轴)。

填写提示:把你最看重的一条要求放在最前面;验收看「指出了误导风险」。

模板维护

  • 给每个模板编号并记录修改日期。
  • 保留一份「效果好」的示例输出作为对照。
  • 团队共用时注明适用场景和负责人。

补充练习

自然语言问数

输入:一张销售明细表。

请基于这张表回答:上个季度销售额最高的 3 个地区是哪些?与前一季度相比变化多少?请同时给出你使用的计算方法或 SQL,便于我复核。

交付前确认:给出了可复核的计算过程。

评测大模型应用

准备材料:一批真实用户问题和应用回答。

为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。

交付前确认:评分标准清晰可复用。

写 SQL 查询

适用情况:手头有数据库表结构说明时。

根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

检查点:说明了口径问题。

常见问题:问数结果看似合理但错误

准备几道已知答案的问题做抽检。

常见问题:图表结论被过度解读

区分相关与因果,在报告中标注假设。

常见问题:生成的 SQL 运行报错

提供准确的表结构和字段说明,先在测试库运行。

概念补充:口径

指标的定义与计算规则,不同口径会得出不同结论。

概念补充:文本转 SQL

把自然语言问题转换为数据库查询语句。

适合人群:销售

销售可以用 Weave 处理客户背景调研、跟进邮件与话术等工作。需要注意:客户数据按公司规定处理,报价和承诺以合同为准。

注意事项

文中提示词和示例仅作示意,实际效果取决于你的材料和 Weave 当前版本,重要内容请人工核对后再使用。

涉及个人信息、商业机密或受监管数据时,先确认 W&B Weave 的数据处理条款,再决定能否使用。

延伸阅读