先说清楚它是什么:Vanna 属于「数据与分析」方向的开源项目,开源的文本转 SQL 框架,基于 RAG 训练。

用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。

评分表(每项 1 到 5 分)

维度看什么1 分5 分
数字正确结果能否被独立复核明显不合格无需修改即可使用
口径一致与既有报表定义是否一致明显不合格无需修改即可使用
可解释是否给出计算过程与假设明显不合格无需修改即可使用
可视化恰当图表是否清晰且不误导明显不合格无需修改即可使用
数据安全是否遵守权限与脱敏要求明显不合格无需修改即可使用

建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。

用一个任务试打分

图表建议

准备材料:一组需要汇报的数据。

根据这些数据推荐合适的图表类型,说明理由,并指出容易误导读者的画法(如截断坐标轴)。

检查点:指出了误导风险。

怎么让评分更可靠

  • 同一批材料至少测 5 次,不只看最好的一次。
  • 两人分别打分,分歧大的维度再讨论标准。
  • 把 Vanna 的结果与人工完成或 Chat2DB 的结果放在一起盲评。
  • 每次改提示词后用同一批材料复测。

延伸练习

指标异动解读

准备材料:一个突然下降的业务指标。

日活本周下降了,请列出可能原因的排查清单,按「数据问题 / 产品变化 / 外部因素」分类,每项写明需要查看的数据。

交付前确认:先排查数据本身问题。

评测大模型应用

输入:一批真实用户问题和应用回答。

为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。

检查点:评分标准清晰可复用。

写 SQL 查询

输入:数据库表结构说明。

根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

检查点:说明了口径问题。

常见问题:问数结果看似合理但错误

准备几道已知答案的问题做抽检。

常见问题:敏感数据暴露给模型

使用脱敏视图或只读账号,限制可访问的表。

常见问题:生成的 SQL 运行报错

提供准确的表结构和字段说明,先在测试库运行。

概念补充:语义层

把业务指标定义统一管理,让 AI 查询时口径一致。

概念补充:评测集

用于反复检验模型或应用效果的标准问题集合。

适合人群:科研人员

科研人员可以用 Vanna 处理文献检索与阅读、实验记录与数据整理等工作。需要注意:遵守期刊和机构关于 AI 使用的披露要求,引用逐条核对。

适合人群:软件工程师

软件工程师可以用 Vanna 处理代码阅读与重构、测试与排错等工作。需要注意:不要把密钥和未开源代码上传到未授权工具,合并前审阅每处改动。

注意事项

涉及个人信息、商业机密或受监管数据时,先确认 Vanna 的数据处理条款,再决定能否使用。

本文基于 Vanna 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。

延伸阅读