怎么判断 Chat2DB 的产出好不好:一张评分表
带 AI 的开源数据库客户端与 SQL 助手——这是 Chat2DB 最主要的用途,也是本文讨论的前提。
用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。
评分表(每项 1 到 5 分)
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 数字正确 | 结果能否被独立复核 | 明显不合格 | 无需修改即可使用 |
| 口径一致 | 与既有报表定义是否一致 | 明显不合格 | 无需修改即可使用 |
| 可解释 | 是否给出计算过程与假设 | 明显不合格 | 无需修改即可使用 |
| 可视化恰当 | 图表是否清晰且不误导 | 明显不合格 | 无需修改即可使用 |
| 数据安全 | 是否遵守权限与脱敏要求 | 明显不合格 | 无需修改即可使用 |
建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
图表建议
准备材料:一组需要汇报的数据。
根据这些数据推荐合适的图表类型,说明理由,并指出容易误导读者的画法(如截断坐标轴)。
验收标准:指出了误导风险。
怎么让评分更可靠
- 同一批材料至少测 5 次,不只看最好的一次。
- 两人分别打分,分歧大的维度再讨论标准。
- 把 Chat2DB 的结果与人工完成或 DBeaver 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
更多可以试的用法
评测大模型应用
适用情况:手头有一批真实用户问题和应用回答时。
为这批回答设计评测:定义 4 个评分维度,写出评分标准,抽取 20 条进行人工打分,并统计各维度的问题类型。
验收标准:评分标准清晰可复用。
写 SQL 查询
输入:数据库表结构说明。
根据以下表结构写 SQL:统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。
检查点:说明了口径问题。
指标异动解读
输入:一个突然下降的业务指标。
日活本周下降了,请列出可能原因的排查清单,按「数据问题 / 产品变化 / 外部因素」分类,每项写明需要查看的数据。
检查点:先排查数据本身问题。
常见问题:敏感数据暴露给模型
使用脱敏视图或只读账号,限制可访问的表。
常见问题:生成的 SQL 运行报错
提供准确的表结构和字段说明,先在测试库运行。
常见问题:图表结论被过度解读
区分相关与因果,在报告中标注假设。
概念补充:语义层
把业务指标定义统一管理,让 AI 查询时口径一致。
概念补充:追踪(Tracing)
记录大模型应用每次调用的输入输出与耗时。
适合人群:数据分析师
数据分析师可以用 Chat2DB 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。
适合人群:HR 与招聘
HR 与招聘可以用 Chat2DB 处理岗位描述撰写、面试题与评估表等工作。需要注意:简历筛选不得以性别、年龄等因素做歧视性判断,候选人信息需妥善保管。
适合人群:新媒体运营
新媒体运营可以用 Chat2DB 处理内容排期、数据复盘等工作。需要注意:活动规则与奖品说明要准确,避免诱导分享等违规玩法。
写在最后
所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。
文中提示词和示例仅作示意,实际效果取决于你的材料和 Chat2DB 当前版本,重要内容请人工核对后再使用。