以自然语言搜索分析数据的 BI 平台——这是 ThoughtSpot Spotter 最主要的用途，也是本文讨论的前提。

用 AI 最容易犯的错是「看着不错就用了」，这篇给出一张可复用的打分表。

评分表（每项 1 到 5 分）

维度看什么1 分5 分
数字正确结果能否被独立复核明显不合格无需修改即可使用
口径一致与既有报表定义是否一致明显不合格无需修改即可使用
可解释是否给出计算过程与假设明显不合格无需修改即可使用
可视化恰当图表是否清晰且不误导明显不合格无需修改即可使用
数据安全是否遵守权限与脱敏要求明显不合格无需修改即可使用

建议：任一维度低于 3 分就不要直接使用；总分用于比较不同提示词或不同工具的效果。

用一个任务试打分

写 SQL 查询

适用情况：手头有数据库表结构说明时。

根据以下表结构写 SQL：统计每个月新增用户数和其中完成首单的比例。请说明关联条件和可能存在的口径问题。

检查点：说明了口径问题。

怎么让评分更可靠

  • 同一批材料至少测 5 次，不只看最好的一次。
  • 两人分别打分，分歧大的维度再讨论标准。
  • 把 ThoughtSpot Spotter 的结果与人工完成或 Looker 的结果放在一起盲评。
  • 每次改提示词后用同一批材料复测。

延伸练习

自然语言问数

输入：一张销售明细表。

请基于这张表回答：上个季度销售额最高的 3 个地区是哪些？与前一季度相比变化多少？请同时给出你使用的计算方法或 SQL，便于我复核。

交付前确认：给出了可复核的计算过程。

数据清洗方案

适用情况：手头有一份有缺失和异常值的数据时。

分析这份数据的质量问题：缺失值比例、异常值、格式不一致的字段，给出处理建议，并说明每种处理方式对结论的影响。

验收标准：说明了处理对结论的影响。

评测大模型应用

准备材料：一批真实用户问题和应用回答。

为这批回答设计评测：定义 4 个评分维度，写出评分标准，抽取 20 条进行人工打分，并统计各维度的问题类型。

检查点：评分标准清晰可复用。

常见问题：图表结论被过度解读

区分相关与因果，在报告中标注假设。

常见问题：问数结果看似合理但错误

准备几道已知答案的问题做抽检。

常见问题：敏感数据暴露给模型

使用脱敏视图或只读账号，限制可访问的表。

概念补充：评测集

用于反复检验模型或应用效果的标准问题集合。

概念补充：异常检测

自动发现偏离正常范围的数据点。

适合人群：软件工程师

软件工程师可以用 ThoughtSpot 处理代码阅读与重构、测试与排错等工作。需要注意：不要把密钥和未开源代码上传到未授权工具，合并前审阅每处改动。

适合人群：咨询顾问

咨询顾问可以用 ThoughtSpot 处理行业研究、访谈整理等工作。需要注意：客户机密遵守保密协议，研究结论注明来源。

写在最后

所有示例输出均为示意，不代表真实统计或效果承诺；请以自己的测试结果为准。

涉及个人信息、商业机密或受监管数据时，先确认 ThoughtSpot Spotter 的数据处理条款，再决定能否使用。

延伸阅读