怎么判断 STORM 的产出好不好:一张评分表
先说清楚它是什么:STORM 属于「研究与学术」方向的开源项目,斯坦福开源的、自动检索并撰写维基式长文的研究系统。
用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。
评分表(每项 1 到 5 分)
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 来源可靠 | 引用是否真实、权威、可追溯 | 明显不合格 | 无需修改即可使用 |
| 忠实原文 | 摘要是否准确反映论文内容 | 明显不合格 | 无需修改即可使用 |
| 批判性 | 是否指出局限与分歧 | 明显不合格 | 无需修改即可使用 |
| 结构合理 | 报告或综述逻辑是否清晰 | 明显不合格 | 无需修改即可使用 |
| 合规 | 是否符合学术诚信与披露要求 | 明显不合格 | 无需修改即可使用 |
建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
文献初筛
准备材料:一个研究问题。
围绕【研究问题】检索近年的相关论文,列出 10 篇最相关的文献:标题、年份、研究方法和一句话结论,并注明检索使用的关键词。
验收标准:每篇文献都能查到原文。
怎么让评分更可靠
- 同一批材料至少测 5 次,不只看最好的一次。
- 两人分别打分,分歧大的维度再讨论标准。
- 把 STORM 的结果与人工完成或 Deep Research 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
延伸练习
综述框架
适用情况:手头有已收集的 20 篇文献笔记时。
根据这些笔记设计一份综述框架:按研究主题或方法分组,指出各组之间的分歧和研究空白。
验收标准:指出了研究空白。
引用核查
适用情况:手头有一段带引用的文字时。
检查这段文字中的每个引用:论文是否真实存在、引用内容是否与原文一致,无法确认的请明确标出。
检查点:不存在的引用被标出。
研究报告初稿
准备材料:一个需要调研的行业问题。
围绕【问题】生成一份调研报告初稿,每个观点后附来源;区分事实、观点和推测;最后列出需要人工核实的内容。
交付前确认:区分事实与推测。
常见问题:报告观点缺少依据
要求每段观点附来源,没有来源的删除或标注。
常见问题:摘要遗漏关键限制
要求单独列出局限性和样本说明。
常见问题:期刊对 AI 使用有要求
投稿前阅读期刊政策,按要求披露 AI 使用情况。
概念补充:预印本
未经同行评审公开的论文,引用时需注明。
概念补充:深度研究
让 AI 进行多轮检索并生成长报告的功能。
适合人群:研究生
研究生可以用 STORM 处理文献阅读、开题与论文写作等工作。需要注意:遵守学校学术诚信规定,AI 只用于辅助理解和润色。
适合人群:记者编辑
记者编辑可以用 STORM 处理采访整理、资料核查等工作。需要注意:事实必须多源核实,不得用 AI 生成虚构引语,遵守所在机构的 AI 使用规范。
使用提醒
文中提示词和示例仅作示意,实际效果取决于你的材料和 STORM 当前版本,重要内容请人工核对后再使用。
所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。