怎么判断 GPT Researcher 的产出好不好:一张评分表
自动检索多来源并生成研究报告的开源智能体——这是 GPT Researcher 最主要的用途,也是本文讨论的前提。
用 AI 最容易犯的错是「看着不错就用了」,这篇给出一张可复用的打分表。
评分表(每项 1 到 5 分)
| 维度 | 看什么 | 1 分 | 5 分 |
|---|---|---|---|
| 来源可靠 | 引用是否真实、权威、可追溯 | 明显不合格 | 无需修改即可使用 |
| 忠实原文 | 摘要是否准确反映论文内容 | 明显不合格 | 无需修改即可使用 |
| 批判性 | 是否指出局限与分歧 | 明显不合格 | 无需修改即可使用 |
| 结构合理 | 报告或综述逻辑是否清晰 | 明显不合格 | 无需修改即可使用 |
| 合规 | 是否符合学术诚信与披露要求 | 明显不合格 | 无需修改即可使用 |
建议:任一维度低于 3 分就不要直接使用;总分用于比较不同提示词或不同工具的效果。
用一个任务试打分
文献初筛
准备材料:一个研究问题。
围绕【研究问题】检索近年的相关论文,列出 10 篇最相关的文献:标题、年份、研究方法和一句话结论,并注明检索使用的关键词。
检查点:每篇文献都能查到原文。
怎么让评分更可靠
- 同一批材料至少测 5 次,不只看最好的一次。
- 两人分别打分,分歧大的维度再讨论标准。
- 把 GPT Researcher 的结果与人工完成或 STORM 的结果放在一起盲评。
- 每次改提示词后用同一批材料复测。
延伸练习
综述框架
适用情况:手头有已收集的 20 篇文献笔记时。
根据这些笔记设计一份综述框架:按研究主题或方法分组,指出各组之间的分歧和研究空白。
交付前确认:指出了研究空白。
研究报告初稿
输入:一个需要调研的行业问题。
围绕【问题】生成一份调研报告初稿,每个观点后附来源;区分事实、观点和推测;最后列出需要人工核实的内容。
交付前确认:区分事实与推测。
学术语言润色
准备材料:一段英文论文草稿。
润色这段学术英语:改正语法、提升简洁性,不改变论点和数据,用修订模式列出每处修改及原因。
验收标准:数据和论点未改变。
常见问题:AI 给出不存在的论文
只使用能查到 DOI 或原文链接的文献,逐条核验。
常见问题:检索结果偏向英文文献
补充中文数据库检索,并调整关键词。
常见问题:期刊对 AI 使用有要求
投稿前阅读期刊政策,按要求披露 AI 使用情况。
概念补充:引用网络
论文之间的引用关系,可用于发现相关研究。
概念补充:预印本
未经同行评审公开的论文,引用时需注明。
适合人群:科研人员
科研人员可以用 GPT Researcher 处理文献检索与阅读、实验记录与数据整理等工作。需要注意:遵守期刊和机构关于 AI 使用的披露要求,引用逐条核对。
适合人群:医疗机构行政人员
医疗机构行政人员可以用 GPT Researcher 处理文书整理、患者沟通材料等工作。需要注意:AI 不得替代医生诊断,患者信息必须按法规保护。
使用提醒
所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。
本文基于 GPT Researcher 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。