个人 AI 知识库 RAG 和直接向通用 AI 提问经常被放在一起比较。选错了不会出大问题,但会多走弯路。

核心区别

通用 AI 回答范围广,但不了解你的私有资料;个人知识库让回答基于你的资料并可追溯,但需要整理和维护资料。

从原理看,通用模型不了解你的私有资料,直接提问容易得到泛泛的回答或编造;检索增强让 AI 先找到相关原文,再基于原文作答,答案更准确,也能追溯出处。知识库的效果有一个朴素的规律:垃圾进,垃圾出。很多人搭了知识库觉得效果不好,问题往往不在技术,而在资料:过时的版本和新版本混在一起,重要信息藏在图片里,文件名毫无意义。花时间整理资料,比调整任何参数都更能提升效果。

什么时候选个人知识库 RAG

  • 积累了大量文档、笔记和资料,查找困难。
  • 需要基于公司制度、产品手册回答问题。
  • 学习某个领域,想基于自己收集的资料提问。
  • 团队需要一个可以随时查询的内部资料助手。

一个虚构的对比:一位老师把多年积累的教案、课件说明和学生常见问题整理成个人知识库。备课时她问“讲分数时学生最容易混淆的地方有哪些”,AI 从她过去的教学笔记中找出了三条记录并注明出处。这些都是她自己的经验,只是以前散落在不同的文件里,很难找到。

什么时候直接向通用 AI 提问就够了

任务简单、一次性、对格式没有严格要求时,直接向通用 AI 提问往往更省事。另外要注意,从不测试检索效果。更好的做法是:准备一组已知答案的问题,定期测试。

如果选择个人知识库 RAG,这样开始

  1. 上传或导入资料,确认工具能正确读取。
  2. 用一组已知答案的问题测试检索和回答的准确性。
  3. 要求回答附上出处,并允许“资料中没有”这样的回答。
  4. 定期更新资料,删除过期内容,并复查回答质量。

示范提示词

以财务的场景为例:

请只根据知识库中的资料回答以下问题:
问题:[关于“部门费用预算执行情况”的具体问题]
要求:
1. 先给出简短回答,再给出依据;
2. 每条依据注明来源文档名称和位置;
3. 资料中没有相关信息时,直接回答“知识库中没有找到相关内容”,不要用通用知识补充;
4. 如果不同文档的说法不一致,列出各自的说法和文档日期。

使用时请注意:税务和会计处理以现行法规和公司制度为准,AI 的解读可能过时或不准确。

一个常被问到的问题

知识库能有多大? 不同工具的限制不同,资料越多越需要好的整理和检索方式。

结论

一句话:任务复杂或需要反复执行时选个人知识库 RAG,临时的简单问题用直接向通用 AI 提问即可。两者也可以先后使用:先用直接向通用 AI 提问快速试探,再用个人知识库 RAG 打磨。

一个容易忽略的点

选择哪种做法,还要考虑之后要不要复用。只用一次的任务,多花十分钟准备未必划算;每周都要做的任务,花时间把个人知识库 RAG 用好,后面每次都能省事。

相关阅读