个人 AI 知识库 RAG 和直接向通用 AI 提问有什么区别?怎么选
个人 AI 知识库 RAG 和直接向通用 AI 提问经常被放在一起比较。选错了不会出大问题,但会多走弯路。
核心区别
通用 AI 回答范围广,但不了解你的私有资料;个人知识库让回答基于你的资料并可追溯,但需要整理和维护资料。
从原理看,通用模型不了解你的私有资料,直接提问容易得到泛泛的回答或编造;检索增强让 AI 先找到相关原文,再基于原文作答,答案更准确,也能追溯出处。知识库的效果有一个朴素的规律:垃圾进,垃圾出。很多人搭了知识库觉得效果不好,问题往往不在技术,而在资料:过时的版本和新版本混在一起,重要信息藏在图片里,文件名毫无意义。花时间整理资料,比调整任何参数都更能提升效果。
什么时候选个人知识库 RAG
- 积累了大量文档、笔记和资料,查找困难。
- 需要基于公司制度、产品手册回答问题。
- 学习某个领域,想基于自己收集的资料提问。
- 团队需要一个可以随时查询的内部资料助手。
一个虚构的对比:一位老师把多年积累的教案、课件说明和学生常见问题整理成个人知识库。备课时她问“讲分数时学生最容易混淆的地方有哪些”,AI 从她过去的教学笔记中找出了三条记录并注明出处。这些都是她自己的经验,只是以前散落在不同的文件里,很难找到。
什么时候直接向通用 AI 提问就够了
任务简单、一次性、对格式没有严格要求时,直接向通用 AI 提问往往更省事。另外要注意,从不测试检索效果。更好的做法是:准备一组已知答案的问题,定期测试。
如果选择个人知识库 RAG,这样开始
- 上传或导入资料,确认工具能正确读取。
- 用一组已知答案的问题测试检索和回答的准确性。
- 要求回答附上出处,并允许“资料中没有”这样的回答。
- 定期更新资料,删除过期内容,并复查回答质量。
示范提示词
以财务的场景为例:
请只根据知识库中的资料回答以下问题:
问题:[关于“部门费用预算执行情况”的具体问题]
要求:
1. 先给出简短回答,再给出依据;
2. 每条依据注明来源文档名称和位置;
3. 资料中没有相关信息时,直接回答“知识库中没有找到相关内容”,不要用通用知识补充;
4. 如果不同文档的说法不一致,列出各自的说法和文档日期。
使用时请注意:税务和会计处理以现行法规和公司制度为准,AI 的解读可能过时或不准确。
一个常被问到的问题
知识库能有多大? 不同工具的限制不同,资料越多越需要好的整理和检索方式。
结论
一句话:任务复杂或需要反复执行时选个人知识库 RAG,临时的简单问题用直接向通用 AI 提问即可。两者也可以先后使用:先用直接向通用 AI 提问快速试探,再用个人知识库 RAG 打磨。
一个容易忽略的点
选择哪种做法,还要考虑之后要不要复用。只用一次的任务,多花十分钟准备未必划算;每周都要做的任务,花时间把个人知识库 RAG 用好,后面每次都能省事。