https://ai.wujiong.cc/tags/%E9%95%BF%E4%B8%8A%E4%B8%8B%E6%96%87/Recent content in 长上下文 on AI 观察Hugozh-CNTue, 14 Jul 2026 11:53:23 +0800https://ai.wujiong.cc/posts/2026-07-14-rag-vs-long-context/Tue, 14 Jul 2026 11:53:23 +0800https://ai.wujiong.cc/posts/2026-07-14-rag-vs-long-context/<p>随着大模型的上下文窗口扩展到数十万甚至百万 Token，一个问题被反复提起：<strong>既然模型能一次读完整个知识库，还有必要费力搭建 RAG 吗？</strong> 答案取决于你的数据规模、使用频率和对准确性的要求。在大多数生产场景中，两者不是二选一，而是互相补充。</p> <h2 id="两种方案的基本思路">两种方案的基本思路</h2> <ul> <li><strong>长上下文</strong>：把相关文档全部放进提示词，让模型自己阅读和寻找答案；</li> <li><strong>RAG</strong>：先根据问题检索出最相关的少量片段，只把这些片段交给模型。</li> </ul> <h2 id="逐项对比">逐项对比</h2> <h3 id="成本">成本</h3> <p>长上下文方案每次请求都要为全部文档付费。如果同一批文档被频繁查询，成本会迅速累积。部分服务商提供的提示缓存功能可以降低重复部分的费用，但并非所有场景都适用。RAG 每次只发送少量片段，单次成本低得多，代价是需要建设和维护检索系统。</p>