在「搜索与知识库」类工具里,Voyage AI 的定位是:提供嵌入与重排序模型 API 的服务。

单独用一个工具往往只解决一段问题,这篇讲怎么把它和上下游工具串起来。

推荐组合:Voyage AI + KoboldCpp

KoboldCpp 的定位是:基于 llama.cpp 的一体化本地运行工具,常用于写作与角色扮演。两者分工可以是:Voyage AI 负责「检索效果对比」这一步,KoboldCpp 负责用本地模型处理敏感部分。

工作流步骤

  1. 明确交付物和验收标准,例如:对比用同一批问题。
  2. 准备输入:同一批问题和两种检索配置,先去掉敏感信息。
  3. 在 Voyage AI 中执行核心步骤(提示词见下文)
  4. 把结果交给 KoboldCpp 做下一步处理,或从 KoboldCpp 取得所需材料。
  5. 人工检查关键事实与格式,记录发现的问题。
  6. 把这次用到的提示词和设置保存为模板,下次复用。

检索效果对比

准备材料:同一批问题和两种检索配置。

用同一批测试问题分别跑关键词检索、向量检索和混合检索,记录前 5 条结果中正确段落的命中情况。

验收标准:对比用同一批问题。

交接时最容易出问题的地方

  • 格式不兼容:两边导入导出的格式提前测试一次。
  • 信息丢失:每次交接附上来源和版本号。
  • 责任不清:约定哪一步由谁做最终确认。
  • 成本叠加:两个工具都可能计费,先估算用量。

如果暂时不想引入第二个工具,也可以先用 Cohere 等同类产品替代其中一环,跑通流程后再决定。

延伸练习

带来源的快速调研

适用情况:手头有一个需要事实支撑的问题时。

请回答【问题】,每个关键结论后标注来源链接;如果不同来源说法不一,请分别列出;最后给出你认为最可靠的来源及原因。

检查点:关键结论都有可点击来源。

构建问答测试集

准备材料:一份产品手册。

根据手册编写 20 个用户可能问的问题及标准答案,标注答案所在章节,用来评估知识库检索效果。

检查点:每个答案都能在手册中找到。

资料卡片整理

适用情况:手头有搜索得到的十几篇资料时。

把这些资料整理成卡片:每张卡片包括一句话结论、关键数据、来源和可信度评价,最后按主题分组。

验收标准:每张卡片都有来源。

常见问题:表格内容检索不到

换用能保留表格结构的解析工具,或单独把表格转成文本描述。

常见问题:答案引用了错误段落

调整切分大小、加入重排序,并检查文档解析是否丢失标题。

常见问题:回答过于笼统

要求逐条引用原文,并限定只回答文档中有依据的内容。

概念补充:RAG(检索增强生成)

先检索相关资料再让模型作答,降低胡编概率。

概念补充:混合检索

同时使用关键词和向量检索,兼顾精确匹配与语义理解。

适合人群:数据分析师

数据分析师可以用 Voyage 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。

写在最后

涉及个人信息、商业机密或受监管数据时,先确认 Voyage AI 的数据处理条款,再决定能否使用。

文中提示词和示例仅作示意,实际效果取决于你的材料和 Voyage 当前版本,重要内容请人工核对后再使用。

延伸阅读