先说清楚它是什么：Haystack 属于「搜索与知识库」方向的开源项目，deepset 开源的 RAG 与搜索应用框架。

用 AI 最容易犯的错是「看着不错就用了」，这篇给出一张可复用的打分表。

评分表（每项 1 到 5 分）

维度看什么1 分5 分
命中率正确资料是否出现在前几条结果中明显不合格无需修改即可使用
引用准确回答引用的段落是否真的支持结论明显不合格无需修改即可使用
时效性信息是否足够新，是否标明日期明显不合格无需修改即可使用
覆盖度多来源问题是否兼顾了不同观点明显不合格无需修改即可使用
拒答能力没有依据时是否承认不知道明显不合格无需修改即可使用

建议：任一维度低于 3 分就不要直接使用；总分用于比较不同提示词或不同工具的效果。

用一个任务试打分

资料卡片整理

准备材料：搜索得到的十几篇资料。

把这些资料整理成卡片：每张卡片包括一句话结论、关键数据、来源和可信度评价，最后按主题分组。

检查点：每张卡片都有来源。

怎么让评分更可靠

  • 同一批材料至少测 5 次，不只看最好的一次。
  • 两人分别打分，分歧大的维度再讨论标准。
  • 把 Haystack 的结果与人工完成或 LlamaIndex 的结果放在一起盲评。
  • 每次改提示词后用同一批材料复测。

更多可以试的用法

内部文档入库

适用情况：手头有一批 PDF、Word 和网页时。

把这些文档解析为干净的文本：保留标题层级和表格，去掉页眉页脚，按章节切分，每段附上原文件名和页码。

检查点：切分后的段落能回溯到页码。

构建问答测试集

准备材料：一份产品手册。

根据手册编写 20 个用户可能问的问题及标准答案，标注答案所在章节，用来评估知识库检索效果。

验收标准：每个答案都能在手册中找到。

检索效果对比

适用情况：手头有同一批问题和两种检索配置时。

用同一批测试问题分别跑关键词检索、向量检索和混合检索，记录前 5 条结果中正确段落的命中情况。

验收标准：对比用同一批问题。

常见问题：中文检索效果差

选择对中文支持好的嵌入模型，并为专有名词建立同义词。

常见问题：答案引用了错误段落

调整切分大小、加入重排序，并检查文档解析是否丢失标题。

常见问题：表格内容检索不到

换用能保留表格结构的解析工具，或单独把表格转成文本描述。

概念补充：嵌入（Embedding）

把文本转成向量，用于语义相似度检索。

概念补充：引用溯源

回答附带原文出处，便于核对。

适合人群：咨询顾问

咨询顾问可以用 Haystack 处理行业研究、访谈整理等工作。需要注意：客户机密遵守保密协议，研究结论注明来源。

适合人群：软件工程师

软件工程师可以用 Haystack 处理代码阅读与重构、测试与排错等工作。需要注意：不要把密钥和未开源代码上传到未授权工具，合并前审阅每处改动。

注意事项

涉及个人信息、商业机密或受监管数据时，先确认 Haystack 的数据处理条款，再决定能否使用。

文中提示词和示例仅作示意，实际效果取决于你的材料和 Haystack 当前版本，重要内容请人工核对后再使用。

延伸阅读