用 Unstructured 完成第一个小项目:完整演练
先说清楚它是什么:Unstructured 属于「搜索与知识库」方向的开源项目,把 PDF、Word 等文档切分清洗成 RAG 可用数据的工具。
与其看十篇介绍,不如完整做一个小项目,这篇带你走一遍。
项目:资料卡片整理
目标:用 Unstructured 完成一次「资料卡片整理」,交付一份可以直接给同事或客户看的结果。预计用时 1 小时以内。
步骤
- 阅读仓库 README 与许可证。
- 准备材料:搜索得到的十几篇资料(先脱敏)
- 复制下面的提示词,替换方括号内容。
- 第一次结果出来后,只针对一个问题追问修改。
- 按验收标准检查:每张卡片都有来源。
- 保存提示词与最终结果,写三行复盘。
把这些资料整理成卡片:每张卡片包括一句话结论、关键数据、来源和可信度评价,最后按主题分组。
复盘模板
这次任务:
节省或多花的时间:
需要人工修改的地方:
下次会改进的提示:
是否继续使用:
做完之后
可以尝试第二个任务「带来源的快速调研」,或者把这次的流程分享给同事一起试。
补充练习
构建问答测试集
输入:一份产品手册。
根据手册编写 20 个用户可能问的问题及标准答案,标注答案所在章节,用来评估知识库检索效果。
验收标准:每个答案都能在手册中找到。
检索效果对比
适用情况:手头有同一批问题和两种检索配置时。
用同一批测试问题分别跑关键词检索、向量检索和混合检索,记录前 5 条结果中正确段落的命中情况。
交付前确认:对比用同一批问题。
网页内容抓取
输入:一组需要定期关注的网页。
把这些网页转成 Markdown,去掉导航和广告,只保留正文、发布日期和作者;发布日期缺失时标注「未知」。
交付前确认:没有臆造发布日期。
常见问题:答案引用了错误段落
调整切分大小、加入重排序,并检查文档解析是否丢失标题。
常见问题:搜索结果过时
限定时间范围,或在提问中注明需要最新信息并核对发布日期。
常见问题:回答过于笼统
要求逐条引用原文,并限定只回答文档中有依据的内容。
概念补充:切分(Chunking)
把长文档拆成适合检索的小段,大小影响效果。
概念补充:重排序(Rerank)
对初步检索结果再次打分排序,提升相关性。
适合人群:软件工程师
软件工程师可以用 Unstructured 处理代码阅读与重构、测试与排错等工作。需要注意:不要把密钥和未开源代码上传到未授权工具,合并前审阅每处改动。
适合人群:科研人员
科研人员可以用 Unstructured 处理文献检索与阅读、实验记录与数据整理等工作。需要注意:遵守期刊和机构关于 AI 使用的披露要求,引用逐条核对。
适合人群:记者编辑
记者编辑可以用 Unstructured 处理采访整理、资料核查等工作。需要注意:事实必须多源核实,不得用 AI 生成虚构引语,遵守所在机构的 AI 使用规范。
使用提醒
本文基于 Unstructured 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。
文中提示词和示例仅作示意,实际效果取决于你的材料和 Unstructured 当前版本,重要内容请人工核对后再使用。