数据分析师怎么用 Unstructured:3 个高频任务的做法
把 PDF、Word 等文档切分清洗成 RAG 可用数据的工具——这是 Unstructured 最主要的用途,也是本文讨论的前提。
这篇写给数据分析师:围绕取数与 SQL、清洗与可视化和分析报告这几类日常工作,说明它能帮上什么忙、怎么用、哪些地方必须自己把关。
数据分析师的三个高频用法
1. 取数与 SQL
提示词示例:
根据表结构写 SQL:按月统计新增用户与 7 日留存,说明关联条件、时间口径和可能的重复计数问题。
把关:口径说明清楚。
2. 清洗与可视化
在 Unstructured 中可以这样提:
检查这份数据的质量:缺失、重复、异常值和格式问题,给出处理方案,并说明每种处理对结论的影响。
把关:说明了处理影响。
3. 分析报告
在 Unstructured 中可以这样提:
根据分析结果写一页报告:结论先行、3 个关键发现、1 张建议图表、局限性和下一步建议。
把关:结论有数据支撑。
也可以试试:检索效果对比
这是「搜索与知识库」类工具的通用任务,数据分析师同样用得上。
用同一批测试问题分别跑关键词检索、向量检索和混合检索,记录前 5 条结果中正确段落的命中情况。
边界与合规
确认指标口径,敏感数据脱敏后再交给 AI 处理。
- 产出由数据分析师本人负责,AI 只是草稿和辅助。
- 对外内容发布前至少看一遍。
- 如单位有规定的工具清单,优先在清单内选择;Unstructured 的同类还有 Docling、LlamaParse。
一周试用建议
选一个最常做的任务连续用 5 个工作日,记录每次节省的时间和需要修改的地方,再决定是否把 Unstructured 纳入日常流程。
补充练习
网页内容抓取
适用情况:手头有一组需要定期关注的网页时。
把这些网页转成 Markdown,去掉导航和广告,只保留正文、发布日期和作者;发布日期缺失时标注「未知」。
验收标准:没有臆造发布日期。
内部文档入库
适用情况:手头有一批 PDF、Word 和网页时。
把这些文档解析为干净的文本:保留标题层级和表格,去掉页眉页脚,按章节切分,每段附上原文件名和页码。
交付前确认:切分后的段落能回溯到页码。
构建问答测试集
输入:一份产品手册。
根据手册编写 20 个用户可能问的问题及标准答案,标注答案所在章节,用来评估知识库检索效果。
交付前确认:每个答案都能在手册中找到。
常见问题:回答过于笼统
要求逐条引用原文,并限定只回答文档中有依据的内容。
常见问题:搜索结果过时
限定时间范围,或在提问中注明需要最新信息并核对发布日期。
常见问题:中文检索效果差
选择对中文支持好的嵌入模型,并为专有名词建立同义词。
概念补充:嵌入(Embedding)
把文本转成向量,用于语义相似度检索。
概念补充:切分(Chunking)
把长文档拆成适合检索的小段,大小影响效果。
适合人群:科研人员
科研人员可以用 Unstructured 处理文献检索与阅读、实验记录与数据整理等工作。需要注意:遵守期刊和机构关于 AI 使用的披露要求,引用逐条核对。
写在最后
本文基于 Unstructured 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。
文中提示词和示例仅作示意,实际效果取决于你的材料和 Unstructured 当前版本,重要内容请人工核对后再使用。