上海人工智能实验室开源的模型压缩与部署工具——这是 LMDeploy 最主要的用途,也是本文讨论的前提。

这篇写给财务人员:围绕单据识别录入、报表说明与分析和制度问答这几类日常工作,说明它能帮上什么忙、怎么用、哪些地方必须自己把关。

财务人员的三个高频用法

1. 单据识别录入

提示词示例:

从这批报销单据中提取日期、金额、类别和事由,整理成表格,与报销单汇总金额核对,不一致的标红,不要自行修正金额。

把关:合计与单据核对一致。

2. 报表说明与分析

可直接复制到 LMDeploy 里修改:

根据这份月度报表写一段管理层说明:收入、成本、利润的主要变化及原因,原因中不确定的标注「待业务确认」。

把关:数字与报表完全一致。

3. 制度问答

在 LMDeploy 中可以这样提:

根据公司费用制度回答:客户招待费的标准和审批流程是什么?引用制度条款编号,制度没有规定的说明需要向谁确认。

把关:回答引用了制度条款。

也可以试试:接入现有应用

这是「本地与开源」类工具的通用任务,财务人员同样用得上。

通过兼容 OpenAI 格式的接口把本地服务接入现有系统,设置超时和并发上限,先在测试环境跑通。

边界与合规

财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。

  • 产出由财务人员本人负责,AI 只是草稿和辅助。
  • 对外内容发布前至少看一遍。
  • 如单位有规定的工具清单,优先在清单内选择;LMDeploy 的同类还有 vLLM、SGLang。

一周试用建议

选一个最常做的任务连续用 5 个工作日,记录每次节省的时间和需要修改的地方,再决定是否把 LMDeploy 纳入日常流程。

补充练习

模型对比测试

输入:两到三个候选开源模型。

用 20 个真实业务问题测试候选模型,记录回答质量、速度和资源占用,选出最适合的模型。

交付前确认:测试问题相同。

小规模微调

准备材料:几百条高质量问答数据。

用这批数据做一次 LoRA 微调:划分训练集和验证集,记录训练参数,微调前后用同一批问题对比效果。

交付前确认:有前后对比。

私有知识问答

准备材料:一批不能上传云端的内部文档。

在本地搭建问答:本地模型负责回答,文档向量化存储在本机,回答时注明出处段落,断网情况下验证仍可使用。

验收标准:断网可用。

常见问题:中文效果不理想

优先选择中文训练数据充足的模型。

常见问题:升级后不兼容

固定版本号,升级前在测试环境验证。

常见问题:显存不足无法加载

换用更小的模型或更低的量化等级,或启用 CPU 卸载。

概念补充:GGUF

llama.cpp 生态常用的模型文件格式。

概念补充:LoRA 微调

只训练少量附加参数的低成本微调方法。

适合人群:咨询顾问

咨询顾问可以用 LMDeploy 处理行业研究、访谈整理等工作。需要注意:客户机密遵守保密协议,研究结论注明来源。

注意事项

涉及个人信息、商业机密或受监管数据时,先确认 LMDeploy 的数据处理条款,再决定能否使用。

文中提示词和示例仅作示意,实际效果取决于你的材料和 LMDeploy 当前版本,重要内容请人工核对后再使用。

延伸阅读