先说清楚它是什么:LiteLLM 属于「智能体与自动化」方向的开源项目,用统一接口调用上百种模型并做路由、限额的开源网关。

与其看十篇介绍,不如完整做一个小项目,这篇带你走一遍。

项目:发票与单据提取

目标:用 LiteLLM 完成一次「发票与单据提取」,交付一份可以直接给同事或客户看的结果。预计用时 1 小时以内。

步骤

  1. 阅读仓库 README 与许可证。
  2. 准备材料:一批 PDF 发票或收据(先脱敏)
  3. 复制下面的提示词,替换方括号内容。
  4. 第一次结果出来后,只针对一个问题追问修改。
  5. 按验收标准检查:低置信度字段留空。
  6. 保存提示词与最终结果,写三行复盘。
从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。

复盘模板

这次任务:
节省或多花的时间:
需要人工修改的地方:
下次会改进的提示:
是否继续使用:

做完之后

可以尝试第二个任务「多步骤调研任务」,或者把这次的流程分享给同事一起试。

补充练习

知识库问答机器人

输入:一批产品文档和 FAQ。

用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。

验收标准:答不出时不编造。

竞品信息周报

输入:5 个竞品的公开网站或博客。

每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。

检查点:每条变化都附链接。

线索整理流程

输入:每天从表单收到的客户咨询。

搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。

检查点:不确定的情况进入人工。

常见问题:输出格式不稳定

要求结构化输出并做格式校验,不合格时重试。

常见问题:误发消息给客户

对外发送前加人工审批节点,测试环境与正式环境分开。

常见问题:智能体陷入循环

设置最大步数和超时,关键步骤改为固定工作流。

概念补充:人工审批节点

在关键动作前暂停等待人确认,防止误操作。

概念补充:工作流(Workflow)

按固定步骤执行的流程,可预测、易排错。

适合人群:软件工程师

软件工程师可以用 LiteLLM 处理代码阅读与重构、测试与排错等工作。需要注意:不要把密钥和未开源代码上传到未授权工具,合并前审阅每处改动。

适合人群:数据分析师

数据分析师可以用 LiteLLM 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。

适合人群:新媒体运营

新媒体运营可以用 LiteLLM 处理内容排期、数据复盘等工作。需要注意:活动规则与奖品说明要准确,避免诱导分享等违规玩法。

使用提醒

文中提示词和示例仅作示意,实际效果取决于你的材料和 LiteLLM 当前版本,重要内容请人工核对后再使用。

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

延伸阅读