用 LiteLLM 完成第一个小项目:完整演练
先说清楚它是什么:LiteLLM 属于「智能体与自动化」方向的开源项目,用统一接口调用上百种模型并做路由、限额的开源网关。
与其看十篇介绍,不如完整做一个小项目,这篇带你走一遍。
项目:发票与单据提取
目标:用 LiteLLM 完成一次「发票与单据提取」,交付一份可以直接给同事或客户看的结果。预计用时 1 小时以内。
步骤
- 阅读仓库 README 与许可证。
- 准备材料:一批 PDF 发票或收据(先脱敏)
- 复制下面的提示词,替换方括号内容。
- 第一次结果出来后,只针对一个问题追问修改。
- 按验收标准检查:低置信度字段留空。
- 保存提示词与最终结果,写三行复盘。
从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。
复盘模板
这次任务:
节省或多花的时间:
需要人工修改的地方:
下次会改进的提示:
是否继续使用:
做完之后
可以尝试第二个任务「多步骤调研任务」,或者把这次的流程分享给同事一起试。
补充练习
知识库问答机器人
输入:一批产品文档和 FAQ。
用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。
验收标准:答不出时不编造。
竞品信息周报
输入:5 个竞品的公开网站或博客。
每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。
检查点:每条变化都附链接。
线索整理流程
输入:每天从表单收到的客户咨询。
搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。
检查点:不确定的情况进入人工。
常见问题:输出格式不稳定
要求结构化输出并做格式校验,不合格时重试。
常见问题:误发消息给客户
对外发送前加人工审批节点,测试环境与正式环境分开。
常见问题:智能体陷入循环
设置最大步数和超时,关键步骤改为固定工作流。
概念补充:人工审批节点
在关键动作前暂停等待人确认,防止误操作。
概念补充:工作流(Workflow)
按固定步骤执行的流程,可预测、易排错。
适合人群:软件工程师
软件工程师可以用 LiteLLM 处理代码阅读与重构、测试与排错等工作。需要注意:不要把密钥和未开源代码上传到未授权工具,合并前审阅每处改动。
适合人群:数据分析师
数据分析师可以用 LiteLLM 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。
适合人群:新媒体运营
新媒体运营可以用 LiteLLM 处理内容排期、数据复盘等工作。需要注意:活动规则与奖品说明要准确,避免诱导分享等违规玩法。
使用提醒
文中提示词和示例仅作示意,实际效果取决于你的材料和 LiteLLM 当前版本,重要内容请人工核对后再使用。
所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。