先说清楚它是什么：LiteLLM 属于「智能体与自动化」方向的开源项目，用统一接口调用上百种模型并做路由、限额的开源网关。

看文档和设置项时遇到的术语，这里用一两句话解释清楚。

术语表

  • 工作流（Workflow）：按固定步骤执行的流程，可预测、易排错。
  • 智能体（Agent）：由模型自主决定步骤和工具调用，灵活但需要更多护栏。
  • 触发器：启动流程的事件，如新邮件、定时、表单提交。
  • 工具调用：模型调用外部 API 或函数完成动作的能力。
  • 人工审批节点：在关键动作前暂停等待人确认，防止误操作。
  • 可观测性：记录每一步输入输出与耗时，便于排查和评估。

和 LiteLLM 相关的补充

  • 开源项目：LiteLLM 的产品形态，决定了安装、权限和数据存放方式。
  • 同类产品：OpenRouter、Portkey、One API。
  • 所属方向：智能体与自动化。

把概念用起来

竞品信息周报

适用情况：手头有 5 个竞品的公开网站或博客时。

每周一自动抓取这些竞品页面的更新，让 AI 对比上周内容，输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要，并附原始链接。

检查点：每条变化都附链接。

补充练习

发票与单据提取

准备材料：一批 PDF 发票或收据。

从这些单据中提取开票日期、金额、销售方名称和税号，输出为表格；任何字段识别置信度低时留空并标红，不要猜测。

检查点：低置信度字段留空。

定时提醒与汇总

适用情况：手头有团队群聊或任务看板时。

每天下午 6 点汇总今日新增和逾期任务，按负责人分组发送提醒，周五额外输出一周完成情况。

交付前确认：提醒内容与看板一致。

线索整理流程

适用情况：手头有每天从表单收到的客户咨询时。

搭建一个流程：新表单提交后，AI 判断咨询类型（报价 / 售后 / 合作 / 其他），提取联系人和需求摘要写入表格，报价类自动通知销售群。分类不确定时标记为「待人工」。

交付前确认：不确定的情况进入人工。

常见问题：输出格式不稳定

要求结构化输出并做格式校验，不合格时重试。

常见问题：调用外部系统失败

增加重试和失败通知，记录请求参数便于排查。

常见问题：误发消息给客户

对外发送前加人工审批节点，测试环境与正式环境分开。

概念补充：智能体（Agent）

由模型自主决定步骤和工具调用，灵活但需要更多护栏。

概念补充：可观测性

记录每一步输入输出与耗时，便于排查和评估。

适合人群：新媒体运营

新媒体运营可以用 LiteLLM 处理内容排期、数据复盘等工作。需要注意：活动规则与奖品说明要准确，避免诱导分享等违规玩法。

适合人群：数据分析师

数据分析师可以用 LiteLLM 处理取数与 SQL、清洗与可视化等工作。需要注意：确认指标口径，敏感数据脱敏后再交给 AI 处理。

适合人群：财务人员

财务人员可以用 LiteLLM 处理单据识别录入、报表说明与分析等工作。需要注意：财务数据属于敏感信息，优先使用企业版或本地方案，结果需复核。

写在最后

所有示例输出均为示意，不代表真实统计或效果承诺；请以自己的测试结果为准。

本文基于 LiteLLM 公开的定位与通用用法编写，具体功能、套餐与可用地区以官方页面为准，产品更新后界面和名称可能变化。

延伸阅读