LiteLLM 是一款开源项目：用统一接口调用上百种模型并做路由、限额的开源网关。

如果你刚开始接触它，可以按下面 7 天的安排练习，每天 20 到 40 分钟。

每日安排

  • 第 1 天：注册与熟悉界面：阅读仓库 README 与许可证；按官方推荐方式安装（容器或包管理器）
  • 第 2 天：完成第一个任务「多步骤调研任务」，按下文提示词操作。
  • 第 3 天：换一类任务「线索整理流程」，对比两次结果的质量。
  • 第 4 天：学习关键概念：工作流（Workflow）、智能体（Agent）、触发器。
  • 第 5 天：用真实工作材料做一次「发票与单据提取」，记录省下的时间和需要返工的地方。
  • 第 6 天：排查问题：对照常见问题「智能体陷入循环」等检查自己的用法。
  • 第 7 天：复盘：保留有效的提示词，写下继续使用或放弃的理由。

第 2 天的练习材料

多步骤调研任务

输入：一个需要多来源信息的问题。

围绕【主题】做调研：先列出调研计划，再分别检索，最后输出带来源的报告。每个结论注明来源链接，来源之间矛盾时并列呈现。

检查点：矛盾信息被并列呈现。

一周后怎么判断值不值得继续

  • 是否稳定地节省了时间，而不只是第一次觉得新鲜。
  • 返工次数是否在下降。
  • 与 OpenRouter 等同类相比，是否更适合你的场景。
  • 数据与费用是否在可接受范围内。

补充练习

知识库问答机器人

输入：一批产品文档和 FAQ。

用这些文档搭建问答机器人：回答只基于文档，找不到答案时回复「这个问题我需要转给同事」，并记录未解决问题供每周补充文档。

交付前确认：答不出时不编造。

定时提醒与汇总

输入：团队群聊或任务看板。

每天下午 6 点汇总今日新增和逾期任务，按负责人分组发送提醒，周五额外输出一周完成情况。

验收标准：提醒内容与看板一致。

竞品信息周报

适用情况：手头有 5 个竞品的公开网站或博客时。

每周一自动抓取这些竞品页面的更新，让 AI 对比上周内容，输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要，并附原始链接。

交付前确认：每条变化都附链接。

常见问题：调用外部系统失败

增加重试和失败通知，记录请求参数便于排查。

常见问题：费用超出预期

给每次运行设上限，监控调用次数，先用小模型处理简单步骤。

常见问题：误发消息给客户

对外发送前加人工审批节点，测试环境与正式环境分开。

概念补充：可观测性

记录每一步输入输出与耗时，便于排查和评估。

概念补充：工作流（Workflow）

按固定步骤执行的流程，可预测、易排错。

适合人群：行政与助理

行政与助理可以用 LiteLLM 处理会议安排与纪要、通知公告等工作。需要注意：员工个人信息与内部文件按权限管理。

适合人群：财务人员

财务人员可以用 LiteLLM 处理单据识别录入、报表说明与分析等工作。需要注意：财务数据属于敏感信息，优先使用企业版或本地方案，结果需复核。

注意事项

涉及个人信息、商业机密或受监管数据时，先确认 LiteLLM 的数据处理条款，再决定能否使用。

文中提示词和示例仅作示意，实际效果取决于你的材料和 LiteLLM 当前版本，重要内容请人工核对后再使用。

延伸阅读