先说清楚它是什么:LiteLLM 属于「智能体与自动化」方向的开源项目,用统一接口调用上百种模型并做路由、限额的开源网关。

换工具的成本常被低估,这篇按步骤列出迁移前后要做的事。

以从 OpenRouter 迁移为例

迁移不一定是「全面替换」。很多团队会先把一部分任务交给 LiteLLM,与 OpenRouter 并行一段时间再决定。

迁移步骤

  1. 盘点资产:现在用的提示词、模板、知识库、自动化流程和历史产出。
  2. 确认导出方式:哪些能导出、格式是什么、哪些只能手工迁移。
  3. 挑 3 个典型任务(如「线索整理流程」「知识库问答机器人」)在两边同时做。
  4. 按同一张评分表比较结果。
  5. 迁移账号与权限,通知团队新的使用规范。
  6. 保留旧工具一段时间的只读访问,确认无遗漏后再停用。

对比测试用的任务

线索整理流程

输入:每天从表单收到的客户咨询。

搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。

交付前确认:不确定的情况进入人工。

不建议迁移的情况

  • 核心流程依赖 OpenRouter 特有的功能或集成。
  • 团队刚刚完成培训,切换成本过高。
  • 新工具的数据处理条款不满足要求。

补充练习

多步骤调研任务

适用情况:手头有一个需要多来源信息的问题时。

围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。

检查点:矛盾信息被并列呈现。

发票与单据提取

输入:一批 PDF 发票或收据。

从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。

检查点:低置信度字段留空。

竞品信息周报

适用情况:手头有 5 个竞品的公开网站或博客时。

每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。

检查点:每条变化都附链接。

常见问题:智能体陷入循环

设置最大步数和超时,关键步骤改为固定工作流。

常见问题:误发消息给客户

对外发送前加人工审批节点,测试环境与正式环境分开。

常见问题:调用外部系统失败

增加重试和失败通知,记录请求参数便于排查。

概念补充:人工审批节点

在关键动作前暂停等待人确认,防止误操作。

概念补充:工作流(Workflow)

按固定步骤执行的流程,可预测、易排错。

适合人群:财务人员

财务人员可以用 LiteLLM 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。

适合人群:数据分析师

数据分析师可以用 LiteLLM 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。

使用提醒

涉及个人信息、商业机密或受监管数据时,先确认 LiteLLM 的数据处理条款,再决定能否使用。

文中提示词和示例仅作示意,实际效果取决于你的材料和 LiteLLM 当前版本,重要内容请人工核对后再使用。

延伸阅读