从同类工具换到 LiteLLM:迁移步骤清单
先说清楚它是什么:LiteLLM 属于「智能体与自动化」方向的开源项目,用统一接口调用上百种模型并做路由、限额的开源网关。
换工具的成本常被低估,这篇按步骤列出迁移前后要做的事。
以从 OpenRouter 迁移为例
迁移不一定是「全面替换」。很多团队会先把一部分任务交给 LiteLLM,与 OpenRouter 并行一段时间再决定。
迁移步骤
- 盘点资产:现在用的提示词、模板、知识库、自动化流程和历史产出。
- 确认导出方式:哪些能导出、格式是什么、哪些只能手工迁移。
- 挑 3 个典型任务(如「线索整理流程」「知识库问答机器人」)在两边同时做。
- 按同一张评分表比较结果。
- 迁移账号与权限,通知团队新的使用规范。
- 保留旧工具一段时间的只读访问,确认无遗漏后再停用。
对比测试用的任务
线索整理流程
输入:每天从表单收到的客户咨询。
搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。
交付前确认:不确定的情况进入人工。
不建议迁移的情况
- 核心流程依赖 OpenRouter 特有的功能或集成。
- 团队刚刚完成培训,切换成本过高。
- 新工具的数据处理条款不满足要求。
补充练习
多步骤调研任务
适用情况:手头有一个需要多来源信息的问题时。
围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。
检查点:矛盾信息被并列呈现。
发票与单据提取
输入:一批 PDF 发票或收据。
从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。
检查点:低置信度字段留空。
竞品信息周报
适用情况:手头有 5 个竞品的公开网站或博客时。
每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。
检查点:每条变化都附链接。
常见问题:智能体陷入循环
设置最大步数和超时,关键步骤改为固定工作流。
常见问题:误发消息给客户
对外发送前加人工审批节点,测试环境与正式环境分开。
常见问题:调用外部系统失败
增加重试和失败通知,记录请求参数便于排查。
概念补充:人工审批节点
在关键动作前暂停等待人确认,防止误操作。
概念补充:工作流(Workflow)
按固定步骤执行的流程,可预测、易排错。
适合人群:财务人员
财务人员可以用 LiteLLM 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。
适合人群:数据分析师
数据分析师可以用 LiteLLM 处理取数与 SQL、清洗与可视化等工作。需要注意:确认指标口径,敏感数据脱敏后再交给 AI 处理。
使用提醒
涉及个人信息、商业机密或受监管数据时,先确认 LiteLLM 的数据处理条款,再决定能否使用。
文中提示词和示例仅作示意,实际效果取决于你的材料和 LiteLLM 当前版本,重要内容请人工核对后再使用。