在「智能体与自动化」类工具里,LiteLLM 的定位是:用统一接口调用上百种模型并做路由、限额的开源网关。

这篇不讲概念,直接给能复制修改的模板,以及每个模板该怎么填。

模板怎么用

每个模板都由三部分组成:背景(你是谁、要做什么)、约束(格式、篇幅、禁止事项)、验收(怎样算合格)。把方括号里的内容换成你自己的信息即可。

模板 1:知识库问答机器人

适合:一批产品文档和 FAQ。

用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。

填写提示:要求它在不确定处标注,而不是自行补全;验收看「答不出时不编造」。

模板 2:竞品信息周报

适合:5 个竞品的公开网站或博客。

每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。

填写提示:先用一份小样本试跑,再处理完整材料;验收看「每条变化都附链接」。

模板 3:发票与单据提取

适合:一批 PDF 发票或收据。

从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。

填写提示:要求它在不确定处标注,而不是自行补全;验收看「低置信度字段留空」。

模板维护

  • 给每个模板编号并记录修改日期。
  • 保留一份「效果好」的示例输出作为对照。
  • 团队共用时注明适用场景和负责人。

更多可以试的用法

多步骤调研任务

准备材料:一个需要多来源信息的问题。

围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。

检查点:矛盾信息被并列呈现。

定时提醒与汇总

准备材料:团队群聊或任务看板。

每天下午 6 点汇总今日新增和逾期任务,按负责人分组发送提醒,周五额外输出一周完成情况。

交付前确认:提醒内容与看板一致。

线索整理流程

适用情况:手头有每天从表单收到的客户咨询时。

搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。

检查点:不确定的情况进入人工。

常见问题:智能体陷入循环

设置最大步数和超时,关键步骤改为固定工作流。

常见问题:费用超出预期

给每次运行设上限,监控调用次数,先用小模型处理简单步骤。

常见问题:调用外部系统失败

增加重试和失败通知,记录请求参数便于排查。

概念补充:工具调用

模型调用外部 API 或函数完成动作的能力。

概念补充:人工审批节点

在关键动作前暂停等待人确认,防止误操作。

注意事项

本文基于 LiteLLM 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。

文中提示词和示例仅作示意,实际效果取决于你的材料和 LiteLLM 当前版本,重要内容请人工核对后再使用。

延伸阅读