LiteLLM 可复制模板:拿来就能改的提示词与结构
在「智能体与自动化」类工具里,LiteLLM 的定位是:用统一接口调用上百种模型并做路由、限额的开源网关。
这篇不讲概念,直接给能复制修改的模板,以及每个模板该怎么填。
模板怎么用
每个模板都由三部分组成:背景(你是谁、要做什么)、约束(格式、篇幅、禁止事项)、验收(怎样算合格)。把方括号里的内容换成你自己的信息即可。
模板 1:知识库问答机器人
适合:一批产品文档和 FAQ。
用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。
填写提示:要求它在不确定处标注,而不是自行补全;验收看「答不出时不编造」。
模板 2:竞品信息周报
适合:5 个竞品的公开网站或博客。
每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。
填写提示:先用一份小样本试跑,再处理完整材料;验收看「每条变化都附链接」。
模板 3:发票与单据提取
适合:一批 PDF 发票或收据。
从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。
填写提示:要求它在不确定处标注,而不是自行补全;验收看「低置信度字段留空」。
模板维护
- 给每个模板编号并记录修改日期。
- 保留一份「效果好」的示例输出作为对照。
- 团队共用时注明适用场景和负责人。
更多可以试的用法
多步骤调研任务
准备材料:一个需要多来源信息的问题。
围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。
检查点:矛盾信息被并列呈现。
定时提醒与汇总
准备材料:团队群聊或任务看板。
每天下午 6 点汇总今日新增和逾期任务,按负责人分组发送提醒,周五额外输出一周完成情况。
交付前确认:提醒内容与看板一致。
线索整理流程
适用情况:手头有每天从表单收到的客户咨询时。
搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。
检查点:不确定的情况进入人工。
常见问题:智能体陷入循环
设置最大步数和超时,关键步骤改为固定工作流。
常见问题:费用超出预期
给每次运行设上限,监控调用次数,先用小模型处理简单步骤。
常见问题:调用外部系统失败
增加重试和失败通知,记录请求参数便于排查。
概念补充:工具调用
模型调用外部 API 或函数完成动作的能力。
概念补充:人工审批节点
在关键动作前暂停等待人确认,防止误操作。
注意事项
本文基于 LiteLLM 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。
文中提示词和示例仅作示意,实际效果取决于你的材料和 LiteLLM 当前版本,重要内容请人工核对后再使用。