从「能用」到「好用」:LiteLLM 对比示例
在「智能体与自动化」类工具里,LiteLLM 的定位是:用统一接口调用上百种模型并做路由、限额的开源网关。
下面用几组示意对比,说明同一任务里提示写法和流程不同会带来什么差别。
对比一:模糊指令 vs 明确指令
改之前:直接说「帮我线索整理流程」。结果往往泛泛而谈、格式随意。
改之后:写清材料、格式和验收标准:
搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。
变化(示意):输出结构稳定,可以直接按「不确定的情况进入人工」检查。
对比二:一次做完 vs 分步完成
改之前:把「竞品信息周报」的全部要求一次塞进去。改之后:先让它给出计划或大纲,确认后再逐步完成。变化(示意):中途发现偏差可以及时纠正,返工更少。
每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。
对比三:不检查 vs 带检查点
改之前:拿到结果直接用。改之后:每次都对照「低置信度字段留空」检查,并让工具列出它不确定的地方。变化(示意):问题在交付前被发现。
以上对比均为示意,用来说明方法差异,不代表具体的效率数字。
补充练习
知识库问答机器人
适用情况:手头有一批产品文档和 FAQ 时。
用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。
检查点:答不出时不编造。
多步骤调研任务
适用情况:手头有一个需要多来源信息的问题时。
围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。
验收标准:矛盾信息被并列呈现。
定时提醒与汇总
适用情况:手头有团队群聊或任务看板时。
每天下午 6 点汇总今日新增和逾期任务,按负责人分组发送提醒,周五额外输出一周完成情况。
验收标准:提醒内容与看板一致。
常见问题:调用外部系统失败
增加重试和失败通知,记录请求参数便于排查。
常见问题:输出格式不稳定
要求结构化输出并做格式校验,不合格时重试。
常见问题:智能体陷入循环
设置最大步数和超时,关键步骤改为固定工作流。
概念补充:触发器
启动流程的事件,如新邮件、定时、表单提交。
概念补充:工作流(Workflow)
按固定步骤执行的流程,可预测、易排错。
适合人群:财务人员
财务人员可以用 LiteLLM 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。
适合人群:软件工程师
软件工程师可以用 LiteLLM 处理代码阅读与重构、测试与排错等工作。需要注意:不要把密钥和未开源代码上传到未授权工具,合并前审阅每处改动。
使用提醒
所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。
涉及个人信息、商业机密或受监管数据时,先确认 LiteLLM 的数据处理条款,再决定能否使用。