在「智能体与自动化」类工具里,LiteLLM 的定位是:用统一接口调用上百种模型并做路由、限额的开源网关。

下面用几组示意对比,说明同一任务里提示写法和流程不同会带来什么差别。

对比一:模糊指令 vs 明确指令

改之前:直接说「帮我线索整理流程」。结果往往泛泛而谈、格式随意。

改之后:写清材料、格式和验收标准:

搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。

变化(示意):输出结构稳定,可以直接按「不确定的情况进入人工」检查。

对比二:一次做完 vs 分步完成

改之前:把「竞品信息周报」的全部要求一次塞进去。改之后:先让它给出计划或大纲,确认后再逐步完成。变化(示意):中途发现偏差可以及时纠正,返工更少。

每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。

对比三:不检查 vs 带检查点

改之前:拿到结果直接用。改之后:每次都对照「低置信度字段留空」检查,并让工具列出它不确定的地方。变化(示意):问题在交付前被发现。

以上对比均为示意,用来说明方法差异,不代表具体的效率数字。

补充练习

知识库问答机器人

适用情况:手头有一批产品文档和 FAQ 时。

用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。

检查点:答不出时不编造。

多步骤调研任务

适用情况:手头有一个需要多来源信息的问题时。

围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。

验收标准:矛盾信息被并列呈现。

定时提醒与汇总

适用情况:手头有团队群聊或任务看板时。

每天下午 6 点汇总今日新增和逾期任务,按负责人分组发送提醒,周五额外输出一周完成情况。

验收标准:提醒内容与看板一致。

常见问题:调用外部系统失败

增加重试和失败通知,记录请求参数便于排查。

常见问题:输出格式不稳定

要求结构化输出并做格式校验,不合格时重试。

常见问题:智能体陷入循环

设置最大步数和超时,关键步骤改为固定工作流。

概念补充:触发器

启动流程的事件,如新邮件、定时、表单提交。

概念补充:工作流(Workflow)

按固定步骤执行的流程,可预测、易排错。

适合人群:财务人员

财务人员可以用 LiteLLM 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。

适合人群:软件工程师

软件工程师可以用 LiteLLM 处理代码阅读与重构、测试与排错等工作。需要注意:不要把密钥和未开源代码上传到未授权工具,合并前审阅每处改动。

使用提醒

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

涉及个人信息、商业机密或受监管数据时,先确认 LiteLLM 的数据处理条款,再决定能否使用。

延伸阅读