DSPy 是一款开源项目:斯坦福开源的「编程而非提示」大模型框架。

当数据不能离开公司或个人设备时,就需要考虑自托管或开源路线。

先判断:它能不能自托管

它本身是开源项目,可以自托管:数据留在自己的机器上,但升级、安全补丁与故障排查都要团队自己承担。

决策要点

  • 数据敏感级别:只有内部公开信息时,云端服务通常更省事。
  • 团队是否有人负责运维和安全更新。
  • 硬件投入:本地运行模型需要显卡或较大的内存。
  • 效果差距:用自己的任务实测,不要只看榜单。

可以评估的开源方向包括:Browser Use、AutoGPT、Activepieces。它们与 DSPy 的能力并不完全等同,适合用来承接对数据要求最高的那部分任务。

用同一个任务做对比

竞品信息周报

准备材料:5 个竞品的公开网站或博客。

每周一自动抓取这些竞品页面的更新,让 AI 对比上周内容,输出「新增功能 / 价格页面变化 / 新发布文章」三段摘要,并附原始链接。

交付前确认:每条变化都附链接。

自托管上线清单

  • 固定版本号并记录配置。
  • 只在内网暴露服务或加上认证。
  • 设置日志与资源监控。
  • 订阅仓库的版本发布与安全公告。
  • 准备回滚方案。

补充练习

知识库问答机器人

适用情况:手头有一批产品文档和 FAQ 时。

用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。

验收标准:答不出时不编造。

线索整理流程

准备材料:每天从表单收到的客户咨询。

搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。

检查点:不确定的情况进入人工。

发票与单据提取

输入:一批 PDF 发票或收据。

从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。

交付前确认:低置信度字段留空。

常见问题:智能体陷入循环

设置最大步数和超时,关键步骤改为固定工作流。

常见问题:输出格式不稳定

要求结构化输出并做格式校验,不合格时重试。

常见问题:费用超出预期

给每次运行设上限,监控调用次数,先用小模型处理简单步骤。

概念补充:触发器

启动流程的事件,如新邮件、定时、表单提交。

概念补充:可观测性

记录每一步输入输出与耗时,便于排查和评估。

适合人群:客服人员

客服人员可以用 DSPy 处理回复草稿、工单分类等工作。需要注意:不得以 AI 名义做出政策外承诺,涉及隐私的问题按流程处理。

适合人群:财务人员

财务人员可以用 DSPy 处理单据识别录入、报表说明与分析等工作。需要注意:财务数据属于敏感信息,优先使用企业版或本地方案,结果需复核。

注意事项

文中提示词和示例仅作示意,实际效果取决于你的材料和 DSPy 当前版本,重要内容请人工核对后再使用。

涉及个人信息、商业机密或受监管数据时,先确认 DSPy 的数据处理条款,再决定能否使用。

延伸阅读