开源的大模型应用观测、追踪与评测平台——这是 Langfuse 最主要的用途,也是本文讨论的前提。

单独用一个工具往往只解决一段问题,这篇讲怎么把它和上下游工具串起来。

推荐组合:Langfuse + Sierra

Sierra 的定位是:为企业搭建面向客户的对话智能体的平台。两者分工可以是:Langfuse 负责「线索整理流程」这一步,Sierra 负责接入客服渠道。

工作流步骤

  1. 明确交付物和验收标准,例如:不确定的情况进入人工。
  2. 准备输入:每天从表单收到的客户咨询,先去掉敏感信息。
  3. 在 Langfuse 中执行核心步骤(提示词见下文)
  4. 把结果交给 Sierra 做下一步处理,或从 Sierra 取得所需材料。
  5. 人工检查关键事实与格式,记录发现的问题。
  6. 把这次用到的提示词和设置保存为模板,下次复用。

线索整理流程

准备材料:每天从表单收到的客户咨询。

搭建一个流程:新表单提交后,AI 判断咨询类型(报价 / 售后 / 合作 / 其他),提取联系人和需求摘要写入表格,报价类自动通知销售群。分类不确定时标记为「待人工」。

检查点:不确定的情况进入人工。

交接时最容易出问题的地方

  • 格式不兼容:两边导入导出的格式提前测试一次。
  • 信息丢失:每次交接附上来源和版本号。
  • 责任不清:约定哪一步由谁做最终确认。
  • 权限分散:两边的账号和分享范围分别检查。

如果暂时不想引入第二个工具,也可以先用 Helicone 等同类产品替代其中一环,跑通流程后再决定。

补充练习

知识库问答机器人

适用情况:手头有一批产品文档和 FAQ 时。

用这些文档搭建问答机器人:回答只基于文档,找不到答案时回复「这个问题我需要转给同事」,并记录未解决问题供每周补充文档。

检查点:答不出时不编造。

多步骤调研任务

准备材料:一个需要多来源信息的问题。

围绕【主题】做调研:先列出调研计划,再分别检索,最后输出带来源的报告。每个结论注明来源链接,来源之间矛盾时并列呈现。

交付前确认:矛盾信息被并列呈现。

发票与单据提取

准备材料:一批 PDF 发票或收据。

从这些单据中提取开票日期、金额、销售方名称和税号,输出为表格;任何字段识别置信度低时留空并标红,不要猜测。

交付前确认:低置信度字段留空。

常见问题:费用超出预期

给每次运行设上限,监控调用次数,先用小模型处理简单步骤。

常见问题:输出格式不稳定

要求结构化输出并做格式校验,不合格时重试。

常见问题:误发消息给客户

对外发送前加人工审批节点,测试环境与正式环境分开。

概念补充:工作流(Workflow)

按固定步骤执行的流程,可预测、易排错。

概念补充:工具调用

模型调用外部 API 或函数完成动作的能力。

适合人群:HR 与招聘

HR 与招聘可以用 Langfuse 处理岗位描述撰写、面试题与评估表等工作。需要注意:简历筛选不得以性别、年龄等因素做歧视性判断,候选人信息需妥善保管。

写在最后

本文基于 Langfuse 公开的定位与通用用法编写,具体功能、套餐与可用地区以官方页面为准,产品更新后界面和名称可能变化。

所有示例输出均为示意,不代表真实统计或效果承诺;请以自己的测试结果为准。

延伸阅读