很多人都有过和客服机器人“鸡同鸭讲”的经历：问题稍微复杂一点，机器人就只会重复几句标准话术，最后不得不反复输入“转人工”。大语言模型让客服系统发生了质的变化：它能理解多样化的表达、联系上下文、生成自然的回答；结合工具调用，还能直接查询订单、修改地址、办理退换货。 但要让大模型客服真正可靠，需要在知识、流程和安全上做好设计。

客服系统的演进

  1. 关键词规则机器人：匹配关键词返回预设答案，覆盖面窄，表达稍有变化就无法识别；
  2. 意图识别机器人：通过分类模型识别用户意图，需要为每个意图准备大量训练语料和对话流程，维护成本高；
  3. 大模型问答：基于知识库检索生成回答，理解能力强，覆盖面广；
  4. 服务 Agent：不仅回答问题，还能调用业务系统完成办理，真正解决用户的问题。

系统架构

一个典型的大模型客服系统包括：

  • 意图理解与路由：判断用户是咨询、办理业务、投诉还是闲聊，分配到不同的处理流程；
  • 知识库检索：从产品资料、政策文件、常见问题中检索相关内容，参见企业知识库问答落地；
  • 业务工具：订单查询、物流查询、退换货申请、账户操作等接口，参见 Function Calling 详解；
  • 对话管理：维护多轮对话的上下文，收集办理业务所需的信息；
  • 人工协同：转人工、人工接管、人工辅助等机制；
  • 安全与合规：输入输出过滤、敏感信息保护、操作审计。

知识库建设是基础

客服回答的准确性，主要取决于知识库的质量：

  • 覆盖全面：梳理历史客服记录中的高频问题，确保都有对应的知识内容；
  • 内容准确：政策和产品信息要有明确的负责人，及时更新；
  • 表述清晰：知识条目要写成客服能直接使用的形式，避免模糊和矛盾；
  • 持续补充：定期分析机器人答不上来或答错的问题，补充和修正知识。

转人工策略

好的转人工策略既不能让用户被困在机器人里，也不能什么都转人工：

  • 用户明确要求时立即转接，不要反复挽留；
  • 检测到负面情绪或投诉时主动转接；
  • 多轮对话后问题仍未解决时转接；
  • 涉及高风险或政策例外的情况转接，如大额退款、特殊赔偿；
  • 转接时传递上下文：把对话摘要和已收集的信息交给人工客服，避免用户重复描述。

防止乱承诺和越权

大模型客服最需要防范的风险之一，是做出超出公司政策的承诺。国外已有航空公司因客服机器人给出了错误的退款政策信息而被裁定承担责任的公开报道。

  • 严格基于知识库回答：在系统提示中明确要求只依据检索到的政策内容回答，没有依据时如实说明，参见系统提示设计指南；
  • 禁止擅自承诺：赔偿、优惠、特殊处理等必须按照规则执行，模型不能自行决定；
  • 工具权限控制：查询类操作可以直接执行，修改和退款类操作需要满足规则校验，高风险操作需要人工审批；
  • 身份验证：查询和修改个人信息前，必须完成身份验证；
  • 防范注入攻击：用户可能尝试通过特殊话术诱导客服泄露信息或执行越权操作，参见提示注入攻击与防御。

效果指标

  • 问题解决率：用户的问题在机器人环节被真正解决的比例，而不仅仅是“回答了”；
  • 转人工率：以及转人工的原因分布；
  • 用户满意度：对话结束后的评价；
  • 回答准确率：通过抽检评估回答是否正确、是否符合政策；
  • 平均处理时长：包括机器人和人工环节；
  • 重复咨询率：用户在短时间内就同一问题再次咨询，说明问题没有被真正解决。

持续的质量监控方法见大模型应用上线后的监控。

落地建议

  1. 先从咨询量最大、答案最明确的问题类型开始；
  2. 初期采用“AI 起草、人工确认”的辅助模式，积累数据并验证准确率；
  3. 逐步把高准确率的问题类型切换为自动回答；
  4. 业务办理功能从低风险的查询类操作开始，逐步扩展。

小结

大模型让智能客服从“答非所问”走向“真正理解”，结合工具调用还能直接办理业务。高质量的知识库、合理的转人工策略、严格的承诺和权限控制，以及以问题解决率为核心的效果评估，是大模型客服成功的关键。