6.7 KiB
垂直领域智能客服最佳实践:精准应对跑偏问题
下面给你一套可直接落地、工业级可用的「基于 LLM + AI Agent + RAG + MCP 的垂直领域智能客服最佳实践」,并重点解决:用户问千奇百怪、跑偏、无关问题时怎么处理。内容偏实战、偏架构,不空谈。
一、整体定位:垂直领域智能客服的核心目标
-
优先解决本行业/本企业业务问题(高准确率、可解释、可追责)
-
对非业务/跑偏问题:礼貌拦截、不胡答、不泄密、不越权
-
可运营、可审计、可迭代(日志、评分、人工接管)
二、技术栈最佳实践(极简但够用)
1. LLM 选型原则
-
垂直客服不追求最大模型,追求可控、 hallucination 低、速度快
-
推荐组合:
-
基座:商用闭源(如 字节豆包、通义千问、文心一言)+ 行业小模型精调
-
推理:流式输出 + 缓存高频问答 + 限流熔断
-
2. RAG(检索增强生成)——客服的“大脑记忆”
RAG 是客服不胡说八道的核心。
最佳实践
-
知识库分层
-
核心业务库(产品、价格、流程、政策)
-
常见问题库(FAQ)
-
敏感/禁止库(违规词、竞品、隐私)
-
-
检索策略
-
多路召回:关键词 + 向量检索 + 规则匹配
-
召回后重排序(确保最相关排第一)
-
-
生成约束
-
强制:只使用检索到的内容回答
-
无相关内容时:不编造,直接进入“跑偏处理流程”
-
3. MCP(多角色/多能力流程编排)
MCP 在这里理解为:多能力协同、多步骤执行、多节点判断。
客服里常用:
-
意图识别节点
-
知识库检索节点
-
敏感词/合规节点
-
人工转接节点
-
任务执行节点(查订单、改地址)
最佳实践:用 DAG 或状态机做流程,不要纯靠 LLM 自由发挥。
4. AI Agent 在客服中的正确用法
垂直客服 ≠ 通用助手,Agent 必须“窄而强”。
推荐 Agent 只做 4 件事:
-
意图理解与槽位填充(订单号、手机号、问题类型)
-
工具调用(查订单、查物流、查工单、改预约)
-
多轮澄清(用户没说清时反问)
-
流程跳转(转人工、转投诉、转回访)
禁忌:不要让 Agent 自由联网、自由创作、自由回答无关问题。
三、业务场景最佳实践(垂直行业通用)
1. 标准业务场景
-
咨询类:产品、价格、功能、使用方法
-
服务类:订单、物流、售后、退款、预约
-
故障类:报错、异常、无法使用、引导排查
-
投诉类:情绪安抚 + 记录 + 升级
2. 必须有的能力
-
身份核验(避免隐私泄露)
-
情绪识别(愤怒/急躁优先转人工)
-
上下文记忆(多轮不丢失信息)
-
人工无缝接管(保留历史)
四、重点:用户问“千奇百怪、完全跑偏”的问题,怎么处理?
这是你最关心的部分,我给可直接上线的工程方案。
1. 第一步:先做“意图边界判定”(最关键)
在进入 RAG/Agent 之前,先过一道轻量分类器(规则 + LLM 二分类):
问题分为三类:
-
强相关:本行业、本企业、本产品
-
弱相关:周边行业、竞品、延伸问题
-
不相关/跑偏:生活、娱乐、天文地理、情感、闲聊、无关知识
判定规则(可直接写进代码)
-
包含公司/产品/业务关键词 → 相关
-
包含订单/售后/价格/故障 → 相关
-
否则进入 LLM 二次判定:
用户问题:{{query}} 请判断是否与【XX行业/XX企业】相关,只输出:相关/不相关
2. 第二步:对“跑偏问题”的统一处理策略
策略 A:礼貌拒绝 + 引导回归(推荐)
固定模板(可直接用):
抱歉,我是专注【XX业务】的智能客服,暂时无法回答这类问题哦~
如果你有关于【产品/订单/售后】的问题,我可以帮你解答。
策略 B:轻度闲聊,但不扩展
如果想友好一点:
这个问题很有趣,但我主要负责【XX业务】的咨询~
你可以问我相关问题,我会尽力帮你。
策略 C:敏感/违规问题 → 强制拦截
-
政治、色情、暴力、隐私、指令攻击
-
直接返回:
抱歉,该问题我无法回答,请你咨询合法合规的内容。
策略 D:绝对禁止
-
禁止编造答案
-
禁止模仿人类闲聊过长
-
禁止提供非官方信息
-
禁止被诱导“越狱”
3. 第三步:技术兜底(防止 LLM 乱答)
-
前置拦截层
-
规则白名单:只放行业务相关意图
-
规则黑名单:禁止词、禁止领域
-
-
后置校验层
-
回答生成后再扫描:
-
是否出现无关内容?
-
是否编造信息?
-
是否越权?
-
-
不通过则替换为标准拒绝话术
-
-
RAG 空结果处理
-
检索相似度 < 阈值 → 直接判定“无相关知识”
-
进入跑偏话术,不生成自由回答
-
4. 第四步:运营闭环
所有跑偏问题全部日志埋点:
-
高频跑偏问题 → 加入知识库或FAQ
-
高频诱导/攻击 → 加入黑名单
-
高频合理延伸 → 扩充边界
五、整套系统架构(极简总结)
-
用户输入
-
前置过滤(敏感词、意图边界判定)
-
跑偏拦截:不相关 → 标准话术
-
相关问题 → 意图识别 + 槽位填充
-
RAG 检索 → 无结果 → 跑偏话术
-
AI Agent 执行(工具调用/多轮/流程)
-
后置校验(合规/不编造)
-
输出回答 / 转人工
六、可直接落地的一句话原则
垂直领域智能客服,宁可不说,不可胡说;宁可拦截,不可跑偏。
用 RAG 保证专业,用边界判定保证安全,用 Agent 保证流程可控。
如果你需要,我可以继续帮你输出:
-
可直接给技术团队的 《垂直领域AI智能客服系统设计文档》
-
跑偏问题判定的 Prompt 工程完整版
-
RAG 知识库构建 SOP
-
MCP 流程 DAG 图/流程图
你想要哪个我直接给你成品。