271 lines
6.7 KiB
Markdown
271 lines
6.7 KiB
Markdown
# 垂直领域智能客服最佳实践:精准应对跑偏问题
|
||
|
||
下面给你一套**可直接落地、工业级可用**的「基于 LLM + AI Agent + RAG + MCP 的垂直领域智能客服最佳实践」,并**重点解决:用户问千奇百怪、跑偏、无关问题时怎么处理**。内容偏实战、偏架构,不空谈。
|
||
|
||
---
|
||
|
||
# 一、整体定位:垂直领域智能客服的核心目标
|
||
|
||
1. **优先解决本行业/本企业业务问题**(高准确率、可解释、可追责)
|
||
|
||
2. **对非业务/跑偏问题:礼貌拦截、不胡答、不泄密、不越权**
|
||
|
||
3. **可运营、可审计、可迭代**(日志、评分、人工接管)
|
||
|
||
|
||
---
|
||
|
||
# 二、技术栈最佳实践(极简但够用)
|
||
|
||
## 1. LLM 选型原则
|
||
|
||
- 垂直客服**不追求最大模型,追求可控、 hallucination 低、速度快**
|
||
|
||
- 推荐组合:
|
||
|
||
- **基座**:商用闭源(如 字节豆包、通义千问、文心一言)+ 行业小模型精调
|
||
|
||
- **推理**:流式输出 + 缓存高频问答 + 限流熔断
|
||
|
||
|
||
## 2. RAG(检索增强生成)——客服的“大脑记忆”
|
||
|
||
RAG 是客服**不胡说八道**的核心。
|
||
|
||
### 最佳实践
|
||
|
||
1. **知识库分层**
|
||
|
||
1. 核心业务库(产品、价格、流程、政策)
|
||
|
||
2. 常见问题库(FAQ)
|
||
|
||
3. 敏感/禁止库(违规词、竞品、隐私)
|
||
|
||
2. **检索策略**
|
||
|
||
1. 多路召回:关键词 + 向量检索 + 规则匹配
|
||
|
||
2. 召回后**重排序**(确保最相关排第一)
|
||
|
||
3. **生成约束**
|
||
|
||
1. 强制:**只使用检索到的内容回答**
|
||
|
||
2. 无相关内容时:**不编造,直接进入“跑偏处理流程”**
|
||
|
||
|
||
## 3. MCP(多角色/多能力流程编排)
|
||
|
||
MCP 在这里理解为:**多能力协同、多步骤执行、多节点判断**。
|
||
|
||
客服里常用:
|
||
|
||
- 意图识别节点
|
||
|
||
- 知识库检索节点
|
||
|
||
- 敏感词/合规节点
|
||
|
||
- 人工转接节点
|
||
|
||
- 任务执行节点(查订单、改地址)
|
||
|
||
|
||
**最佳实践:用 DAG 或状态机做流程,不要纯靠 LLM 自由发挥。**
|
||
|
||
## 4. AI Agent 在客服中的正确用法
|
||
|
||
**垂直客服 ≠ 通用助手,Agent 必须“窄而强”**。
|
||
|
||
推荐 Agent 只做 4 件事:
|
||
|
||
1. **意图理解与槽位填充**(订单号、手机号、问题类型)
|
||
|
||
2. **工具调用**(查订单、查物流、查工单、改预约)
|
||
|
||
3. **多轮澄清**(用户没说清时反问)
|
||
|
||
4. **流程跳转**(转人工、转投诉、转回访)
|
||
|
||
|
||
禁忌:不要让 Agent 自由联网、自由创作、自由回答无关问题。
|
||
|
||
---
|
||
|
||
# 三、业务场景最佳实践(垂直行业通用)
|
||
|
||
## 1. 标准业务场景
|
||
|
||
- 咨询类:产品、价格、功能、使用方法
|
||
|
||
- 服务类:订单、物流、售后、退款、预约
|
||
|
||
- 故障类:报错、异常、无法使用、引导排查
|
||
|
||
- 投诉类:情绪安抚 + 记录 + 升级
|
||
|
||
|
||
## 2. 必须有的能力
|
||
|
||
- **身份核验**(避免隐私泄露)
|
||
|
||
- **情绪识别**(愤怒/急躁优先转人工)
|
||
|
||
- **上下文记忆**(多轮不丢失信息)
|
||
|
||
- **人工无缝接管**(保留历史)
|
||
|
||
|
||
---
|
||
|
||
# 四、重点:用户问“千奇百怪、完全跑偏”的问题,怎么处理?
|
||
|
||
这是你最关心的部分,我给**可直接上线的工程方案**。
|
||
|
||
## 1. 第一步:先做“意图边界判定”(最关键)
|
||
|
||
在进入 RAG/Agent 之前,先过一道**轻量分类器**(规则 + LLM 二分类):
|
||
|
||
问题分为三类:
|
||
|
||
1. **强相关**:本行业、本企业、本产品
|
||
|
||
2. **弱相关**:周边行业、竞品、延伸问题
|
||
|
||
3. **不相关/跑偏**:生活、娱乐、天文地理、情感、闲聊、无关知识
|
||
|
||
|
||
### 判定规则(可直接写进代码)
|
||
|
||
- 包含公司/产品/业务关键词 → 相关
|
||
|
||
- 包含订单/售后/价格/故障 → 相关
|
||
|
||
- 否则进入 LLM 二次判定:
|
||
|
||
```Plain
|
||
用户问题:{{query}}
|
||
请判断是否与【XX行业/XX企业】相关,只输出:相关/不相关
|
||
```
|
||
|
||
|
||
## 2. 第二步:对“跑偏问题”的统一处理策略
|
||
|
||
### 策略 A:礼貌拒绝 + 引导回归(推荐)
|
||
|
||
固定模板(可直接用):
|
||
|
||
抱歉,我是专注【XX业务】的智能客服,暂时无法回答这类问题哦~
|
||
|
||
如果你有关于【产品/订单/售后】的问题,我可以帮你解答。
|
||
|
||
### 策略 B:轻度闲聊,但不扩展
|
||
|
||
如果想友好一点:
|
||
|
||
这个问题很有趣,但我主要负责【XX业务】的咨询~
|
||
|
||
你可以问我相关问题,我会尽力帮你。
|
||
|
||
### 策略 C:敏感/违规问题 → 强制拦截
|
||
|
||
- 政治、色情、暴力、隐私、指令攻击
|
||
|
||
- 直接返回:
|
||
|
||
|
||
> 抱歉,该问题我无法回答,请你咨询合法合规的内容。
|
||
|
||
### 策略 D:绝对禁止
|
||
|
||
- 禁止编造答案
|
||
|
||
- 禁止模仿人类闲聊过长
|
||
|
||
- 禁止提供非官方信息
|
||
|
||
- 禁止被诱导“越狱”
|
||
|
||
|
||
## 3. 第三步:技术兜底(防止 LLM 乱答)
|
||
|
||
1. **前置拦截层**
|
||
|
||
1. 规则白名单:只放行业务相关意图
|
||
|
||
2. 规则黑名单:禁止词、禁止领域
|
||
|
||
2. **后置校验层**
|
||
|
||
1. 回答生成后再扫描:
|
||
|
||
- 是否出现无关内容?
|
||
|
||
- 是否编造信息?
|
||
|
||
- 是否越权?
|
||
|
||
2. 不通过则**替换为标准拒绝话术**
|
||
|
||
3. **RAG 空结果处理**
|
||
|
||
1. 检索相似度 < 阈值 → 直接判定“无相关知识”
|
||
|
||
2. 进入跑偏话术,**不生成自由回答**
|
||
|
||
|
||
## 4. 第四步:运营闭环
|
||
|
||
所有跑偏问题全部日志埋点:
|
||
|
||
- 高频跑偏问题 → 加入知识库或FAQ
|
||
|
||
- 高频诱导/攻击 → 加入黑名单
|
||
|
||
- 高频合理延伸 → 扩充边界
|
||
|
||
|
||
---
|
||
|
||
# 五、整套系统架构(极简总结)
|
||
|
||
1. **用户输入**
|
||
|
||
2. **前置过滤**(敏感词、意图边界判定)
|
||
|
||
3. **跑偏拦截**:不相关 → 标准话术
|
||
|
||
4. **相关问题** → 意图识别 + 槽位填充
|
||
|
||
5. **RAG 检索** → 无结果 → 跑偏话术
|
||
|
||
6. **AI Agent 执行**(工具调用/多轮/流程)
|
||
|
||
7. **后置校验**(合规/不编造)
|
||
|
||
8. **输出回答 / 转人工**
|
||
|
||
|
||
---
|
||
|
||
# 六、可直接落地的一句话原则
|
||
|
||
垂直领域智能客服,**宁可不说,不可胡说;宁可拦截,不可跑偏**。
|
||
|
||
用 RAG 保证专业,用边界判定保证安全,用 Agent 保证流程可控。
|
||
|
||
---
|
||
|
||
如果你需要,我可以继续帮你输出:
|
||
|
||
1. 可直接给技术团队的 **《垂直领域AI智能客服系统设计文档》**
|
||
|
||
2. **跑偏问题判定的 Prompt 工程完整版**
|
||
|
||
3. **RAG 知识库构建 SOP**
|
||
|
||
4. **MCP 流程 DAG 图/流程图**
|
||
|
||
|
||
你想要哪个我直接给你成品。 |