立项背景和目标:
针对知物家居品牌售后场景中 65% 的咨询为产品使用与故障排查等重复性问题,人工客服响应慢、高峰期排队严重且新员工培训周期长。本项目旨在构建一套基于大模型的智能客服 Agent,通过自动化手段将标准咨询分流,提升用户自助解决效率,降低人工客服压力,实现降本增效。
软件功能、核心功能模块介绍:
系统核心为基于 LangGraph 构建的智能对话 Agent,具备意图识别、知识库问答及工单自动创建能力。
智能路由与任务规划:采用 Router + ReAct 状态机架构,精准识别用户意图并拆解复杂任务。
混合检索问答(RAG):集成 Milvus 向量检索与 BM25 关键词检索,结合 Re-rank 精排,提供高准确率的家居产品知识解答。
自动化业务闭环:通过 MCP 协议对接工单系统,支持故障报修单的自动创建与状态查询。
会话记忆管理:支持多轮对话上下文保持,确保服务重启后记忆不丢失。
业务流程、功能路径描述:
用户发起咨询 -> Agent 进行意图识别(Router) -> 若为知识问答,触发 RAG 检索引擎召回相关文档并生成回答;若为故障报修,调用 MCP 工具提取关键信息并创建工单 -> 最终将结果反馈给用户,形成“咨询-检索-报修”的全自动闭环流程。
整体架构和设计思路:
项目采用 Python + FastAPI 构建微服务架构,使用 Docker 容器化部署。核心 Agent 基于 LangGraph 编排,利用 DeepSeek/Qwen 大模型作为推理基座。数据层采用 MySQL 存储业务数据,Redis 缓存热点数据,Milvus 存储向量索引。设计思路上强调模块化与解耦,通过 MCP 协议标准化外部工具调用,利用 JWT 保障接口安全。
“我”的负责模块和结果:
Agent 核心开发:主导 Router + ReAct 状态机设计,封装标准化工具,解决工具调用参数丢失问题,工具调用成功率达 95%。
RAG 检索优化:搭建 Milvus+BM25 混合检索引擎,设计语义分块策略,经 RRF 融合排序与 Re-rank 精排,使专有名词召回率显著提升,问答准确率提升 30%。
系统集成:实现 Watchdog 监听文件变更进行索引增量热更新,并通过 SQLiteSaver 持久化会话 Checkpoint。
量化成果:工单创建耗时从 5 分钟缩短至 10 秒,LLM 推理耗时稳定在 2 秒内,日均处理咨询量提升 3 倍,有效替代 60% 人工客服工作。
“我”遇到的难点、坑,和解决方案:
幻觉与参数丢失:初期模型在调用复杂工具时易产生幻觉。解决方案:引入 Few-shot Prompting 调优提示词,并结合 MCP 协议规范输入输出格式,强制模型遵循结构化指令。
专有名词召回率低:单纯向量检索对家居型号等专有名词匹配效果差。解决方案:引入 BM25 关键词检索进行互补,并使用 RRF(倒数排名融合)算法结合 Re-rank 模型进行二次精排,解决了语义漂移问题。
文档更新滞后:产品手册更新后索引同步慢。解决方案:开发 Watchdog 文件监听机制,实现文档变更后的索引增量热更新,无需重启服务即可生效。