1:传统大模型存在知识截止、容易产生幻觉,无法精准调用私有业务资料。本项目搭建私有知识库问答智能体,将企业文档、技术手册、业务资料入库,让 AI 仅依托上传文档内容作答,用于内部资料咨询、产品文档答疑、技术资料检索场景。
2:核心功能
文档接入:支持 PDF、Word 等格式文档上传、文本解析、自动分段切分;
向量知识库:文本向量化并存入向量数据库,构建私有知识库; 智能检索:用户提问后,执行相似度检索,召回相关文档片段;
智能问答 Agent:结合检索片段 + 提示词工程生成答案,标注引用来源,减少模型幻觉; 对话管理:支持多轮对话、对话历史管理;
拓展能力:支持知识库增删文档、检索参数可调、对外提供 API 接口,支持前端页面接入。
### 技术架构
- 后端语言:Python
- 框架:LangChain 实现 Agent 调度、RAG 链路封装
- 大模型:通用大模型 API
- 向量库:轻量向量数据库
- 文档处理:文本解析、文档清洗、文本分块策略
- 接口服务:FastAPI 提供 HTTP 接口,可供 Web 前端调用
### 整体实现流程
1. **文档预处理阶段**
上传文档 → 解析提取纯文本 → 文本清洗去除无效换行、水印、乱码 → 自适应文本分块;
2. **知识库构建阶段**
文本块调用 Embedding 模型转为向量 → 向量 + 原始文本存入向量数据库;
3. **问答推理阶段**
用户提问 → 问题向量化 → 在向量库检索相似度最高的文档片段 → 将检索上下文、用户问题组装进 Prompt 送入大模型;
4. **Agent 调度增强**
增加任务判断逻辑,区分问题是否需要检索知识库;无关问题直接回答,避免无效检索;支持多轮对话上下文记忆;
5. **服务封装**
将文档上传、知识库管理、问答能力封装为 API,可对接 Web 页面,支持私有化部署。
### 本人负责工作
独立完成整条 RAG 链路开发,包含文档解析模块、向量存取逻辑、检索策略调优、Agent 提示词设计、异步接口封装、异常处理;针对文档长短、表格文本优化分片策略,优化检索召回精度,降低模型幻觉。