程序聚合 软件案例 企业级多模态智能问答中台-Multimodal Agentic RAG (智能体检索增强系统)

企业级多模态智能问答中台-Multimodal Agentic RAG (智能体检索增强系统)

2026-02-04 11:50:51
行业:人工智能
载体:算法模型、框架或代码包
技术:Python、FastAPI、React、Redis

业务和功能介绍

立项背景与目标:
针对传统 RAG 系统在处理“图文混合文档”时无法识别图片内容,以及面对“复杂逻辑问题”时回答准确率低的痛点,本项目旨在构建一个生产级、多模态、具备推理能力**的企业知识问答中台,助力企业将非结构化文档(PDF/Word)转化为可交互的智能资产。

核心功能与业务流程:
1. Agentic RAG (智能体检索)**:基于 LangGraph 构建了具备“自我反思”能力的 Agent 状态机。
意图路由:精准区分闲聊/问答,避免资源浪费。
自我评估 (Self-Reflection):Agent 会对检索结果进行质量打分。如果发现相关性不足(Score < 0.8),会自动触发查询改写 (Query Rewrite) 并重新检索,直到找到满意答案或达到重试上限。
动态规划:针对复杂问题,自动拆解为多个子任务并行执行。
2. 多路混合检索 (Hybrid Search)**:
摒弃单一的向量检索,采用 Vector (语义) + BM25 (关键词) + Rerank (重排序)的黄金组合。
引入 Cross-Encoder 模型进行二次精排,像“阅卷老师”一样剔除伪相关文档,检索准确率提升至 89%。
3. 全链路多模态 (Multi-modal):
集成 VLM (视觉大模型),不仅能读懂文本,还能理解 PDF 中的图片、图表,实现真正的“图文跨模态检索”。
4. 生产级异步架构:
利用 Celery + Redis 构建高并发流水线,实现 GB 级大文件的异步解析与后台向量化,确保前端操作零卡顿。

项目实现

整体架构与设计思路:
项目采用前后端分离架构。后端基于 FastAPI + LangChain 生态,使用 Celery + Redis 处理耗时的文档解析任务(支持 500+ 页文档异步处理);前端采用 React + Ant Design Pro 构建响应式管理后台。核心检索层引入 ChromaDB 作为向量库,并集成了 Cross-Encoder 重排序模型以保障精度。

我负责的模块与成果(量化):
1. Agent 核心引擎开发:设计并实现了基于 LangGraph 的状态机,支持“意图识别-查询改写-HyDE增强-多路召回”的全链路思考过程。实测复杂问题拆解准确率提升 40%。
2. 检索策略优化:主导设计了“向量(Dense) + 关键词(Sparse) + 重排序(Rerank)”的三路混合检索算法,将 Top-5 召回率从 65% 提升至 89%。
3. 多模态融合:攻克了图片内容不可被检索的难题,引入视觉模型生成图片描述索引,实现了95% 准确率的图文混合检索。

遇到的难点、坑与解决方案:
难点 1:短查询语义匹配差。用户常问“推荐几款”这类短句,传统向量检索效果极差。
解决方案:引入 HyDE (假设性文档嵌入) 技术,先让 AI 生成一个“虚拟完美答案”,用该答案去匹配知识库,显著提升了语义相关性。
难点 2:大文档解析阻塞系统。解析几百页的 PDF 极其耗时,导致 Web 服务超时。
解决方案:重构为异步任务架构,使用 Celery 队列在后台 Worker 进程中处理解析任务,并通过 SSE (Server-Sent Events) 实时向前端推送进度条,彻底解决了卡顿问题。

示例图片视频


齐雨凡
30天前活跃
方向: 人工智能-NLP和自然语言处理、人工智能-机器学习与深度学习、
交付率:100.00%
相似推荐
医院DIP2.0按病种分值付费分组匹配系统
立项背景:为响应国家医保局DIP(按病种分值付费)支付方式改革,医院需对住院病例进行自动分组与分值测算,替代人工查表,提升医保结算准确率与效率。 核心功能: 1. 编码标准化:对诊断编码(ICD-10)和手术操作编码(ICD-9-CM3)进行自动补零、格式校验,统一为国临版与医保版2.0标准格式; 2. 编码对照映射:通过诊断对照库、手术对照库,将国临版编码自动映射为医保版2.0编码,支持23个手术操作字段批量对照; 3. DIP智能分组引擎:基于主诊断+主操作组合,实现+组合匹配、/或规则匹配、单码精准匹配、规则组匹配、编码范围匹配、s(n)/a(n)四级兜底等多层匹配策略,自动输出DIP病种ID; 4. 最优候选选择:当多个病种同时命中时,按匹配编码数量、是否包含主操作、操作位置优先级自动选优; 5. 分值计算:关联分值总表,自动计算每个病例的DIP病种分值,输出完整匹配结果表。 业务流程:原始住院病例数据 → 诊断/手术编码补零标准化 → 国临版转医保版对照 → DIP分组引擎多层匹配 → 最优病种选择 → 分值关联 → 输出结算结果。
医院运营智能体
医院智能应用中心围绕医院数据智能分析,覆盖问数、报表、监测与对账,主要功能如下。 一、智能问数与问答。问数以自然语言查询财务数据,解析时间、科目、表名、同比环比和图表,缺期间则追问,多轮可继承上下文,结果可出表出图。问答面向制度政策与知识库,流式作答并引用附件,支持会话与多模型。 二、报表与报告。固定报表按技能生成医疗收入支出、药品收入、盈余、均费及卫健申报、医改考核等标准表,可预览导出Excel。动态报表支持模板导入、AI辅助取数、预览与固化。智能报告一次生成经济运行分析表1至12,金额按万元换算,可导出Word、PDF。 三、监测、对账与看板。监测按期间计算指标并阈值着色,支持指标定义、补缺和指标集。财库对账上传银行、国库文件跑批,查看差异并导出,可同步供应商、燃气数据。首页与看板展示KPI、收支趋势和科目排名。 四、数据与报表管理。数据源支持明细导入、月度汇总、列定义、手工录入和指标维护;报表中心浏览已导入Excel;成本中心导入科室成本四表后开展成本分析。 五、系统与AI管理。提供用户角色权限、字典与公告,以及在线用户、日志、缓存和定时任务。AI管理负责大模型接入、技能包、提示词和用量统计。
脑电信号处理与大模型协同推理平台-NeuroDecode
面向脑机接口研究与演示场景的信号处理+大模型集成平台,打通"生理信号采集→意图识别→AI生成→实时可视化"完整闭环。 核心功能:①多设备脑电信号实时采集与预处理;②基于深度学习的意图分类模型;③可插拔多后端大模型集成,本地/云端LLM一键切换;④Web实时监控面板,多客户端同时查看信号流与推理结果。适用于科研原型、教学演示与智能硬件联动开发。
智能穿戴APP-GsFit
面向国内外市场的智能手表/手环配套Android 应用,涵盖设备连接、健康数据监测、运动记录、表盘市场、固件OTA、WiFi 音箱控制、即时通讯等核心功能,支持20+语言国际化, 海量健康数据管理:基于 Room+LiveData 存储步数、心率、血氧、HRV、睡眠等时序数据,自定义图表组件实现日/周/月多维统计展示.
美容预约小程序
1.立项为解决美容医疗门店的获客和售前,售后沟通。帮助建立会员,及实现统一管理,使得客户获得良好的体验。 2.第一,是注册登录功能模块,第二,美容项目的介绍及场景展示;第三,具体项目的内容,价格及项目预约。这是主要的三个模块。还可增加在线付费等功能。 3.业务流程。注册,登录——项目展示——具体项目选择(可以看到具体项目描述,图片,价格)——预约时间确定——查看预约清单
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服