程序聚合 软件案例 基于大模型 Agent 与 RAG 知识库的智能问答网页应用-ChatBot 知识助手

基于大模型 Agent 与 RAG 知识库的智能问答网页应用-ChatBot 知识助手

2026-11-08 21:43:38
行业:人工智能、企业服务(saas)
载体:网站
技术:Python、TypeScript、FastAPI、Vue

业务和功能介绍

【立项背景与目标】
个人与中小团队已积累大量私有文档(制度手册、产品文档、论文笔记、FAQ),但交给通用大模型问答时普遍存在三个问题:模型不了解私有资料、答案容易编造、历史问答无法沉淀复用。
本项目目标是交付一个可自行部署的网页版对话助手:把私有文档转成可检索的私有知识库,让模型在“先查资料、再作答、必要时联网、不确定就直说”的约束下回答,同时为每个用户完整保留其会话、思考过程与知识文件,做到数据可管、过程可见、结论可追溯。

【软件功能与核心模块】
1、账号与会话:注册/登录(bcrypt 密码哈希 + JWT,令牌 3 天有效),全量数据按 user_id 隔离;支持会话创建、切换、删除,消息(正文 + 思考过程 + 时间)持久化,历史消息自动作为多轮上下文。
2、智能对话:DeepSeek flash 模型 + Agent 工具编排,回答前强制检索知识库、按需联网搜索;前端以可折叠面板展示模型思考过程,正文用 markdown-it 渲染并高亮代码。
3、RAG 知识库:上传 md/docx/pdf → Unstructured 解析 → 递归分块(chunk 500 / overlap 50,按标题层级切分)→ bge-large-zh 向量化 → Chroma 持久化;检索先召回 top20 候选、再由 qwen3-reranker-4b 精排取 top5 注入上下文;支持单文件删除(向量、磁盘文件、数据库记录三处同步清理)。
4、提示词定制:每个会话可独立设置 system prompt,实时影响该会话后续全部轮次,便于把同一套模型切换成“严格文档助手 / 通用助理 / 特定业务角色”。
5、工程配套:loguru 结构化日志(含状态码与来源 IP)、后端 SSE 流式回复接口、深色玻璃拟态与纸张主题双套视觉、桌面/平板/手机三档响应式布局。

【业务流程与功能路径】
登录 → 侧栏新建或选择会话 →(可选)在知识库面板上传文档并查看分块数、(可选)在提示词条设置人格 → 输入问题 → 后端先落库用户消息 → Agent 自主调用 retrieve_knowledge_base(必要时再调 web_search)→ 返回带 reasoning 的回答并入库回显 → 侧栏可随时切换会话、删除会话或删除知识文件。

项目实现

【整体架构和设计思路】
前后端分离三层结构:Vue 3 单页前端(:5173,开发期由 Vite proxy 把 /api 转发到 :8000)— FastAPI 异步服务(:8000)— MySQL 8(aiomysql 异步驱动)+ Chroma 本地向量库。
设计思路上把“对话”与“知识”彻底解耦:对话走 Agent 编排,知识走独立 RAG 服务,二者只通过 LangChain 工具边界连接(用户身份由 InjectedToolArg 从 config.configurable 注入),因此后续替换 embedding 模型或换用其他向量库,业务与前端代码零改动。
鉴权做成依赖注入层统一拦截:get_current_user_id 解析 Bearer 令牌,get_owned_conversation 校验会话归属,业务函数内不再重复做权限判断,越权访问统一返回 404 而非 403,避免泄露资源是否存在。
数据库启动时由 lifespan 自动建表,四张表(users / conversations / messages / knowledge_file)全部继承同一 DeclarativeBase,字段用 SQLAlchemy 2.0 Mapped 风格声明,正文与思考过程用 LONGTEXT 存储。

【我的负责模块和结果】
项目全部由我独立设计与实现:前端 15 个文件约 4900 行(Vue 3 + TS + Vite,状态集中在 App.vue,无 Pinia/Router 依赖;axios 拦截器统一挂 JWT、401 自动清令牌并回登录;markdown-it + highlight.js 按需注册语言),后端 28 个文件约 900 行(FastAPI + SQLAlchemy 2.0 async + Pydantic v2,LangChain create_agent 组合 ChatDeepSeek 与两个异步工具,Chroma + 千帆 bge-large-zh 向量化与 qwen3-reranker-4b 精排,pyjwt + bcrypt,loguru 日志)。
交付结果:13 个 REST 端点、4 张数据表、注册→建会话→上传文档→检索增强问答→删除的完整闭环全部跑通;单进程可同时服务多用户会话、文档上传解析与对话请求。

【我遇到的难点、坑和解决方案】
1、指令被稀释:create_agent 自带默认 system prompt,会话级 SystemMessage 又插在消息首位,两层提示词互相干扰,模型经常跳步直接联网。解决:把“先检索知识库→再判断是否联网→不确定就明确说不确定”同时写进工具 docstring 与 system prompt 两处(工具描述对模型行为的影响往往比提示词更硬),并把 max_tok

示例图片视频


豆棍杜子
3天前活跃
方向: 前端-Web前端、人工智能-AI应用开发、
交付率:100.00%
相似推荐
心动小镇
《心动小镇》是一款由心动网络股份有限公司制作发行的生活模拟手游.游戏中玩家可以在游戏中体验慢节奏的海岛生活,打造属于自己的花园,按照理想的方式,创造属于自己的点滴乐趣和记忆.传说,在广阔无垠的海上,有一座建在鲸鱼背上的小镇,只有收到由镇民放飞的鲸鱼泡泡的人才能找到它。而某天,这神奇的鲸鱼泡泡找到了身处都市、疲惫不堪的你。
Windows 多设备 Android 自动化测试与控制桌面工具-MobileAutoControl
立项背景:移动 App 的回归测试和日常巡检需要在多台 Android 真机上反复执行安装、启动、点击、输入和断言。手机端群控方案通常要在每台设备安装 App 甚至获取 Root 权限,存在隐私与合规风险;云真机平台按设备计费,内网机型覆盖也有限。本项目做一款运行在 Windows 的本地控制台,只通过 ADB 与 Appium 控制已授权真机,不安装手机端程序、不依赖云端,目标是让测试人员在一台电脑上完成多设备管理、批量操作、实时控制和自动化用例录制回放。 核心功能:1)设备管理:自动发现在线、离线、未授权设备,展示型号、Android 版本、分辨率和电量;2)无线调试:USB 已授权设备一键切换无线调试,Android 11+ 通过 mDNS 发现配对服务,只需输入手机显示的 6 位配对码,已验证端点按退避策略自动重连;3)批量控制:按全部设备或分组安装、启动、停止应用,发送 Home/Back 等系统按键,以及点击、滑动、长按、ASCII 输入、截图和日志采集;4)实时控制:左侧主控画面加右侧自适应观察网格,观察设备可逐台设为跟随主控或只读,跟随设备的操作与主控同批并发下发,并按各机方向和系统栏做安全区坐标映射,条件不满足时整批拦截;5)自动化测试:用例支持启动应用、Home/Back、点击、滑动、等待控件、控件输入和存在/文本断言,可在实时窗口录制电脑端操作,自动转成 Resource ID、Accessibility ID、精确文本或序号 XPath 定位;6)执行与产物:跨设备并发、单设备严格顺序,单台失败不影响其他设备,失败自动保存截图、日志和逐台步骤结果,支持仅重试失败设备。 功能路径:检查依赖状态 → 连接并授权设备 → 勾选设备或分组 → 批量操作、实时控制或自动化工作台 → 录制/编辑用例 → 选择设备运行 → 查看逐台结果与产物 → 重试失败设备。
Android / Unity 游戏性能采集与分析工具-PerfLab
立项背景:移动游戏性能测试长期割裂——QA 用通用工具看 FPS、CPU、内存,Unity 开发再用 Profiler 定位卡顿;两段数据时间轴不一致、报告分散、接入门槛高,版本回归时复现和判断成本很大。为此立项 PerfLab,目标是一套本地优先、无需改包、系统指标与 Unity 引擎数据同源的 Windows 性能采集与分析工具。 核心功能:1)设备与应用:USB 设备发现、前台进程识别、断线恢复;2)通用监控:基于真实 ADB 输出采集 FPS、帧时间、Jank、CPU 双口径、PSS/RSS、电池、温度、截图与 Logcat;3)Unity 深析:导入 UPM Package 后,将 FrameTiming、ProfilerRecorder、场景/Marker、GC、渲染与对象快照同系统指标放入同一时基,提供概况、区间、CPU、渲染、内存、资源、硬件、自定义 8 个页签;4)报告与门禁:报告库、2 至 5 份报告对比、四态门禁,并支持用 5 至 10 份稳定报告做 Median/MAD 校准;5)CI:CLI 输出 JSON/JUnit,退出码 0/2/3 区分通过、性能失败与基础设施失败;6)交付:自包含安装器,目标电脑无需安装 .NET、ADB 或 Unity Editor。 业务流程/路径:连接设备 → 选择应用 → 采集预检 → 选择通用或 Unity 模式 → 实时曲线、Tag、截图 → 停止自动汇总 → 报告分析/对比 → 导出 .perflab 或接入 CI 门禁。
小陌电竞管理平台
本项目为“小陌电竞管理平台”,是一个服务于电竞俱乐部的在线订单管理系统。主要功能包括: 客户下单模块:支持用户选择陪玩等不同服务,在线提交订单。 客服端; 后台可以设置用户客服身份 可以在前端切换身份进行回复客户 还有完善的商家端,打手端,管事端 订单调度模块:老板(管理员)可在后台查看实时订单,根据打手/陪玩的空闲状态进行派单和调度。 人员管理模块:对俱乐部的打手、陪玩人员进行统一管理和业绩统计。
本地 AI 陪伴角色「阿露 Alu」-Alu
一、立项背景与目标 本项目研究小参数语言模型能否同时驱动对话内容与角色行为。 现有 AI 角色产品中,对话通常由模型生成,而动作由预设脚本或状态机控制,两者相互独立。本项目尝试让模型在生成回复的同时给出行为意图,由意图驱动角色动作,使语言与行为出自同一判断。 二、功能模块 1. 角色渲染模块 以 CSS 绘制角色,不依赖图片资源。实现呼吸浮动、靠近、后退、转身、跳跃、入睡共六种状态。 2. 对话模块 接入本地 Ollama 服务,用户在输入框提交文本后,模型生成回复内容。 3. 意图生成模块 模型在返回回复文本的同时返回一个意图词,取值范围为 approach、retreat、turn、hop、sleep、stay。 4. 动作映射模块 将意图词映射为对应的角色动画,并在界面下方显示当前状态文字。 三、业务流程 输入文本 → 本地模型推理 → 返回回复与意图 → 意图映射为动作 → 角色同时呈现语言与动作。全流程离线运行。
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服