业务和功能介绍
在现代社会，人们对情感咨询的需求日益增长，但传统的情感导师服务面临着诸多难题。一方面，高昂的咨询费用让许多人望而却步；另一方面，由于情感导师数量有限，响应速度较慢，无法及时满足用户的需求。为了打破这些困境，我们团队全力打造了 “AI 恋爱军师”项目。该项目依托微信公众号平台，借助大模型技术，为用户提供高效、个性化且随时随地可得的情感咨询服务，帮助用户快速解决情感困扰。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
项目实现
1.项目开发人员2人，我负责算法架构的设计，具体算法的实施，数据清洗，算法落地前并进行测试
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
示例图片视频
相似推荐
国际货代智能业务协同 Agent
技术栈：LangGraph + FastAPI + Milvus + Python + Docker + 顺丰丰语大模型
项目描述：针对国际货代业务链路长、系统繁杂、操作人员需多系统切换的痛点，构建货代多意图路由与任务编排系统，实现从“模糊业务提问”到“结构化结果输出”的端到端闭环。
简易商贸进销存桌面管理系统-小店库存收支管理客户端
立项背景：小型门店依靠纸质账本记录进货、卖货，库存数量、盈利金额人工计算容易出错，查找历史单据十分麻烦。项目目标做一套轻量化管理软件，完成商品、采购、销售、库存基础管理。
核心功能：商品信息录入、采购入库登记、销售开单、库存自动增减、库存不足提醒、月度销售统计、单据打印、简单账号权限管理。
业务流程：录入商品信息→进货填写入库单增加库存；顾客消费开销售单自动扣减库存；随时查看剩余库存，月底导出销售报表对账。
智能仓储物流管理系统（WMS）
1、立项背景和目标
随着电商行业和智能制造的高速发展，传统仓储管理依赖人工记账、Excel统计，存在库存数据滞后、出入库效率低、错发漏发频发等问题。本项目旨在打造一套智能仓储物流管理系统，实现仓库作业的数字化、标准化和可视化。目标是：库存准确率提升至99.5%以上，单仓日处理订单能力提升30%，同时降低人力成本约20%。
2、软件功能、核心功能模块介绍
系统核心功能模块包括：
入库管理：支持采购入库、退货入库、调拨入库，自动生成入库单并更新库存台账；
出库管理：支持订单拣货、波次策略、复核打包，对接主流ERP系统；
库存管理：实时库存查询、库存预警（上下限）、库存盘点、库位管理；
报表中心：库存流水报表、出入库统计、库存周转率分析，支持Excel导出；
权限管理：基于RBAC模型的用户权限控制，不同岗位（仓管员、拣货员、主管）拥有不同操作权限。
3、业务流程、功能路径描述
典型业务路径为：上游ERP推送销售订单 → 系统自动分配波次 → 生成拣货任务 → 手持终端（PDA）引导拣货 → 复核打包 → 出库登记 → 库存自动扣减 → 实时同步至ERP系统。全流程闭环管理，数据实时可追溯。
表格生成器
本质是 “窗体容器化 + 数据库驱动” 的业务管理原型 ，目标解决：
多业务流程的分步操作（通过窗体嵌入、切换实现）。
业务规则、数据的可视化管理（结合数据库与 DataGridView ）。
桌面应用的交互体验（动态布局、多窗体协作 ）。
cesium 三维智慧工地软件开发
开发一个基于 cesium 的三维建模智慧工地管理系统，借助 GIS 工具或无人机倾斜摄影技术导入
工地的三维模型，在工地的关键部位部署摄像头监控用于检测安全帽或非法入侵等异常行为，在摄像头端进
行危险行为的检测之后，将异常信息及定位数据传输至云端服务器，该功能可以监控工地异常，将异常信息
在三维场景当中实时显示。该软件也可以使用投影技术将二维视频转换到三维模型的对应场景中，更加直观
地检测工地情况。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服