业务和功能介绍
在现代社会，人们对情感咨询的需求日益增长，但传统的情感导师服务面临着诸多难题。一方面，高昂的咨询费用让许多人望而却步；另一方面，由于情感导师数量有限，响应速度较慢，无法及时满足用户的需求。为了打破这些困境，我们团队全力打造了 “AI 恋爱军师”项目。该项目依托微信公众号平台，借助大模型技术，为用户提供高效、个性化且随时随地可得的情感咨询服务，帮助用户快速解决情感困扰。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
项目实现
1.项目开发人员2人，我负责算法架构的设计，具体算法的实施，数据清洗，算法落地前并进行测试
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
示例图片视频
相似推荐
基于rk3588的边缘计算主板-ARM PC
主要实现，rk3588linux驱动以及系统集成，驱动包括各种外设驱动，如音频编解码芯片，摄像头，触摸屏，edp，lvds，mipi屏，千兆以太网phy，各种传感器外设驱动，nfc等
集成各种三方库，以及支持多种系统，支持npu加速
其他nxp平台或者intel平台，以及单片机等相关的都没问题
车柿B2B-车柿B2B运营管理平台
为提升公司车辆采购、仓储、销售及财务核算的全流程运营效率，实现数据驱动的精细化管理和决策，需开发一套集成的车辆运营管理平台。本平台将整合当前分散在Excel中的业务流程和数据，覆盖从项目立项、采购、入库、在途监控、销售到收支核算的全部环节。
WCS产品研发-WCS
1、立项背景和目标
实现产品化WCS系统，搭建公司软件系统基础框架并实现可配置的WCS产品。
2、软件功能、核心功能模块的介绍
1) 多数据库支持实现，实现数据库自动创建、迁移，实现备份恢复功能，实现数据库间迁移；
2) 连接器：实现UDP、TCP、COM、S7、MELSEC、MODBUS、FETCH、CIP、MQ、API、WCF等主流连接方式；
3) 通讯器：实现通讯队列管理，实现协议适配器（负责协议转换），实现通讯；
4) 实现设备调度算法以及调度：基于CBS的调度算法、基于MAPF的调度算法、基于A*的调度算法、基于Dijkstra的设备调度算法
5) 实现基于Canvas的调度2d绘制显示、实现基于babylonjs的3D回绘制显示，实现任务管理、工作管理、请求管理、报文管理、设备故障统计、日志查询、路径管理页面以及后台支持；
3、业务流程、功能路径描述
1)配置化通讯
2)配置化项目场景
3)配置化调度策略
物流面板
# 智能物流看板业务和功能介绍
## 一、立项背景和目标
### 立项背景
随着企业物流业务的不断扩大，传统的物流管理方式已经无法满足现代化企业的需求。人工处理物流信息效率低下，容易出错，且难以实现实时监控和数据分析。为了解决这些问题，提高物流管理的效率和准确性，企业需要一个智能化、自动化的物流管理系统。
### 目标
- 实现物流信息的集中管理和实时监控
- 提高物流管理的效率和准确性
- 实现物流状态的自动识别和异常预警
- 提供数据可视化分析，为决策提供支持
- 建立完善的用户权限管理体系，保障数据安全
## 二、软件功能、核心功能模块的介绍
### 整体功能
智能物流看板是一个基于前后端分离架构的物流管理系统，提供订单管理、用户管理、部门管理和数据可视化等功能，帮助企业实现物流信息的集中管理和实时监控。
### 核心功能模块
#### 1. 用户管理模块
- **用户注册和登录**：支持新用户注册和现有用户登录
- **个人资料管理**：用户可以查看和修改个人信息
- **角色权限控制**：区分普通用户和管理员权限，管理员可以管理所有用户
#### 2. 订单管理模块
- **订单列表展示**：展示所有订单的基本信息，支持筛选和排序
- **订单详情查看**：查看订单的详细信息，包括物流状态
- **订单状态管理**：更新订单状态，支持批量操作
- **订单数据导出**：导出订单数据为Excel格式
#### 3. 部门管理模块
- **部门列表展示**：展示所有部门的基本信息
- **部门信息查看**：查看部门的详细信息，包括部门成员
#### 4. 数据可视化模块
- **物流数据仪表盘**：展示物流数据的关键指标和趋势
- **订单数据统计分析**：分析订单数据，生成统计图表
- **实时数据监控**：实时监控物流状态和订单处理情况
#### 5. 物流代理模块
- **物流信息查询与同步**：查询物流信息并同步到系统
- **物流状态自动识别**：自动识别物流状态，更新订单状态
- **物流公司代码映射**：自动映射物流公司代码，提高查询准确性
- **物流信息每日自动更新**：定时更新物流信息，保持数据实时性
#### 6. 系统管理模块
- **用户管理（管理员权限）**：管理员可以添加、修改、删除用户
- **系统日志记录**：记录系统操作日志，便于审计和排查问题
- **系统配置管理**：管理系统配置，如物流API配置
## 三、业务流程、功能路径描述
### 1. 订单创建与管理流程
**功能路径**：登录系统 → 订单管理 → 创建订单/导入订单 → 填写订单信息/上传订单数据 → 系统验证 → 订单创建成功 → 订单状态管理 → 物流信息查询 → 物流状态更新 → 订单完成/异常处理
**流程说明
GPS管理系统
本GPS车辆定位监控系统基于若依框架进行二次开发，实现了完整的车辆定位、监控、告警和管理功能。系统采用前后端分离架构，支持JT808协议，可对接各类GPS终端设备。
基于Netty实现的高性能TCP服务器，支持JT808 V1.53协议：
- 终端管理 ：终端登录认证、心跳检测、终端注销
- 位置上报 ：实时位置数据接收与存储
- 告警处理 ：超速、疲劳驾驶、紧急告警等告警事件处理
- 指令下发 ：终端参数查询与设置 2. GPS业务模块
模块 功能描述 设备管理 GPS终端设备的注册、绑定、状态监控 车辆管理 车辆信息维护、设备绑定关系 分组管理 车辆分组、权限分配 位置监控 实时位置展示、历史轨迹回放 告警管理 告警列表、告警处理、告警统计 轨迹管理 轨迹数据存储、轨迹文件导出
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服