业务和功能介绍
在现代社会，人们对情感咨询的需求日益增长，但传统的情感导师服务面临着诸多难题。一方面，高昂的咨询费用让许多人望而却步；另一方面，由于情感导师数量有限，响应速度较慢，无法及时满足用户的需求。为了打破这些困境，我们团队全力打造了 “AI 恋爱军师”项目。该项目依托微信公众号平台，借助大模型技术，为用户提供高效、个性化且随时随地可得的情感咨询服务，帮助用户快速解决情感困扰。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
项目实现
1.项目开发人员2人，我负责算法架构的设计，具体算法的实施，数据清洗，算法落地前并进行测试
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
示例图片视频
相似推荐
酒企数字化平台整合与升级项目
基于对白酒行业的深刻理解和金蝶云平台的技术积累，制定“平台统一、数据驱动、内外协同”的数字化升级战略。
1. 核心平台选型与部署：
平台选择： 采用金蝶云EAS作为集团统一的ERP运营平台。
模块覆盖： 全面实施了财务、供应链（采购、销售、库存）、生产制造（物料清单、生产计划）等核心模块，实现了业务流程的标准化和统一化管理。
2. 个性化定制开发与集成：
第三方WMS/MES深度对接： 实现了EAS与业内领先的WMS（仓储管理系统）和MES（生产管理系统）的无缝对接。
流程优化： 销售订单在金蝶系统生成后，自动下发至WMS进行拣货、出库；出库数据实时回传至金蝶。实现了从订单到发货的全流程可视化。
价值： 发货准确率提升至99.9%以上，订单交付周期缩短了40%。
物流APP-禽运通
该小程序聚焦养殖场货主的运输需求，匹配专业司机，解决养殖场运输中 “车辆匹配难、损耗监控弱” 的痛点，实现全流程数字化管理，主要分为司机端和货主端，具体实现功能如下：
1.运输需求发布:
运输需求发布：养殖场进入 “发布运输需求” 页，选择家禽，填写运输信息：起止地（支持定位自动填充养殖场地址）、到场时效、车辆要求
2.合规车辆匹配：系统仅推送符合条件的车辆：优先匹配距离≤50 公里、配备 “栏板隔栏 + 通风设备” 的运输商，展示车辆参数（载重量、温控 / 通风设备状态）、、报价，养殖场可直接选择历史合作过的运输商。
3.订单管理：选定车辆后生成订单；司机接单后，确认无误后发起 “出栏装货”，支持上传 “装货现场视频” 作为交接凭证。
芒猿万事屋
后端：Spring Boot 3.4.5 / Java 17
能力：内容聚合、AI 摘要、简单推荐、鉴权与接口文档、轻量监控与健康检查
前端：Vue（见 web/）
产品介绍： - AI 摘要缓存：通过 Spring AI 接入通义千问，提供内容摘要并进行结果缓存与降级处理。 - 轻量推荐：基于热门/最新与用户浏览历史的简易推荐能力，开销低、易落地。 - 站内监控：记录接口路径 KPS、按 IP 映射国家并聚合入库，提供查询接口（轻量化，不依赖 Prometheus/Grafana）。 - 健康与文档：Actuator 健康检查与 OpenAPI 文档，便于自检与联调。
顺士达快递管理系统
该项目是为客户公司开发的集用户,快递员,快递站点管理功能的 App 和后台管理系统
后台主要有站点配置管理,快递员配置管理,快件管理,快件进度跟踪,财务管理等几大模块.
安卓主要有快递员收件,派件,财务管理等功能,站点入库,出库,财务管理等功能.
微信小程序主要实现了用户使用微信授权登录,填写物品信息后提交到后台,后台系统根据用户定位和快递员定位自动派单给最近的快递员,快递员上门后进行收件,用户使用微信支付支付快递费用.后续用户可以通过快递单号实时查询快递动态
PDA出入库管理-ERP
1.企业需要对成品物料现场进行扫描对应条码进行出入库。
2.这个APP解决了企业手工抄写对应成品条码后，再回到电脑上进行录入出货。
3.提高了企业货品出入库的效率。
4.该APP在WiFi的情况下能够实时的交互数据，没有WiFi的情况下，可以先本地存储，到有wifi的时间再同步上传。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服