业务和功能介绍
在现代社会，人们对情感咨询的需求日益增长，但传统的情感导师服务面临着诸多难题。一方面，高昂的咨询费用让许多人望而却步；另一方面，由于情感导师数量有限，响应速度较慢，无法及时满足用户的需求。为了打破这些困境，我们团队全力打造了 “AI 恋爱军师”项目。该项目依托微信公众号平台，借助大模型技术，为用户提供高效、个性化且随时随地可得的情感咨询服务，帮助用户快速解决情感困扰。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
一、模型部署层：xInference + 双模型
负责 托管大模型和 Embedding 模型，是整个系统的 “大脑”：
对话模型：qwen2.5-instruct-14b（大语言模型，负责生成回复）
用 vLLM 做推理引擎，开启 int4量化：
让模型推理速度达 ~68 tokens / 秒（大幅提升响应速度），
显存占用优化到 0.8（降低 GPU 硬件成本，让大模型在普通显卡上也能跑）。
Embedding 模型：bge-large-zh-v1.5（智源，负责文本向量化，支撑知识检索）
二、接口封装层：oneAPI（OpenAI 接口模拟）
核心作用：把 xInference 的模型服务，伪装成 “OpenAI 接口”，让上层应用（如 FastGPT）可以用熟悉的 OpenAI 调用方式（如openai.ChatCompletion）对接本地模型，降低集成成本。
三、RAG 增强层：FastGPT（检索增强生成）
解决大模型 “知识过时、专业领域回答差” 的问题，通过 “知识库检索 + 大模型生成” 提升回复质量：
知识库预处理：
用脚本清洗、格式化数据，结合 bge-large-zh-v1.5 生成向量，存入向量数据库。
检索优化技术：
混合检索：同时用 “向量检索（语义匹配）+ 关键词检索（精确匹配）”，提升召回率；
文本切块：拆分长文本为小段（如 512 字），避免信息丢失；
rerank 排序：对检索结果重排，选出最相关的内容；
Prompt 工程：优化提示词，让大模型更高效结合检索到的知识，生成准确回复。
四、终端接入层：chatgpt-on-wechat + 微信公众号
负责 对接微信生态，接收和响应用户消息：
chatgpt-on-wechat 作为中间件，接入微信公众号，监听 微信服务器的 POST 请求（用户发的消息）；
收到请求后，调用 FastGPT 的 RAG 服务（即触发 “检索 + 生成” 流程）；
拿到回复后，再通过微信服务器，把结果推送给用户。
整体数据流向（用户视角）
用户→微信公众号发消息 → 微信服务器→chatgpt-on-wechat（接收） → FastGPT（调用 oneAPI，触发 xInference 的双模型：bge 做知识检索，qwen 做回复生成） → 模型推理（vLLM 加速） → 结果返回→用户收到回复。
项目实现
1.项目开发人员2人，我负责算法架构的设计，具体算法的实施，数据清洗，算法落地前并进行测试
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
2.技术实现：Fastgpt,Xinference,OneAPI,Chatgpt-on-wechat
示例图片视频
相似推荐
wms仓储系统
WMS仓储管理系统是一套基于Java Spring Boot和Vue3技术栈开发的现代化智能仓储管理解决方案。系统围绕"采购入库-物流-收货-入库-质检-上架"的完整业务流程，提供端到端的仓储作业管理服务。
核心业务模块包括：
采购订单管理：支持采购计划制定、订单创建、审核流程、供应商协同等功能，实现采购全生命周期管理。系统提供灵活的审核工作流，支持多级审批和并行审核，确保采购决策的规范性和效率。
物流协调管理：集成第三方物流公司资源，提供物流订单创建、运输跟踪、状态更新等功能。系统支持多种物流方式（供应商配送、第三方物流、自提），实现物流信息的实时同步和可视化监控。
智能收货作业：提供收货单自动生成、收货确认、差异处理等功能。系统支持扫码验货、批次管理、序列号跟踪，确保收货作业的准确性和可追溯性。收货完成后自动触发后续质检和入库流程。
自动化库存生成：收货确认后系统自动生成库存记录，智能分配收货暂存区库位。采用就近原则和容量优化算法，确保库存分配的合理性。支持批次管理、有效期控制、库存状态管理等精细化功能。
质检流程管控：自动创建质检任务，支持抽检计划、质检标准配置、检验结果记录。系统提供质检位智能分配，自动生成库存转移任务，实现从收货暂存区到质检区的无缝衔接。
任务调度系统：提供智能任务分配、作业路径优化、实时监控等功能。支持移动端PDA作业，实现任务的可视化管理和绩效分析。
系统特色功能：
编码规则管理：支持业务单据的统一编码规范
字典数据管理：提供灵活的业务参数配置
权限控制：基于RBAC的细粒度权限管理
多租户支持：满足企业级多组织架构需求
移动端支持：提供PDA端作业界面，提升现场作业效率
华为供应物流系统
华为的物流与供应链管理业务和功能体系庞大而精细，依托数字化、智能化技术，实现从采购、仓储、运输到交付的全流程高效协同
本人主要负责发票生成以及报关
涉及技术：消息发送与接收，定时任务执行，报表文档的生成
PTM
一、核心业务目标
这类系统主要为了解决以下问题：
成本控制：企业打印支出常是"隐形消耗"，系统通过监控和计费让成本透明化、可控化。
资源优化：合理分配打印任务，防止某些打印机过载而其他闲置，提升设备利用率和打印效率。
安全管理：防止敏感信息通过打印渠道泄露，满足审计和合规要求。
环保节能：通过减少不必要的打印和双面打印等设置，促进纸张和耗材的节约。
物资材料管理系统
1）车牌捕获智能硬件摄像头，每条称重车道增加一个用于捕获车牌号的智能硬件摄像头，专门记录通过称重车道所有车辆的车牌号，此车牌号将用于对比实际称重记录，防止出现漏称情况。
2）大车判断智能硬件摄像头，正常行驶车道增加一个用于判断是否大车的智能硬件摄像头，用于判断是否有大车从无地磅车道驶离。
3）2台服务器，用于安装数据中台及后台管理系统的服务端，或选择云服务器。
4）大屏，用于显示实时数据及告警信息。
快递管家-顺丰
随着企业发展，商务快递发件量不断增加，企业的快递成本也随之上升，从快递记录到成本监控，快递管理已成为了一项复杂的工作，快递管理优化迫在眉睫，多组织发件，渠道不统一；快递收发管理乱，易出错；统计周期不一致，对账难；员工件/企业件难区分，快递成本增加；本项目致力于为企业提供高效便捷、轻量灵活的精细化快递管家服务。可协助监管企业快递收发，使企业快递成本可控、对账更轻松，打造企业一站式快递服务平台，为企业客户提供多元化、专业化的寄递服务体验。
系统来源：公众号、小程序、数字商店、web端。系统主要模块包括：企业管理、加密机对接、订单管理、基础信息管理、综合统计、新建订单（下单、导入、导出）、通知中心、短信模板列表、数字商店、通用接口沙箱、通用接口外部对接、通用接口管理、组织管理、UNP管理、内陆及国际件管理、数据看板、物料管理、需求管理、快件管理、行政区管理、任务中心、系统管理等
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服