业务和功能介绍
为应对 DeepSeek-V4-Pro 模型在长上下文、高并发推理场景下的性能瓶颈，我们启动了 H20 集群推理服务优化项目。原单机部署方案在解码阶段依赖 DSpark 投机解码（num_speculative_tokens=3）进行加速，但在实际业务流量（高峰约 100 req/min）下，KV Cache 显存占用成为主要限制，导致请求承载能力仅约 10% 的流量比例，大量请求因资源不足被拒绝或排队，严重影响服务可用性和用户体验。
本次项目旨在通过架构升级，将部署规模从单机扩展至双 H20 集群，并引入 LMCache KVCache Pool 池化技术，实现 KV Cache 跨实例复用，显著降低长上下文场景下重复 Prefill 计算开销，最终目标是将业务承载能力提升至 25% 以上，保障高峰流量下的服务稳定性与低延迟响应。
本次项目旨在通过架构升级，将部署规模从单机扩展至双 H20 集群，并引入 LMCache KVCache Pool 池化技术，实现 KV Cache 跨实例复用，显著降低长上下文场景下重复 Prefill 计算开销，最终目标是将业务承载能力提升至 25% 以上，保障高峰流量下的服务稳定性与低延迟响应。
项目实现
原方案为单机 H20 部署，vLLM + DSpark 投机解码（num_speculative_tokens=3）优化 Decode 阶段性能，但 KV Cache 受单机显存限制，长上下文和高并发下扩展性不足。
优化后方案采用 LMCache Server + Coordinator + vLLM Router 分布式架构，通过 KVCache Pool 池化管理，实现跨实例、跨节点的 KV Cache 复用与调度。
2.2 核心优化措施
LMCacheMPConnector 集成：在 vLLM 推理引擎中接入 LMCache 的 MPConnector，使 vLLM 能够与 LMCache KVCache Pool 无缝对接，实现 KV Cache 的读写和共享。
KV Cache 池化与持久化：每个计算节点配置 560GB L1 级 KV Cache 空间（基于 CPU 内存或高速存储），支持 KV Cache 的持久化存储和跨实例热加载，避免同一 Prompt 在不同实例上重复 Prefill。
高效传输引擎：采用 NIXL P2P 传输引擎，优化节点间 KV Cache 的数据同步效率，降低跨节点访问延迟。
调度与流控：保留 DSpark 投机解码能力（num_speculative_tokens=3），同时通过 vLLM Router 实现多实例间的流量均衡调度、限流保护及过载熔断，确保集群整体稳定性。
2.3 上线效果
部署规模：由单机 H20 扩展至 双 H20 集群，总 GPU 显存和计算能力翻倍。
承载能力：业务流量承载比例从原约 10% 提升至 25%，整体提升约 2.5 倍。
实际流量表现：在 DeepSeek-V4-Pro 高峰约 100 req/min 的总业务请求下，集群可稳定承担约 25 req/min 的推理请求，拒绝率大幅下降。
延迟表现：在 25 req/min 压测 场景下，首 Token 延迟约为 25 秒，服务整体稳定性显著提升，未出现明显的超时或抖动。
优化后方案采用 LMCache Server + Coordinator + vLLM Router 分布式架构，通过 KVCache Pool 池化管理，实现跨实例、跨节点的 KV Cache 复用与调度。
2.2 核心优化措施
LMCacheMPConnector 集成：在 vLLM 推理引擎中接入 LMCache 的 MPConnector，使 vLLM 能够与 LMCache KVCache Pool 无缝对接，实现 KV Cache 的读写和共享。
KV Cache 池化与持久化：每个计算节点配置 560GB L1 级 KV Cache 空间（基于 CPU 内存或高速存储），支持 KV Cache 的持久化存储和跨实例热加载，避免同一 Prompt 在不同实例上重复 Prefill。
高效传输引擎：采用 NIXL P2P 传输引擎，优化节点间 KV Cache 的数据同步效率，降低跨节点访问延迟。
调度与流控：保留 DSpark 投机解码能力（num_speculative_tokens=3），同时通过 vLLM Router 实现多实例间的流量均衡调度、限流保护及过载熔断，确保集群整体稳定性。
2.3 上线效果
部署规模：由单机 H20 扩展至 双 H20 集群，总 GPU 显存和计算能力翻倍。
承载能力：业务流量承载比例从原约 10% 提升至 25%，整体提升约 2.5 倍。
实际流量表现：在 DeepSeek-V4-Pro 高峰约 100 req/min 的总业务请求下，集群可稳定承担约 25 req/min 的推理请求，拒绝率大幅下降。
延迟表现：在 25 req/min 压测 场景下，首 Token 延迟约为 25 秒，服务整体稳定性显著提升，未出现明显的超时或抖动。
示例图片视频
相似推荐
每日数据聚合展示平台
立项背景：为解决多平台公开数据（天气、汇率、热搜等）分散、获取效率低、缺乏可视化监控的问题，设计并实现了该数据聚合展示平台，将多源异构数据统一抓取、清洗并归档展示。
核心功能：包含四个数据源（天气、每日一句、汇率、百度热搜）的定时抓取，采用 Quartz 动态注册 4 个 Job 按 cron 调度。后端入库后，前端通过 ECharts 进行多维度可视化展示，包括温度趋势折线图、汇率柱状图、热搜标签饼图以及任务执行日志。
业务流程：定时任务触发抓取 -> 统一入库 -> 任务日志记录（耗时/成功失败） -> 前端仪表盘展示，形成完整的数据采集与监控闭环。
联通大数据用户行为分析平台
本平台面向联通内部业务分析、网络运营及政务辅助决策场景，基于运营商信令、上网流量等海量原始数据，完成用户出行行为挖掘分析。聚焦各区域用户规模、人员流动迁徙、驻留分布、移动网络流量消耗等核心业务，把海量离散信令数据转化为可落地的统计指标。支撑网络资源调度、区域人流研判、通勤与跨区域流动分析，辅助网络扩容规划、客流态势研判，输出统计报表与可视化结果，解决传统人工统计无法快速掌握全域用户出行、区域流量分布的痛点。
## 平台功能介绍
1. **区域用户统计分析**：按省、市、区县、网格维度，统计区域常驻、流动、到访用户数量，输出区域用户量级、来源去向、驻留时长统计，支持自定义时间周期查询，掌握区域人员聚集与流动态势。
2. **出行行为挖掘**：解析用户移动轨迹，识别通勤、短途出行、跨地迁徙行为，统计出行关系，还原人群流动规律，支持历史出行数据回溯分析。
3. **网络流量多维统计**：分区域、分时段统计移动流量消耗，对比不同片区流量峰值、忙闲时段，定位高流量热点区域，为基站负载评估、网络优化提供数据依据。
4. **可视化展示模块**：集成地图热力图、趋势图表，直观展示用户密度、人流迁徙、流量分布，支持筛选、下钻查看细分网格数据，实现态势直观呈现政企在线。
5. **报表导出与数据输出**：支持统计结果导出报表，可对外输出标准化数据接口，供业务系统调用，支撑后续业务复盘与决策分析。
6. **数据治理与任务调度**：完成原始信令数据清洗、过滤脱敏，支持定时批处理任务，保障海量数据稳定计算，保障分析结果准确可靠。
etl工程-海外电商平台竞品监控
1. 竞品数据采集：通过分析目标平台前端交互逻辑，识别并复现数据接口，自动采集竞品库存、销量、价格等核心经营数据，替代高成本第三方数据服务。
2. 数据解密与解析：针对平台接口的AES加密机制，提取前端硬编码密钥并复现加密逻辑，实现数据的稳定获取与解析。
3. 竞品对比分析：将采集到的多维度数据进行横向对比，直观呈现自身与主要竞品在库存、销量等关键指标上的差异，辅助经营决策。
4. 市场机会识别：基于持续采集的数据，及时发现竞品库存不足、补货滞后等市场窗口期，为团队抢占市场份额提供决策依据。
Web 应用 / 数据可视化平台
项目背景与目标：企业的经营数据、生产数据分散在多个业务库和数仓里，管理层想看整体情况只能等数据部门每周出一份 PPT，数据滞后、维度固定，开会时临时想换个口径就答不上来。本项目目标是搭建一套可视化分析大屏平台，把多数据源统一接入，让业务方自己拖拽配置就能做出实时刷新的大屏，决策数据从「每周更新」变成「秒级可见」。
核心功能：(1) 多数据源接入，支持 MySQL / PostgreSQL、ClickHouse 数仓、Kafka 实时流、第三方 REST 接口和 Excel 文件导入；(2) 拖拽式大屏编辑器，左侧组件库、中间画布、右侧属性面板，图表组件开箱即用，全屏适配 1920×1080 并自动等比缩放；(3) 实时数据推送，基于 WebSocket 长连接让大屏数据秒级刷新，无需手动刷新页面；(4) 指标与缓存体系，常用维度预聚合、结果进 Redis 缓存，大屏首屏渲染稳定在 1 秒内；(5) 内置经营分析与设备监控等多套大屏模板，覆盖业务与生产两类场景；(6) 数据源权限与访问控制，不同角色只能看到授权范围内的大屏。
业务流程：管理员配置数据源 → 在编辑器中拖拽组件、绑定数据字段、设置刷新方式 → 保存并发布大屏 → 服务端统一查询接口从数仓或缓存取数 → 通过 WebSocket 推送到大屏 → 大屏实时渲染并自适应各种分辨率。
后端服务 / 自动化数据采集系统
项目背景与目标：电商运营每天需要盯竞品价格和销量，靠人工逐个平台抄价，一个人一天只能覆盖几十个商品，数据滞后还容易抄错，大促期间完全跟不上节奏。本项目目标是搭建一套数据采集与自动化报表平台，把「配置规则 → 定时采集 → 清洗入库 → 自动出报表」全流程自动化，让运营每天早上打开邮件就能看到最新的价格与销量分析。
核心功能：(1) 可视化规则配置，在页面上框选字段即可生成采集规则，无需写代码；(2) 灵活的定时调度，支持 Cron 表达式、按分钟/小时/天执行，可一键手动触发；(3) 反爬对抗能力，内置代理池轮换、UA 随机、请求限速、Cookie 池、验证码识别与失败重试；(4) 自动清洗去重，按业务主键和快照指纹过滤重复数据，并做完整率与异常值校验；(5) 多平台聚合报表，自动生成价格趋势、价格异动明细与销量排行；(6) 报表自动推送，支持定时邮件、企业微信告警和明细导出。
业务流程：在规则配置台拾取字段并试运行 → 发布规则并设置调度频率 → 调度器按周期触发任务 → 执行器集群多线程采集并自动处理反爬 → 解析清洗去重后入库 → 报表中心生成分析报表 → 按设定时间自动推送给业务方。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服