程序聚合 软件案例 基于嵌入式软件采集的超大数据分析系统

基于嵌入式软件采集的超大数据分析系统

2026-01-07 14:13:04
行业:云计算、大数据
载体:嵌入式软件、云服务/云平台
技术:C、Go、Docker

业务和功能介绍

背景和目标:客户有上亿的用户,需要通过网络报文数据深入了解他们用户的使用情况,统计分析之后提供更好的服务,为客户开源节流

软件功能:嵌入式软件实现数据采集和初步清洗过滤功能;云平台负责与嵌入式软件通信实现控制和数据采集与存储;大数据分析系统负责对存储数据进行多维度分析,提供数据统计、报表和用户画像功能,并按照客户的业务需要筛选出有价值的客户

业务流程:控制通道,云平台根据客户需要定制过滤规则并下发到指定的嵌入式软件,嵌入式软件根据过滤规则进行采集数据的过滤;数据通道 ,嵌入式软件采集到云平台接收和存储再到大数据系统分析,最后输出客户业务结果

项目实现

规模:嵌入式软件每日活跃超过1亿,云平台采集数据的带宽超过2Gbps,大数据系统的ods层数据每日超过100亿条

个人负责:整体架构设计,各个模块的核心设计和开发,嵌入式软件占用存储约300KB、内存约20MB,通过lua脚本支持功能的热加载;云平台实现上百万端侧规则的下发;

大数据分析难点:刚开始使用java+scala进行Hive表的演算,但发现开发效率过低,后续通过自研实现基于python的SQL调度系统极大提升开发效率,并通过日志模块实现可观测与可调试

示例图片视频


原码天空
30天前活跃
方向: 后端-Go、后端-C、
交付率:100.00%
相似推荐
校园综合服务小程序
立项背景和目标 当前高校学生校园信息分散,资讯、二手、失物、活动、外卖等需求分散在多个社交群,信息流转低效、无统一查询渠道。本项目目标搭建轻量化微信小程序,无需下载 APP,统一聚合校园全场景服务,降低师生信息获取成本,搭建校内安全交易、信息发布渠道。 软件核心功能模块 1. 用户登录模块:对接微信官方登录接口,自动获取用户 OpenID 完成注册、身份识别; 2. 校园资讯模块:分类展示校园新闻、通知、学习资料,支持搜索、点赞、收藏、详情预览; 3. 闲置二手模块:学生发布闲置商品、浏览商品列表、查看商品详情; 4. 失物招领模块:发布遗失 / 捡拾物品信息,检索公告; 5. 校园活动模块:展示校内文体、志愿活动,点击查看活动详情; 6. 快捷外卖服务:校内商家点餐、购物车、订单管理、收货地址管理; 7. 个人中心:用户信息、我的发布、我的收藏、订单记录、系统设置。 业务流程 用户打开小程序后自动触发微信授权登录,登录后进入首页,首页提供各功能入口;点击对应图标跳转资讯 / 二手 / 活动 / 外卖页面,列表页支持下拉刷新、上拉加载更多,点击条目跳转详情页,可完成点赞、收藏、发布、下单等操作;全部数据由后端接口统一提供存储与校验。
短剧出海项目
1、海外短剧市场处于高速增长期,TikTok/Reels 等内容消费习惯催生了用户对"短平快"剧集的需求。平台面向东南亚、北美、拉美等海外市场,通过 Facebook 广告投放获客,以 H5 网页形 式提供服务——无需下载 App,打开链接即看。 2、业务目标 内容变现 通过会员订阅 + 金币单集购买两种模式实现付费 广告归因 完整追踪从广告点击到付费的全链路转化数据 多支付商 支持 Stripe(信用卡)和 PayPal 两种主流支付方式 多站点 一套代码支持多个品牌站独立部署(通过 settings.yaml 配置) iOS 友好 通过服务端 CAPI 规避 iOS 14.5+ ATT 事件拦截 3、业务流程
华为云控制台-智果AgentArts智能体平台
华为云AI智能体应用管理平台,为企业提供智能体的创建、配置、监控及技能管理的一站式解决方案。本项目全程采用AI驱动开发模式,基于GLM-5.1+miniMax2.7完成从架构设计到代码实现的全流程,手写代码占比不足5%,交付效率较 传统模式提升3以上。
模型部署优化
为应对 DeepSeek-V4-Pro 模型在长上下文、高并发推理场景下的性能瓶颈,我们启动了 H20 集群推理服务优化项目。原单机部署方案在解码阶段依赖 DSpark 投机解码(num_speculative_tokens=3)进行加速,但在实际业务流量(高峰约 100 req/min)下,KV Cache 显存占用成为主要限制,导致请求承载能力仅约 10% 的流量比例,大量请求因资源不足被拒绝或排队,严重影响服务可用性和用户体验。 本次项目旨在通过架构升级,将部署规模从单机扩展至双 H20 集群,并引入 LMCache KVCache Pool 池化技术,实现 KV Cache 跨实例复用,显著降低长上下文场景下重复 Prefill 计算开销,最终目标是将业务承载能力提升至 25% 以上,保障高峰流量下的服务稳定性与低延迟响应。
鲜速达生鲜配送平台(FreshExpress)
鲜速达是一家面向社区的生鲜电商平台,用户可通过微信小程序和Web端下单购买果蔬、肉禽、海鲜等商品,平台提供智能分拣和30分钟极速达配送服务。该项目旨在重构原有单体系统,解决高并发下订单超时、库存不准确等问题。
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服