业务和功能介绍
本项目旨在构建一个面向教育管理部门（各教育局）的综合性数据看板平台，集中展示学校排行榜、教师排行榜和学生排行榜等多维度信息。通过对学生各科成绩、作业题目错误情况、知识点掌握情况以及班级均分等关键数据的采集与分析，平台能够以直观、可视化的方式呈现教学与学习成效。用户可通过该看板全面了解学生在各学科的学习表现、常见错误类型及知识点薄弱环节，同时掌握教师的教学质量与班级整体水平，从而为教育决策、教学优化和个性化辅导提供有力支持。
项目实现
1. 负责离线数仓搭建，基于 Spark 开发 ETL 流程，完成 ODS、DWD、ADS 分层建模，产出各维度排行榜数据，并通过 DolphinScheduler 实现每日自动化调度
主导离线数据仓库的整体架构设计与搭建工作，采用分层建模理念，构建从 ODS（原始数据层）、DWD（明细数据层）到 ADS（应用数据层）的完整数据流转体系。基于 Spark 开发高效的 ETL 处理流程，完成数据的抽取、清洗、转换与加载，确保各层数据的准确性、一致性与时效性。在 ADS 层针对学校、教师、学生等不同维度进行聚合计算与指标加工，产出多维度排行榜数据，满足教育管理部门对教学质量的直观评估需求。同时，借助 DolphinScheduler 配置每日定时调度任务，实现数据采集、加工、产出全链路的自动化运行，并配套任务依赖管理、失败重试与告警机制，保障数据按时、稳定地产出，为上层数据看板提供可靠的数据支撑。
2. 基于 SpringCloud 开发数据看板查询接口，利用 Doris 的 OLAP 能力支撑看板低延迟、高并发的查询需求
基于 SpringCloud 微服务架构设计并开发数据看板的查询接口，将排行榜、成绩分析、知识点掌握情况等查询能力封装为独立服务，实现服务的高内聚、低耦合与灵活扩展。通过 RESTful 接口对外提供统一的数据访问入口，并集成服务注册发现、负载均衡与熔断降级等机制，保障服务的高可用性。在数据查询层面，充分利用 Apache Doris 强大的 OLAP 分析能力，依托其列式存储、向量化执行引擎与预聚合等特性，高效支撑看板对多维数据的即时查询与快速响应。针对看板高并发、低延迟的访问特点，通过合理的分区、分桶与索引设计优化查询性能，确保在多用户同时访问的场景下依然能够稳定、流畅地返回查询结果，为用户提供良好的数据可视化体验。
主导离线数据仓库的整体架构设计与搭建工作，采用分层建模理念，构建从 ODS（原始数据层）、DWD（明细数据层）到 ADS（应用数据层）的完整数据流转体系。基于 Spark 开发高效的 ETL 处理流程，完成数据的抽取、清洗、转换与加载，确保各层数据的准确性、一致性与时效性。在 ADS 层针对学校、教师、学生等不同维度进行聚合计算与指标加工，产出多维度排行榜数据，满足教育管理部门对教学质量的直观评估需求。同时，借助 DolphinScheduler 配置每日定时调度任务，实现数据采集、加工、产出全链路的自动化运行，并配套任务依赖管理、失败重试与告警机制，保障数据按时、稳定地产出，为上层数据看板提供可靠的数据支撑。
2. 基于 SpringCloud 开发数据看板查询接口，利用 Doris 的 OLAP 能力支撑看板低延迟、高并发的查询需求
基于 SpringCloud 微服务架构设计并开发数据看板的查询接口，将排行榜、成绩分析、知识点掌握情况等查询能力封装为独立服务，实现服务的高内聚、低耦合与灵活扩展。通过 RESTful 接口对外提供统一的数据访问入口，并集成服务注册发现、负载均衡与熔断降级等机制，保障服务的高可用性。在数据查询层面，充分利用 Apache Doris 强大的 OLAP 分析能力，依托其列式存储、向量化执行引擎与预聚合等特性，高效支撑看板对多维数据的即时查询与快速响应。针对看板高并发、低延迟的访问特点，通过合理的分区、分桶与索引设计优化查询性能，确保在多用户同时访问的场景下依然能够稳定、流畅地返回查询结果，为用户提供良好的数据可视化体验。
示例图片视频
相似推荐
每日数据聚合展示平台
立项背景：为解决多平台公开数据（天气、汇率、热搜等）分散、获取效率低、缺乏可视化监控的问题，设计并实现了该数据聚合展示平台，将多源异构数据统一抓取、清洗并归档展示。
核心功能：包含四个数据源（天气、每日一句、汇率、百度热搜）的定时抓取，采用 Quartz 动态注册 4 个 Job 按 cron 调度。后端入库后，前端通过 ECharts 进行多维度可视化展示，包括温度趋势折线图、汇率柱状图、热搜标签饼图以及任务执行日志。
业务流程：定时任务触发抓取 -> 统一入库 -> 任务日志记录（耗时/成功失败） -> 前端仪表盘展示，形成完整的数据采集与监控闭环。
联通大数据用户行为分析平台
本平台面向联通内部业务分析、网络运营及政务辅助决策场景，基于运营商信令、上网流量等海量原始数据，完成用户出行行为挖掘分析。聚焦各区域用户规模、人员流动迁徙、驻留分布、移动网络流量消耗等核心业务，把海量离散信令数据转化为可落地的统计指标。支撑网络资源调度、区域人流研判、通勤与跨区域流动分析，辅助网络扩容规划、客流态势研判，输出统计报表与可视化结果，解决传统人工统计无法快速掌握全域用户出行、区域流量分布的痛点。
## 平台功能介绍
1. **区域用户统计分析**：按省、市、区县、网格维度，统计区域常驻、流动、到访用户数量，输出区域用户量级、来源去向、驻留时长统计，支持自定义时间周期查询，掌握区域人员聚集与流动态势。
2. **出行行为挖掘**：解析用户移动轨迹，识别通勤、短途出行、跨地迁徙行为，统计出行关系，还原人群流动规律，支持历史出行数据回溯分析。
3. **网络流量多维统计**：分区域、分时段统计移动流量消耗，对比不同片区流量峰值、忙闲时段，定位高流量热点区域，为基站负载评估、网络优化提供数据依据。
4. **可视化展示模块**：集成地图热力图、趋势图表，直观展示用户密度、人流迁徙、流量分布，支持筛选、下钻查看细分网格数据，实现态势直观呈现政企在线。
5. **报表导出与数据输出**：支持统计结果导出报表，可对外输出标准化数据接口，供业务系统调用，支撑后续业务复盘与决策分析。
6. **数据治理与任务调度**：完成原始信令数据清洗、过滤脱敏，支持定时批处理任务，保障海量数据稳定计算，保障分析结果准确可靠。
etl工程-海外电商平台竞品监控
1. 竞品数据采集：通过分析目标平台前端交互逻辑，识别并复现数据接口，自动采集竞品库存、销量、价格等核心经营数据，替代高成本第三方数据服务。
2. 数据解密与解析：针对平台接口的AES加密机制，提取前端硬编码密钥并复现加密逻辑，实现数据的稳定获取与解析。
3. 竞品对比分析：将采集到的多维度数据进行横向对比，直观呈现自身与主要竞品在库存、销量等关键指标上的差异，辅助经营决策。
4. 市场机会识别：基于持续采集的数据，及时发现竞品库存不足、补货滞后等市场窗口期，为团队抢占市场份额提供决策依据。
Web 应用 / 数据可视化平台
项目背景与目标：企业的经营数据、生产数据分散在多个业务库和数仓里，管理层想看整体情况只能等数据部门每周出一份 PPT，数据滞后、维度固定，开会时临时想换个口径就答不上来。本项目目标是搭建一套可视化分析大屏平台，把多数据源统一接入，让业务方自己拖拽配置就能做出实时刷新的大屏，决策数据从「每周更新」变成「秒级可见」。
核心功能：(1) 多数据源接入，支持 MySQL / PostgreSQL、ClickHouse 数仓、Kafka 实时流、第三方 REST 接口和 Excel 文件导入；(2) 拖拽式大屏编辑器，左侧组件库、中间画布、右侧属性面板，图表组件开箱即用，全屏适配 1920×1080 并自动等比缩放；(3) 实时数据推送，基于 WebSocket 长连接让大屏数据秒级刷新，无需手动刷新页面；(4) 指标与缓存体系，常用维度预聚合、结果进 Redis 缓存，大屏首屏渲染稳定在 1 秒内；(5) 内置经营分析与设备监控等多套大屏模板，覆盖业务与生产两类场景；(6) 数据源权限与访问控制，不同角色只能看到授权范围内的大屏。
业务流程：管理员配置数据源 → 在编辑器中拖拽组件、绑定数据字段、设置刷新方式 → 保存并发布大屏 → 服务端统一查询接口从数仓或缓存取数 → 通过 WebSocket 推送到大屏 → 大屏实时渲染并自适应各种分辨率。
后端服务 / 自动化数据采集系统
项目背景与目标：电商运营每天需要盯竞品价格和销量，靠人工逐个平台抄价，一个人一天只能覆盖几十个商品，数据滞后还容易抄错，大促期间完全跟不上节奏。本项目目标是搭建一套数据采集与自动化报表平台，把「配置规则 → 定时采集 → 清洗入库 → 自动出报表」全流程自动化，让运营每天早上打开邮件就能看到最新的价格与销量分析。
核心功能：(1) 可视化规则配置，在页面上框选字段即可生成采集规则，无需写代码；(2) 灵活的定时调度，支持 Cron 表达式、按分钟/小时/天执行，可一键手动触发；(3) 反爬对抗能力，内置代理池轮换、UA 随机、请求限速、Cookie 池、验证码识别与失败重试；(4) 自动清洗去重，按业务主键和快照指纹过滤重复数据，并做完整率与异常值校验；(5) 多平台聚合报表，自动生成价格趋势、价格异动明细与销量排行；(6) 报表自动推送，支持定时邮件、企业微信告警和明细导出。
业务流程：在规则配置台拾取字段并试运行 → 发布规则并设置调度频率 → 调度器按周期触发任务 → 执行器集群多线程采集并自动处理反爬 → 解析清洗去重后入库 → 报表中心生成分析报表 → 按设定时间自动推送给业务方。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服