业务和功能介绍
AI Forge 平台面向“数据集 → 训练 → 模型版本 → 推理”的一体化流程管理。提供数据集目录/标注导入与拆分（train/val/test）、训练任务创建与异步执行、训练产物与模型版本元数据管理、任务状态追踪与可视化管理台（Vue3）。后端提供统一 API 与开放推理接口，训练/推理计算由独立 Python 服务执行，大文件走共享存储，小数据走 HTTP 传参，便于扩展为对象存储与更多训练模板。
项目实现
整体采用前后端分离：Vue3+Vite+TS 实现管理台；Java(Spring Boot)承载业务、任务状态与元数据（MySQL），并生成训练 manifest 写入共享存储；Java 通过 HTTP 调用 Python(FastAPI/Uvicorn) POST /train 触发训练，Python 读取 manifest 与样本执行训练并将权重/产物写回存储，后端再回写任务与模型版本状态。实现难点在于跨进程共享存储路径一致性、任务异步状态流转与失败重试/回滚处理。
示例图片视频
相似推荐
每日数据聚合展示平台
立项背景：为解决多平台公开数据（天气、汇率、热搜等）分散、获取效率低、缺乏可视化监控的问题，设计并实现了该数据聚合展示平台，将多源异构数据统一抓取、清洗并归档展示。
核心功能：包含四个数据源（天气、每日一句、汇率、百度热搜）的定时抓取，采用 Quartz 动态注册 4 个 Job 按 cron 调度。后端入库后，前端通过 ECharts 进行多维度可视化展示，包括温度趋势折线图、汇率柱状图、热搜标签饼图以及任务执行日志。
业务流程：定时任务触发抓取 -> 统一入库 -> 任务日志记录（耗时/成功失败） -> 前端仪表盘展示，形成完整的数据采集与监控闭环。
联通大数据用户行为分析平台
本平台面向联通内部业务分析、网络运营及政务辅助决策场景，基于运营商信令、上网流量等海量原始数据，完成用户出行行为挖掘分析。聚焦各区域用户规模、人员流动迁徙、驻留分布、移动网络流量消耗等核心业务，把海量离散信令数据转化为可落地的统计指标。支撑网络资源调度、区域人流研判、通勤与跨区域流动分析，辅助网络扩容规划、客流态势研判，输出统计报表与可视化结果，解决传统人工统计无法快速掌握全域用户出行、区域流量分布的痛点。
## 平台功能介绍
1. **区域用户统计分析**：按省、市、区县、网格维度，统计区域常驻、流动、到访用户数量，输出区域用户量级、来源去向、驻留时长统计，支持自定义时间周期查询，掌握区域人员聚集与流动态势。
2. **出行行为挖掘**：解析用户移动轨迹，识别通勤、短途出行、跨地迁徙行为，统计出行关系，还原人群流动规律，支持历史出行数据回溯分析。
3. **网络流量多维统计**：分区域、分时段统计移动流量消耗，对比不同片区流量峰值、忙闲时段，定位高流量热点区域，为基站负载评估、网络优化提供数据依据。
4. **可视化展示模块**：集成地图热力图、趋势图表，直观展示用户密度、人流迁徙、流量分布，支持筛选、下钻查看细分网格数据，实现态势直观呈现政企在线。
5. **报表导出与数据输出**：支持统计结果导出报表，可对外输出标准化数据接口，供业务系统调用，支撑后续业务复盘与决策分析。
6. **数据治理与任务调度**：完成原始信令数据清洗、过滤脱敏，支持定时批处理任务，保障海量数据稳定计算，保障分析结果准确可靠。
etl工程-海外电商平台竞品监控
1. 竞品数据采集：通过分析目标平台前端交互逻辑，识别并复现数据接口，自动采集竞品库存、销量、价格等核心经营数据，替代高成本第三方数据服务。
2. 数据解密与解析：针对平台接口的AES加密机制，提取前端硬编码密钥并复现加密逻辑，实现数据的稳定获取与解析。
3. 竞品对比分析：将采集到的多维度数据进行横向对比，直观呈现自身与主要竞品在库存、销量等关键指标上的差异，辅助经营决策。
4. 市场机会识别：基于持续采集的数据，及时发现竞品库存不足、补货滞后等市场窗口期，为团队抢占市场份额提供决策依据。
Web 应用 / 数据可视化平台
项目背景与目标：企业的经营数据、生产数据分散在多个业务库和数仓里，管理层想看整体情况只能等数据部门每周出一份 PPT，数据滞后、维度固定，开会时临时想换个口径就答不上来。本项目目标是搭建一套可视化分析大屏平台，把多数据源统一接入，让业务方自己拖拽配置就能做出实时刷新的大屏，决策数据从「每周更新」变成「秒级可见」。
核心功能：(1) 多数据源接入，支持 MySQL / PostgreSQL、ClickHouse 数仓、Kafka 实时流、第三方 REST 接口和 Excel 文件导入；(2) 拖拽式大屏编辑器，左侧组件库、中间画布、右侧属性面板，图表组件开箱即用，全屏适配 1920×1080 并自动等比缩放；(3) 实时数据推送，基于 WebSocket 长连接让大屏数据秒级刷新，无需手动刷新页面；(4) 指标与缓存体系，常用维度预聚合、结果进 Redis 缓存，大屏首屏渲染稳定在 1 秒内；(5) 内置经营分析与设备监控等多套大屏模板，覆盖业务与生产两类场景；(6) 数据源权限与访问控制，不同角色只能看到授权范围内的大屏。
业务流程：管理员配置数据源 → 在编辑器中拖拽组件、绑定数据字段、设置刷新方式 → 保存并发布大屏 → 服务端统一查询接口从数仓或缓存取数 → 通过 WebSocket 推送到大屏 → 大屏实时渲染并自适应各种分辨率。
后端服务 / 自动化数据采集系统
项目背景与目标：电商运营每天需要盯竞品价格和销量，靠人工逐个平台抄价，一个人一天只能覆盖几十个商品，数据滞后还容易抄错，大促期间完全跟不上节奏。本项目目标是搭建一套数据采集与自动化报表平台，把「配置规则 → 定时采集 → 清洗入库 → 自动出报表」全流程自动化，让运营每天早上打开邮件就能看到最新的价格与销量分析。
核心功能：(1) 可视化规则配置，在页面上框选字段即可生成采集规则，无需写代码；(2) 灵活的定时调度，支持 Cron 表达式、按分钟/小时/天执行，可一键手动触发；(3) 反爬对抗能力，内置代理池轮换、UA 随机、请求限速、Cookie 池、验证码识别与失败重试；(4) 自动清洗去重，按业务主键和快照指纹过滤重复数据，并做完整率与异常值校验；(5) 多平台聚合报表，自动生成价格趋势、价格异动明细与销量排行；(6) 报表自动推送，支持定时邮件、企业微信告警和明细导出。
业务流程：在规则配置台拾取字段并试运行 → 发布规则并设置调度频率 → 调度器按周期触发任务 → 执行器集群多线程采集并自动处理反爬 → 解析清洗去重后入库 → 报表中心生成分析报表 → 按设定时间自动推送给业务方。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服