业务和功能介绍
一、立项背景与目标
1.1 立项背景
随着平台业务规模的快速扩张，传统的离线数据分析模式已无法满足业务对数据时效性的迫切需求。业务运营团队需要分钟级甚至秒级的实时数据反馈来支撑决策，而现有的T+1离线分析模式存在明显的数据滞后性，导致运营策略调整滞后、用户体验优化不及时、市场机会错失等问题。
在此背景下，亟需构建一套批流一体（Batch-Stream Unification）的实时数仓平台，通过统一的技术栈和计算引擎，实现实时数据与离线数据的融合处理，为客户提供全链路、全时效的数据分析服务。
1.2 项目目标
核心目标：
实时性：实现秒级延迟的实时数据处理，支撑实时用户访问数、实时下单数等关键业务指标的即时呈现
一致性：通过统一的数据源和计算逻辑，消除实时与离线数据的口径差异，确保数据分析结果的一致性
业务目标：
为运营团队提供实时业务监控能力，实现数据驱动的即时决策
为产品团队提供用户行为分析能力，支持产品功能优化与用户体验提升
二、软件功能概述
欧冶分析中心实时数仓是一套企业级批流一体大数据分析平台，采用业界主流的Lambda架构演进方案，结合Flink的流批一体能力，为客户提供从数据采集、处理、存储到服务的全栈式数据分析解决方案。
实时业务流程
实时业务流程
流程一：实时用户行为分析流程
用户访问平台 → 前端埋点采集 → 日志异步上报 → 服务器日志文件 → Kafka消息队列 → Flink实时写入 → MySQL查询 → 前端数据展示
(数据缓冲) (聚合计算) (结果存储) (Dashboard)
1.1 立项背景
随着平台业务规模的快速扩张，传统的离线数据分析模式已无法满足业务对数据时效性的迫切需求。业务运营团队需要分钟级甚至秒级的实时数据反馈来支撑决策，而现有的T+1离线分析模式存在明显的数据滞后性，导致运营策略调整滞后、用户体验优化不及时、市场机会错失等问题。
在此背景下，亟需构建一套批流一体（Batch-Stream Unification）的实时数仓平台，通过统一的技术栈和计算引擎，实现实时数据与离线数据的融合处理，为客户提供全链路、全时效的数据分析服务。
1.2 项目目标
核心目标：
实时性：实现秒级延迟的实时数据处理，支撑实时用户访问数、实时下单数等关键业务指标的即时呈现
一致性：通过统一的数据源和计算逻辑，消除实时与离线数据的口径差异，确保数据分析结果的一致性
业务目标：
为运营团队提供实时业务监控能力，实现数据驱动的即时决策
为产品团队提供用户行为分析能力，支持产品功能优化与用户体验提升
二、软件功能概述
欧冶分析中心实时数仓是一套企业级批流一体大数据分析平台，采用业界主流的Lambda架构演进方案，结合Flink的流批一体能力，为客户提供从数据采集、处理、存储到服务的全栈式数据分析解决方案。
实时业务流程
实时业务流程
流程一：实时用户行为分析流程
用户访问平台 → 前端埋点采集 → 日志异步上报 → 服务器日志文件 → Kafka消息队列 → Flink实时写入 → MySQL查询 → 前端数据展示
(数据缓冲) (聚合计算) (结果存储) (Dashboard)
项目实现
整体架构：
1.构建实时数据处理链路：通过前端埋点采集用户行为日志，利用 Filebeat + Logstash 将数据实时传输至 Kafka。基于 Flink 计算引擎对数据进行清洗与聚合，并将结果实时写入 MySQL，供前端接口调用展示。
2.设计离线数仓分层架构：使用 Sqoop 将业务库数据定时采集至 大数据平台的 ODS 层。利用 Spark 引擎对 Kafka 中的用户行为数据进行小时级与天级批量处理，经过 DWD、DWS 等多层加工，最终将汇总结果（ADS 层）通过 Sqoop 同步推送至 MySQL，满足复杂离线分析需求。
我负责使用Flink 将kafka中的数据 进行清洗与聚合，并将结果实时写入 MySQL，负责实时计算和处理
1.构建实时数据处理链路：通过前端埋点采集用户行为日志，利用 Filebeat + Logstash 将数据实时传输至 Kafka。基于 Flink 计算引擎对数据进行清洗与聚合，并将结果实时写入 MySQL，供前端接口调用展示。
2.设计离线数仓分层架构：使用 Sqoop 将业务库数据定时采集至 大数据平台的 ODS 层。利用 Spark 引擎对 Kafka 中的用户行为数据进行小时级与天级批量处理，经过 DWD、DWS 等多层加工，最终将汇总结果（ADS 层）通过 Sqoop 同步推送至 MySQL，满足复杂离线分析需求。
我负责使用Flink 将kafka中的数据 进行清洗与聚合，并将结果实时写入 MySQL，负责实时计算和处理
示例图片视频
相似推荐
人寿保险核心业务系统-LIS
1，为人寿保险公司提供核心业务开展的软件支持，满足公司业务开展要求和监管审批条件
2，涉及投保，保全，理赔，监管等模块
3，投保模块从扫描开始，对保单数据提取，人工核对录入后，通过工作流审核，将保单存放系统并形成正式合同。监管模块通过配置规则，将业务订单和财务数据按监管要求进行提取，生成文件上报，对回执内容解析和生成后续工作流。
阿里某BU-对账结算系统
阿里某BU对账结算系统是面向交通出行场景的全链路财务结算平台，全面支撑机票、火车票、船票、租车等多条业务线的资金对账与结算工作，覆盖交易对账、账单核销、成本核算、利润结转、差错处理全流程核心能力，是BU出行交易资金闭环、账务合规、收益核算的核心底层系统。平台承接全品类出行订单的日均大规模账务计算任务，保障海量交易数据下账务精准、结算合规、异常可追溯。
系统采用主流Spring Boot微服务架构搭建后端服务，底层基于PolarDB分布式数据库完成亿级交易数据的稳定存储，依托MaxCompute Spark构建弹性算力引擎，搭建批流一体OLAP计算体系，支撑日均百万级的对账、结转计算任务，可弹性应对大促、峰值订单流量带来的账务计算压力，保障全业务线财务结算高效、稳定、准确落地。
Go+FFmpeg 抖音财经股票指标视频自动化生成系统
一、项目简介
本人自1993年接触证券市场，2004年尝试用PHP开发自动化指标筛选程序，因并发性能限制，批量数据运算耗时过长。2015年转向Go语言，依托原生并发模型，将运算耗时由半小时优化至1分钟内，期间对比Python、Julia等语言后，最终选定Go为主力开发语言。
2025年启动本项目：基于自研股票指标函数体系，搭建财经短视频自动化流水线，将量化指标可视化内容批量生成视频并适配抖音平台分发标准。
技术迭代上，初期采用fogleman/gg生成PNG图片序列，再由FFmpeg合成视频。经持续优化，现绝大部分素材渲染直接交由FFmpeg完成，仅在FFmpeg耗时过高、分辨率无法满足需求时，回退使用GG生成静态图片。整套系统已实现数据解析、图表渲染、视频合成一站式自动化。
二、业务功能
批量指标运算：批量读取量化数据，自动运算生成股票指标信号。
数据可视化渲染：支持FFmpeg滤镜实时绘图，兼容GG静态PNG绘图兜底方案。
短视频自动合成：按平台规范自动合成视频，适配抖音等主流短视频平台分辨率与码率要求。
全流程自动化调度：从数据到视频全链路自动化，支持持续产出可视化素材。
智能渲染链路切换：根据耗时、画质需求，自动选择最优渲染方案（FFmpeg主链路/GG兜底）。
三、技术栈
Go、FFmpeg、fogleman/gg、股票量化接口、自动化调度脚本
量化工作平台
1、项目是面向股票、ETF、指数和期货的本地量化数据与策略研究平台，覆盖数据维护、因子研究、策略回测及研究成果管理等环节。
2、支持从 Tushare 和期货 Tick 文件获取数据，完成增量更新、复权处理、标准化存储、失败重试以及数据完整性和质量检查。
3、内置 Basic、Alpha158、Alpha101 等因子体系，支持因子计算、覆盖率检查、IC/RankIC 分析、分组收益分析、稳定性评估和因子选股。
4、提供股票池筛选、组合回测、调仓、交易成本、涨跌停及 ST 等交易约束，并输出净值、交易、持仓、诊断和基准对比结果。
5、支持策略回测、跟踪。
6、提供本地可视化工作台，可查看数据状态、因子、策略、组合和研究产物，并通过 Watchlist 和生命周期机制管理候选策略及复盘记录。
报表中台
本模块提供多维度报表数据展示及多格式导出功能，支持将业务数据一键导出为 Excel、CSV 及 PDF 格式。系统内置高性能生成引擎，保障大数据量导出时的稳定与高效，满足用户离线分析、数据归档及财务对账等多样化业务需求。
帮助文档
Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服