程序聚合 软件案例 中石油数据处理平台-数据工厂

中石油数据处理平台-数据工厂

2025-10-22 20:11:14
行业:大数据、工业互联网
载体:网站、框架或代码包
技术:Java、JavaScript、Python

业务和功能介绍

多源异构数据集成与处理:数据工厂能够对接和整合来自采气厂、电力调度、分析化验、净化厂等多种业务系统的数据,包括地震数据、测录井曲线、分析化验曲线、地质模型网格化数据、视频监控等实时与非实时数据。通过采用GBaseMTK元数据同步工具、GBaseRTSync实时同步工具、Kafka消息队列、Sqoop、Flume等数据传输工具,平台实现了跨域数据汇集,解决了原有系统存在的“数据孤岛”问题。针对原有自研数据同步产品DSB存在的实时能力不足问题,平台通过解析数据库日志的方式,实现了对Oracle、MySQL、PostgreSQL等多种数据库的实时增量数据获取,显著提升了数据融合能力。
· 统一数据存储与分布式计算:平台采用分层存储架构,根据数据特性和应用场景选择最优存储方案。结构化数据使用GBase8s高并发事务数据库和GBase8a分布式分析数据库;半结构化和非结构化数据则依托基于Hadoop的GBaseHD平台,提供HDFS、Hive、HBase等存储与管理引擎;同时引入Neo4j图数据库处理关联关系复杂的业务数据。在计算层面,平台融合了批量处理、流计算和图计算多种模式,支持GBase8s/8a原生计算、MR/Spark/Flink等计算引擎,满足了油气田业务中OLAP、OLTP和NoSQL三种计算模型的多样化场景需求。
· 数据治理与质量管理:中石油制定了《公共数据编码管理规范》(Q/SY 10725-2023)等企业标准,提出了基于固定码的数据编码方法,建立了数据编码模型和规则,实现了物理实体对象与描述数据的精准关联。这一体系覆盖了数据全生命周期管理,包括数据需求、标准、编码、质量和应用评价等环节,通过数据血缘追踪、质量评估模型和数据溯源机制,确保了数据的准确性、一致性和可信度。在数据安全方面,平台采用国产数据库替代国外及开源产品,支持数据加密、备份恢复、一致性校验和操作审计,大幅提升了能源数据的安全防护能力。
· 数据服务与可视化分析:平台通过统一服务接口对外提供数据能力,包括结构化数据API、实时数据API、音视频API、GIS数据API、文档图片API等多样化服务方式。在梦想云平台中,数据服务层支持“一键式”秒级图件生成,将勘探研究项目的数据准备时间从原来的5小时缩短至1分钟以内。同时,平台提供大数据分析能力和可视化展示功能,支持数据检索、互动分析、关联分析等数据挖掘应用,为业务决策提供了直观的数据支撑。

项目实现

核心框架

· Spring Boot 2.7+ - 微服务快速开发框架
· Spring Cloud 2021+ - 微服务治理套件
· Spring Cloud Alibaba - 微服务增强组件

微服务组件

· Nacos - 服务注册发现与配置管理
· Spring Cloud Gateway - API网关路由
· OpenFeign - 服务间声明式HTTP调用
· Spring Cloud LoadBalancer - 客户端负载均衡

数据持久层

· MyBatis Plus - ORM框架及增强工具
· Spring Data JPA - 数据访问抽象层
· Druid - 数据库连接池

数据处理引擎

· Apache Spark - 大数据分布式计算
· Apache Flink - 流数据处理引擎
· Elasticsearch - 搜索引擎与数据分析

消息与缓存

· Apache Kafka - 消息队列与数据管道
· Redis - 缓存与会话存储
· RocketMQ - 分布式消息队列

安全框架

· Spring Security - 认证授权框架
· JWT - 无状态令牌认证

监控运维

· Spring Boot Admin - 应用监控管理
· SkyWalking - 分布式链路追踪
· Prometheus + Grafana - 指标监控可视化

JavaScript 前端技术栈

核心框架

· Vue 3.x - 渐进式JavaScript框架
· Vue Router - 单页面应用路由管理
· Pinia - 状态管理库

UI组件库

· Element Plus - 基于Vue 3的组件库
· ECharts - 数据可视化图表库
· Ant Design Vue - 企业级UI设计语言

开发工具链

· Vite - 前端构建工具
· TypeScript - JavaScript类型超集
· ES6+ - 现代JavaScript语法

网络通信

· Axios - HTTP请求库
· WebSocket - 实时数据通信

可视化技术

· D3.js - 数据驱动文档可视化
· Three.js - 3D数据可视化
· Mapbox GL JS - 地理空间数据可视化

示例图片视频


小鱼干
30天前活跃
方向: 后端-Java、前端-Web前端、
交付率:100.00%
相似推荐
档案管理系统
图润档案管理系统是面向机关单位、工程项目、企事业单位打造的全生命周期数字化档案管理平台,覆盖文书档案、工程档案、拆迁档案、合同档案、影像资料、纸质扫描件等各类资料的标准化录入、分类归档、审核管理、权限管控、在线查阅、借阅审批、统计台账、安全备份等核心业务。 系统彻底替代传统纸质档案人工整理、手工登记、台账混乱、查找困难、归档不规范、资料易丢失、借阅无记录等管理痛点,实现档案数字化、归档标准化、流程规范化、权限精细化、管理智能化,满足单位日常档案管理、项目验收、审计检查、资料溯源等业务需求。 系统适配政府事业单位、工程项目部、企业行政部、工程部、综合办公室等多场景使用,完全贴合国家档案归档规范,支持自定义档案类目、自定义审批流程、自定义台账字段,适配各类专项档案管理业务。
AI知识图谱智教平台
平台包含新形态教材、线上与线下课程、章节知识点、教学资源库、知识图谱、学习路径、AI 问答、随堂测验、考试阅卷、学习任务、学情管理和数据看板等模块。教师可以建设教材与课程、上传多媒体资源、配置学习任务和试卷,并按班级或学员查看学习进度与测验结果;学员可以沿推荐路径学习课程、完成练习考试并获得基于课程知识库的智能答疑。平台还提供多角色权限、资源分类、证书、讨论热点及统计分析能力,形成从内容建设、教学实施到效果评估的完整闭环。
面向感知任务的大模型智能体记忆压缩优化系统‑AgentMemoryOpt-AgentMemoryOpt
本系统针对感知类智能Agent存在记忆上下文冗余、token消耗过高问题,设计记忆筛选与压缩算法。实现对Agent历史感知对话、环境观测记录做过滤、摘要压缩,减少大模型输入token开销。提供API接口,可对接各类感知Agent,完成多组对比实验,验证压缩后Agent任务效果损失可控,显著降低调用成本,可用于智能体原型开发与学术研究。
中债金科pc 端办公网站开发
1.为方便内部人员在线查看各部门问题及解决问题而开发 作用是在线提出部门遇到的问题,监测问题状态审批流转,显示不同角色登录查看问题提出或者解答及对问题答案是否认同的情况和对应的问题数据反显 2.提供可视化数据显示方案
Eleconet智能知识库系统-Eleconet
本系统是一个 RAG 智能知识库问答平台,包含八个功能模块。 用户认证模块支持用户名、邮箱或手机号注册登录,也支持短信验证码免密登录,修改密码和联系方式均需验证,会话采用 JWT Token。 知识库管理模块允许用户创建、编辑和删除知识库。文档上传支持多文件批量操作,后台异步完成解析和向量化。文件格式覆盖 TXT、PDF、Word、Excel、PPT,图片通过 OCR 提取文字,音视频通过 Whisper 转录。系统按 Free、Pro、Enterprise 三档套餐限制知识库数量、文档数和文件大小。 RAG 智能问答模块是系统核心。用户提问后,系统先语义检索知识库内容,再发送给大语言模型生成答案并附带引用来源。支持流式输出和多轮对话,历史对话可管理。 分享与访客模块允许高级用户生成限时分享链接,访客无需登录即可对知识库提问。 付费模块支持月付和年付,通过微信扫码或支付宝付款,自动确认支付并升级套餐,支持沙箱模拟支付。 知识库市场模块由管理员发布模板,用户可一键基于模板创建知识库。 系统管理模块赋予管理员用户管理、角色套餐修改、批量重置密码等权限。 系统配置模块供管理员配置 AI 模型、OCR、短信、支付渠道等参数,密钥脱敏展示。 后端 API 分为十组:/api/auth/ 为注册登录等九个认证接口;/api/kb/ 为知识库和文档管理七个接口;/api/chat/ 为问答和对话管理五个接口;/api/share/ 为分享链接四个接口;/api/guest/ 为访客免登录问答两个接口;/api/payment/ 为下单支付和配置八个接口;/api/kb-market/ 为模板管理五个接口;/api/settings/ 为系统配置十个接口;/api/admin/ 为用户管理五个接口;/api/stats/ 返回统计数据。 前端页面中,/login 为登录页,/pricing 为价格页,/guest 为访客问答页。登录后 / 为仪表盘,/knowledge-base 为知识库列表,/knowledge-base/:id 为知识库详情,/market 为模板市场,/chat 为问答对话页,/conversations 为对话列表,/profile 为个人资料,/payment 为支付页,/settings 和 /admin 为管理员专用页。
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服