程序聚合 软件案例 MixIot统计计算服务,基于工业设备的事件流消息数据,以特定的算法做实时的计算

MixIot统计计算服务,基于工业设备的事件流消息数据,以特定的算法做实时的计算

2025-11-21 11:41:40
行业:物联网
载体:网站
技术:Go、MQTT

业务和功能介绍

项目背景:

在工业物联网(IIoT)快速发展的当下,工业生产场景中设备数量激增,生产数据呈现出海量、实时、多维度的特点。企业对生产过程的精细化管控需求日益迫切,不仅需要实时获取设备运行数据,更需要对这些数据进行快速运算处理,以生成如设备用量、运行耗时、积分等具有业务价值的信息,为生产调度、质量管控、设备维护等决策提供支撑。​

功能包括:通过TCP订阅设备数据,接收数据并实时计算,计算算法实现(读数转用量,耗时统计等),数据过滤算法实现,计算结果持久化,重算队列实现

业务流程:

1. 通过 TCP 协议与消息队列(MMQ)建立连接,准备订阅设备生产数据
2. 从数据库加载计算模型并初始化计算项目
3. 从备份快照恢复数据到内存
4. 启动周期性的持久化任务协程
5. 启动重算重算协程池
6. 启动备份快照到磁盘协程
7. 发起数据订阅
8. 启动数据接收协程,并接收数据
9. 数据条件匹配和过滤
10. 调用计算算法,并将结果实时更新到内存
11. 周期性的任务协程从内存加载结果持久化到数据库
12. 客户端通过API请求相对应的结果数据

项目实现

架构风格:事件驱动 + 采用分层设计 核心模块解耦,通过消息队列和协程池实现异步处理。

模块划分及技术栈
1. 通信接入层
职责:负责与外部系统建立连接和数据接收

TCP客户端连接管理

数据订阅和接收

协议解析和数据校验

技术栈:

net (Golang标准库) - TCP连接

context - 连接生命周期管理

自定义协议解析器

2. 数据过滤层
职责:对接收到的原始数据进行清洗和过滤

数据条件匹配

异常数据检测和过滤

数据格式标准化

技术栈:

正则表达式 (regexp)

条件表达式解析执行(exprgo)

自定义过滤规则引擎

3. 计算引擎层
职责:核心业务计算逻辑执行

技术栈:

自定义计算算法实现

内存数据结构管理

实时计算协程

4. 内存管理层

职责:内存数据的管理和维护

内存快照维护

数据恢复机制

内存数据序列化

技术栈:

sync - 并发安全控制

序列化库 (boltdb)

5. 持久化层
职责:数据持久化存储

周期性数据持久化

6. 重算服务层 (Recalculation Service Layer)
职责:处理数据重算任务

重算队列管理

协程池实现

历史数据加载和重算

技术栈:

协程池实现

任务队列 (channel)

InfluxDB客户端 (用于历史数据查询)

分片查询

难点1:由升级或者服务异常停止造成的计算中断引起的计算误差

解决方案:

每5分钟备份存快照到文件

服务启动时从文件快照恢复

难点2:网络延迟造成的计算误差,也就是到了周期时间时,该周期内的数据因为网络延迟并未全部接受到

解决方案:

实时计算协程判断 数据时间>计算周期的结束时间时,自旋等待最多10s, 并发送信号到周期任务执行协程

周期任务执行协程等待实时计算协程发来的信号,最多等待10s,接受到信号就持久化到内存,并发送信号到

实时计算协程解除自旋

难点3: 重算对服务器的负载过高

解决方案:

实现了协程池,限制同一时间最大的重算协程数量

对长周期时间的数据按时间分片查询,比如月统计,一次查询2小时

示例图片视频


Rowlen
30天前活跃
方向: 后端-Go、前端-Web前端、
交付率:100.00%
相似推荐
AI智能鉴定应用
用于奢侈品回收行业,以及个人消费者,个人消费者购买比如劳力士手表,或者奢侈品回收商家,无法判别真假时,可以通过AI智能鉴定app或者小程序,直接拍照自动识别手表型号,以及商品信息,以及市场价,二手流通价,自动返回该物品的鉴定点,比如表盘、指针、表耳机芯等信息,然后消费者根据提示上传对应的鉴定点,系统会自动与正品库中的鉴定图进行像素级的比对,然后返回鉴定结果,除了手表外,也支持其他奢侈品,比如包包、酒水、潮鞋、等奢侈品都可以进行鉴定
业务流程透视监控系统
该项目以展示用户行为维度的业务流程为核心,透视系统工程中业务的流转。从而实现对业务质量的实时关注、业务异常的提前发现以及业务精细化运营和运维。项目采用基于扩展Logback日志上报数据进行OGNL配置节点公式的方式进行采集、计算和可视化渲染。
企业管理系统
业务和功能介绍 1. 立项背景和目标 - 背景:企业员工数量增长,传统人工管理效率低下,薪资计算复杂,缺乏统一的数据管理平台 - 目标:开发一套集员工信息管理、薪资计算、权限控制于一体的企业员工管理系统,提升HR工作效率,确保数据安全和准确性 2. 软件功能、核心功能模块的介绍 - 核心功能: - 员工信息管理:支持单条/批量添加、删除、修改、查询员工信息,覆盖普通员工、程序员、经理等多种类型 - 薪资管理:自动计算不同员工类型的最终薪资,支持薪资总和统计、部门薪资统计、基本工资调整 - 权限管理:管理员注册、登录、权限控制,区分超级管理员和普通管理员权限 - 数据持久化:员工数据和管理员信息的自动保存与加载,确保系统重启后数据不丢失 - 日志记录:系统操作日志和薪资调整日志,便于追溯和审计 3. 业务流程、功能路径描述 主流程:管理员登录 → 进入主菜单 → 选择功能模块(员工管理/查询统计/薪资管理)→ 执行具体操作 → 数据自动保存 员工管理路径:主菜单→员工管理→选择操作(添加/批量添加/删除/修改)→ 执行操作→返回菜单 薪资管理路径:主菜单→薪资管理→选择操作(调整基本工资)→ 输入员工ID和新薪资→确认调整→数据保存 查询统计路径:主菜单→查询统计→选择查询类型(按ID/部门/薪资总和)→ 输入查询条件→查看结果
南京森林警察学院智警学堂
智警学堂聚焦警校人才培养核心需求,以“数字化赋能警务教育”为核心业务,构建覆盖学警全周期成长的智慧管理与学习平台。核心功能涵盖四大模块:一是学生管理,实现学警信息建档、权限配置、成长轨迹追踪等规范化管理;二是课程学习,整合专业课程与微课资源,支持随时随地碎片化学习,适配警务化管理作息;三是联考备考,内置警察联考专属题库与模拟考试功能,还原真实考场场景;四是考勤与考核,设有学习打卡机制,同步提供在线考试、多维度成绩分析服务,通过数据可视化呈现知识点掌握情况与排名趋势,助力精准补漏。平台深度契合警校教学与备考场景,实现管理高效化、学习个性化、考核数据化。
教育计划管理系统
该平台以“数据驱动教学、AI赋能教师”为核心理念,围绕教、学、评、管四大环节,为教师提供从课前准备、课堂互动、课后反馈到长期学情追踪的一站式智能教学工具。通过整合知识图谱、AI生成、自动批改与数据分析等能力,帮助教师提升教学效率、实现精准教学
帮助文档   Copyright @ 2021-2024 程聚宝 | 浙ICP备2021014372号
人工客服