微信运维实时监控数据上报及存储设计实践-陈晓鹏

合集下载

基于微信小程序的地震信息速报系统设计实现

基于微信小程序的地震信息速报系统设计实现

基于微信小程序的地震信息速报系统设计实现一、引言地震是一种自然灾害,它对人们的生命和财产都会造成严重损失。

在地震发生之后,及时准确地获取地震信息对于进行紧急救援和避险转移至关重要。

建立一个地震信息速报系统,通过微信小程序向公众发布地震信息,可以帮助人们及时获取地震信息,采取必要的紧急措施,以减少地震灾害造成的损失。

本文将对基于微信小程序的地震信息速报系统进行设计与实现。

二、系统需求分析1. 信息获取:地震信息应该及时准确地获取,包括地震发生的时间、地点、震级等信息。

2. 信息发布:地震信息需要快速有效地向公众发布,以便公众能够及时了解地震情况。

3. 预警功能:系统应该具备地震预警功能,及时提醒用户可能发生地震的地区,促使用户采取相应的防护措施。

4. 用户交互:系统应该支持用户通过微信小程序进行交互,包括查询地震信息、订阅地震预警、进行地震安全知识的学习等功能。

5. 数据存储:系统应该具备良好的数据存储能力,能够存储大量的地震信息、用户信息和交互记录。

6. 接入性:系统应该容易接入其他数据源,如地震监测台网、地震预警系统等,以获取更多准确的地震信息。

7. 可扩展性:系统应该具备良好的可扩展性,以便在未来能够加入更多的功能和服务。

三、系统设计1. 系统架构地震信息速报系统的架构包括前端微信小程序、后端服务器、数据库和数据接入接口。

用户通过微信小程序进行地震信息的查询、预警订阅和交互,前端微信小程序通过后端服务器访问数据库获取地震信息,并通过数据接入接口接入其他数据源。

2. 数据库设计数据库包括地震信息表、用户信息表和交互记录表。

地震信息表存储地震的详细信息,用户信息表存储用户的个人信息和预警订阅信息,交互记录表存储用户和系统的交互记录。

3. 地震信息获取与发布地震信息获取通过数据接入接口实现,系统接入地震监测台网等数据源获取地震信息。

地震信息发布通过后端服务器向微信小程序发送推送消息实现。

4. 微信小程序设计微信小程序包括地震信息查询功能、地震预警订阅功能和地震安全知识学习功能。

基于微信小程序的变电站设备在线巡维系统研发

基于微信小程序的变电站设备在线巡维系统研发

基于微信小程序的变电站设备在线巡维系统研发发表时间:2018-05-10T10:29:11.713Z 来源:《电力设备》2017年第36期作者:林跃欢黄盛超[导读] 摘要:为解决变电站巡维过程中,因变电站内的电力设备型号不一,种类繁多,运维人员难以熟悉掌握所有设备信息,造成缺陷发现率不高、缺陷上报不实时等问题,本文研发一款基于微信小程序的变电站设备在线巡维系统,采用云服务器、云数据库、微信小程序等新工具进行开发,实现真正意义的在线巡维系统。

(广东电网有限责任公司东莞供电局广东省东莞市 523000)摘要:为解决变电站巡维过程中,因变电站内的电力设备型号不一,种类繁多,运维人员难以熟悉掌握所有设备信息,造成缺陷发现率不高、缺陷上报不实时等问题,本文研发一款基于微信小程序的变电站设备在线巡维系统,采用云服务器、云数据库、微信小程序等新工具进行开发,实现真正意义的在线巡维系统。

运维人员使用智能手机扫描设备上粘贴的二维码即可实时查看该设备的设备详情、历史缺陷等信息,若在巡视过程中发现设备缺陷,使用本系统可实时上传设备缺陷的相片和缺陷文字信息,同时缺陷信息会实时反馈到设备管理人员。

经现场试验,本系统的应用使运维人员减少了信息上报的时间,提高日常巡维工作的完整率和工作效率。

关键词:微信小程序;在线;巡维;变电站0引言为了保证变电站的设备安全、健康运行,变电站运行维护人员每天需要对站内一、二次电力设备进行巡视和维护。

目前,传统的巡视方法是,由专业的运维人员携带纸质版的巡视作业表单,根据表单指引对管辖的设备逐一进行巡视和维护,若发现设备有问题则记录在作业表单上,巡视完毕后统一处理[1]。

然而,传统的巡视方法存在很多不足之处,具体表现如下:由于变电站内的电力设备型号不一,种类繁多,运维人员不一定熟悉掌握所有设备的所有参数和正常运行情况,因此很难发现轻微的异常。

其次,在巡视过程中,运维人员对于对设备差异化运维级别、设备缺陷不能实时掌握,难以对设备进行针对性的差异化运维[2]。

2024年微信数据报告

2024年微信数据报告

2024年微信数据报告(实用版)编制人:__________________审核人:__________________审批人:__________________编制单位:__________________编制时间:____年____月____日序言下载提示:该文档是本店铺精心编制而成的,希望大家下载后,能够帮助大家解决实际问题。

文档下载后可定制修改,请根据实际需要进行调整和使用,谢谢!并且,本店铺为大家提供各种类型的实用资料,如述职报告、辞职报告、调研报告、工作报告、自查报告、调查报告、工作总结、思想汇报、心得体会、其他资料等等,想了解不同资料格式和写法,敬请关注!Download tips: This document is carefully compiled by this editor.I hope that after you download it, it can help you solve practical problems. The document can be customized and modified after downloading, please adjust and use it according to actual needs, thank you!Moreover, our store provides various types of practical materials for everyone, such as job reports, resignation reports, research reports, work reports, self-examination reports, investigation reports, work summaries, ideological reports, reflections, and other materials. If you want to learn about different data formats and writing methods, please stay tuned!2024年微信数据报告2024年微信数据报告五篇2024年微信数据报告第一篇认识实习是是通信工程专页学生必修实践环节之一,是即将进入学习专页课程之前进行的重要实践教学环节.捅过认识实习,使学生初步认识自己所学专页的人才陪养方案目标和所涵盖的企业范围,了解专页知识在生产实践中的行使,陪养学生熱爱专页、致力于经济建设的思想,题高学生学习专页课的性趣。

微信小程序机房监控系统解决设计方案

微信小程序机房监控系统解决设计方案

微信小程序机房监控系统解决设计方案一、系统概述微信小程序机房监控系统主要是对机房设备(如供配电系统、UPS电源、空调、消防系统、保安门禁系统等)的运行状态、温湿度、烟雾、红外、水浸等进行实时监控并记录历史数据,同时将机房设备工作状态进行实时的视频监控,实现对机房远程监控与管理功能,通过手机微信可对上述全部监控对象进行可靠、准确的监控与控制,使其机房远程监控达到无人或少人值守,为机房高效的管理和安全运营提供有力的保证。

微信小程序是一种不需要下载安装即可使用的应用,它实现了应用“触手可及”的梦想,用户扫一扫或搜一下即可打开应用。

微信小程序机房监控系统,可以远程进行监控与控制,是目前无人值守管理人员最不可以缺少的系统组成部分之一,从而有效提高工作效率,保证机房系统运作的安全性与稳定性。

二、系统设计原则系统设计坚持“技术先进、使用方便、经济合理、超前考虑”的原则,系统具有先进性、实用性、规范性、可靠性、开放性,同时为了保证整个系统稳定可靠,具备良好的整体升级、扩展能力和方便维护,符合机房管理与控制的需要,系统设备选型在符合系统功能要求的前提下,综合的考虑了性能指标、规格统一性及性能价格比。

(1)经济性具有极佳的性能价格比。

(2)可维护性系统APP界面可操作性强、界面友好、易于使用。

(3)实时性保证系统能实时的反映通信设备运行情况,一到那出现异常情况是能够及时报警。

(4)安全性通过安全隔离、信息加密等技术保证系统安全。

(5)实用性系统全面分析现有条件与未来需求,充分考虑当前功能要求与整体人员技术素质,力求实现系统建设与使用的同步,使集成开发的系统充分满足统计局的需求,并且易于操作、维护。

(6)可靠性保证系统的高可靠性,即不会出现因为某一个设备发生故障而造成整个监控系统无法使用的现象;系统的接入不会影响现有通信设备和网络的正常工作。

系统将正确反映监控内容的实际情况。

系统的运行和平均故障修复时间完全符合设计要求。

基于微信小程序医疗应急物资调配系统的设计与实现

基于微信小程序医疗应急物资调配系统的设计与实现

基于微信小程序医疗应急物资调配系统的设计与实现陈永秀(福建省肿瘤医院 福建福州 350014)摘要:为解决特殊应急时期物资调配系统使用设备受限的问题,减少工作人员的工作量,缩短物资信息操作过程中不同部门交流所使用的时间,增强物资信息的及时性、灵活性以及准确性,利用腾讯公司微信开发工具,快速开发医疗应急物资调配系统小程序。

基于微信小程序的应急物资调配系统技术要求低、经济成本低、开发迅速的特点,为医疗应急物资信息化管理提供了有力保障,极大提高了应急物资调配效率。

关键词:微信小程序 医疗应急物资 系统设计 信息化调配中图分类号:TP311文献标识码:A 文章编号:1672-3791(2023)24-0017-04Design and Implementation of the Medical Emergency Material Deployment System Based on the WeChat AppletCHEN Yongxiu(Fujian Cancer Hospital, Fuzhou, Fujian Province, 350014 China)Abstract:In order to solve the problem of limited equipment use in the material deployment system during the special emergency period, reduce the workload of the staff, shorten the time used by different departments to com‐municate in the process of material information operation, and enhance the timeliness, flexibility and accuracy of material information, this paper uses the WeChat development tool of Tencent to rapidly develop an applet for the medical emergency material deployment system. The emergency material deployment system based on the WeChat applet has low technical requirements, low economic costs rapid development, and it provides a strong guarantee for the information management of medical emergency supplies and greatly improves the efficiency of emergency ma‐terial deployment.Key Words: WeChat applet; Medical emergency supplies; System design; Information deployment医疗应急物资管理系统的设计,调查人员对目前市场上类似的主流软件进行了调研分析。

基于微信小程序的地震信息速报系统设计实现

基于微信小程序的地震信息速报系统设计实现

基于微信小程序的地震信息速报系统设计实现地震是一种极其严重的自然灾害,而地震发生后的信息传递至关重要。

传统的地震信息速报方式主要是通过电视、广播和互联网等媒介进行发布,但这些方式的特点是不能够实现即时传递以及个性化需求的满足。

基于微信小程序的地震信息速报系统可以满足用户实时获取地震信息的需求,同时还可以保证信息的准确性和全面性。

1. 系统的设计思路本系统的主要设计思路是基于微信小程序平台,通过对地震数据的实时获取和处理,将获取的数据进行加工后通过微信小程序进行实时发布。

同时,为了让用户可以更加方便地获取信息,系统还可以提供一些定制化服务,比如根据用户的地理位置自动发布当地的震情报告等。

系统主要构成包括数据采集模块、数据处理模块、信息发布模块和用户反馈模块。

(1). 数据采集模块:数据采集模块主要负责从国家地震局或者其他信息来源获取震情数据。

这些数据包括地震震级、震源深度、震中位置、发生时间等基本信息。

(2). 数据处理模块:数据处理模块主要是对采集的数据进行加工、分析、处理等操作。

比如可以针对不同的地域、不同的震级、不同的震源深度等进行分类,以便后续的信息发布模块能够按照用户的需求进行信息的定制化服务。

(3). 信息发布模块:信息发布模块主要是将处理后的震情数据发布到微信小程序平台上,为用户提供全面、准确、实时的地震信息。

同时,系统也可以提供根据用户定位发布当地震情报告、用户订阅推送、震情预警等个性化服务,通过这些功能,用户可以更加轻松地获取所需信息。

(4). 用户反馈模块:用户反馈模块主要是接受用户反馈信息,以便用户可以向系统反馈地震后的情况、提出相关问题和建议等。

通过这些反馈信息,系统可以不断完善并优化自身的服务,提高满意度。

3. 系统的技术实现方案系统的技术实现方案主要采用了微信小程序开发框架,并结合国家地震局提供的震情数据,实现数据的实时获取、加工、分析和处理。

同时,系统还涉及到微信小程序的图文、音视频、表格等展示方式,以及用户定位、二次分享、消息推送等功能。

基于微信小程序的地震信息速报系统设计实现

基于微信小程序的地震信息速报系统设计实现

基于微信小程序的地震信息速报系统设计实现地震是一种很严重的自然灾害,及时获取地震信息对于人们的安全和生活有着重要的影响。

随着移动互联网的发展,微信小程序成为了人们获取信息的重要途径之一。

本文将介绍一个基于微信小程序的地震信息速报系统的设计和实现,帮助用户及时获取地震信息。

1. 系统需求分析地震信息速报系统的主要功能是实时展示地震信息以及提供地震预警服务。

根据这些需求,可以将系统的功能划分为以下几个模块:(1) 地震信息展示模块:该模块用于实时展示最新的地震信息,包括地震的时间、地点、震级等信息。

(2) 地震预警服务模块:该模块用于提供地震预警服务,包括根据用户所在位置提供附近地区的地震预警信息。

(3) 用户管理模块:该模块用于管理用户的信息,包括用户的注册、登录、修改个人信息等功能。

2. 系统设计(1) 技术选型:由于微信小程序是主流的移动端开发平台,所以本系统采用微信小程序作为客户端。

后台使用Node.js作为开发语言,并使用Express框架搭建Web服务,使用MySQL作为数据库存储地震信息和用户信息。

(2) 地震信息展示模块设计:地震信息展示模块主要由一个列表页面和一个详情页面组成。

列表页面展示最新的地震信息列表,用户点击某个地震信息可以跳转到详情页面查看详细信息。

(3) 地震预警服务模块设计:地震预警服务模块主要通过获取用户的地理位置信息,并根据该信息获取附近地区的地震信息,若有地震预警则发送给用户。

这个模块可以使用微信小程序提供的地理位置接口实现。

(4) 用户管理模块设计:用户管理模块主要包括用户的注册、登录、修改个人信息等功能。

用户注册时需要填写一些基本信息,如用户名、密码、手机号码等。

用户登录时需要验证用户名和密码,若验证通过则生成一个访问令牌,返回给用户,用户之后的请求都需要携带该访问令牌进行验证。

3. 系统实现(1) 小程序端的实现:小程序端主要使用微信小程序的开发框架进行开发,涉及到页面的布局和样式、地理位置的获取、接口的调用等。

基于数字化运营体系的企业级运营监控平台设计与实现

基于数字化运营体系的企业级运营监控平台设计与实现

关键词:企业管理;人工智能;运营监控;可视化;数据资产
中图分类号:TP311.5
文献标识码:A
文章编号:2096-4706(2020)02-0170-03
ቤተ መጻሕፍቲ ባይዱ
Design and Implementation of Enterprise-level Operation Monitoring Platform Based on Digital Operation System
此层支持数据管理数据资应用层微服务集群运营管控平台指标引擎服务注册服务发现负载均衡指标体系规则配置专题绑定数据脱敏服务网关配置中心服务路由数据集市数据清洗预警分析消息中心版本管理消息通知指标微服务微服务技术数据服务接口数据源核心指标重点任务预警督办指标管理全景展示协同管理抽数工具数据文件webservice抽数工具or映射事务管理配置加载缓存处理分布式文件访问接口通用海量存储访问接口springcloud微服务管理框架activemq运营平台数据库大数据平台海量数据平台soa平台外部数据图1企业级运营监控平台技术架构产的统一管理和维护可以为上层应用提供智能分析和决策支持充分展现大数据价值
Keywords:enterprise management;artificial intelligence;operational monitoring;visualization;data assets
0引言
深圳供电局近年来已建成并拥有生产、GIS、投资计划、 项目、物资、基建、财务、营销、人力资源、OAK、综合、 EIP、客户全方位等一批信息化管理系统,实现了业务全覆盖, 并构建资产全生命周期管理、客户全方位服务等的企业管理体 系。然而从企业管理的角度分析,目前的信息化平台建设仍 有不足之处。首先,企业级运营管控体系缺少总体规划,各 业务系统的核心数据未实现整合和应用,跨部门、跨业务、 跨流程的信息管控仍存在真空,企业数据资产价值未充分发 挥,无法为企业管理层带来客观准确的业务定位、管理对象、 监测及分析方法与决策依据;其次,面向公司领导、相关管 理委员会,企业经营指标等数据仍采用手工上报方式,无法 实现指标的实时监控及随时随地查阅各关键指标情况;最后, 平台缺乏集约能力,无法合理地运用现代化技术充分展示公 司良好形象。因此,为提升深圳供电局企业运营效率和效益, 推动其创建高质量世界一流企业,需要结合国际先进的云大 物移智技术,搭建专业级、企业级的数字化运营管理工具。

建筑工地视频指挥调度系统解决方案

建筑工地视频指挥调度系统解决方案

建筑工地视频指挥调度系统解决方案目录一、项目概述 (2)1. 项目背景与目标 (2)2. 解决方案简介 (4)二、系统架构设计 (5)1. 整体架构设计思路 (6)2. 硬件组成要素 (7)3. 软件功能模块 (9)三、视频指挥调度功能实现 (10)1. 视频监控与实时传输 (11)2. 调度管理与指令下达 (13)3. 数据分析与可视化展示 (14)四、系统部署与实施 (15)1. 部署环境及要求 (17)2. 系统安装与配置流程 (18)3. 调试与测试 (19)五、系统安全保障措施 (20)1. 数据安全保障 (21)2. 设备运行安全保障 (22)3. 人员操作安全保障 (23)六、系统维护与升级策略 (25)1. 系统日常运行维护管理 (25)2. 系统升级与更新计划 (26)3. 技术支持与服务保障 (27)七、培训与支持服务 (28)1. 培训内容与方式 (29)2. 支持服务内容 (31)八、项目效果评估与总结反馈 (32)1. 项目实施效果评估方法 (33)2. 项目总结反馈机制建立与执行 (34)一、项目概述随着城市化进程的加速,建筑工地数量急剧增加,工地管理面临着前所未有的挑战。

为了提高工地管理的效率,降低安全风险,优化资源分配,我们提出了一套综合性的“建筑工地视频指挥调度系统解决方案”。

该方案旨在通过先进的视频监控技术、数据通信技术和人工智能技术,实现对建筑工地的全面、实时、高效指挥调度。

系统将覆盖工地现场的关键区域,包括施工区、材料堆放区、停车场等,并配备高清摄像头、传感器、无人机等设备,以获取全面的现场信息。

通过对这些信息的实时采集、处理和分析,系统能够提供实时的工地状态展示、预警信息发布、资源调度指令等功能。

系统还将利用人工智能技术对工地情况进行智能分析,识别潜在的安全隐患和资源浪费问题,为工地管理提供科学的决策支持。

本项目的实施将有助于提升建筑工地的安全管理水平、施工效率和质量,推动建筑行业的可持续发展。

基于微信平台的温室远程监控系统的设计与实

基于微信平台的温室远程监控系统的设计与实

基于微信平台的温室远程监控系统的设计与实作者:董玮婕来源:《农业开发与装备》 2016年第9期摘要:因设施农业现代化发展的需要,为进一步提高温室远程监控管理水平,设计了基于微信平台的温室远程监控系统。

以微信平台为入手点,利用PHP、C#等技术、以SQL Sever为数据存储平台完成系统设计。

农业生产工作者只需一部安装有微信的智能手机,在网络环境下即可完成对温室的远程的实时监测与控制,增强用户监控管理的可移动性,方便快捷。

在为农业生产工作者提供便利的同时为农业数字化发展提供强有力的动力。

关键词:微信公众平台;远程监控;温室参数引言中国是农业大国,设施农业是中国现代化发展的重要方向之一。

而改善温室环境,为作物提供良好的生长条件、实现温室的高效生产与可持续发展是温室监控的主要目的,对温室产业发展乃至中国的整体设施农业现代化进程都具有较为深远的影响[1]。

美国、荷兰等发达国家的温室监控技术发展较早,因而技术较为先进[2]。

而近年来,通过对发达国家先进温室监控技术的引进和研究,中国自主研发温室监控系统逐渐发展,但是整体而言,国内温室监控技术水平较发达国家仍存在较大差距,主要表现在不能充分适应温室控制的要求、调控措施复杂、可移动性低等方面[3]。

笔者在前期研究成果的基础上,以广泛渗入平常生活的微信平台为基准点,扩展了基于微信平台的温室环境参数的远程监控解决方案,较一般的网站式监控系统具有可移动性高、便于操作等优势。

本系统在实现对温室环境参数的自动采集、发送和提供数据访问、温室设备控制的同时,完成以微信为主体的监控,提高了对温室环境数据获取和控制的方便性。

1 相关技术介绍1.1 微信平台简介微信是腾讯公司于2011年1月21日推出的一个为智能终端提供即时通讯服务的免费应用程序,是亚洲地区用户群体最大的移动端即时通信软件,同时也被公认为目前唯一拿到移动互联网门票的应用。

微信公众平台是微信公众账号所有者(政府、媒体、企业、组织或个人)进行品牌推广、与用户交互的平台,在提高影响力的同时能够将运营成本降低。

基于“互联网+”的后勤服务管理系统微信小程序的开发

基于“互联网+”的后勤服务管理系统微信小程序的开发

创新管理科技创新导报 Science and Technology Innovation Herald126DOI:10.16660/ki.1674-098X.2007-5640-4484基于“互联网+”的后勤服务管理系统微信小程序的开发①刘忠好 张凯 陈小卓 徐爽 刘忠仁(国网湖南省电力有限公司水电分公司 湖南长沙 410004)摘 要:本文根据实际工作需要开发出一套拥有完全自主知识产权的基于“互联网+”的后勤服务管理系统,包含固定线路班车申请、预定线路专车申请、工作人员用餐申请3大模块,利用微信小程序搭建线上统计平台,以实现线上消息推送、在线报名、自动统计、智能提示、异常情况报警、后台数据分析与管理等功能。

经实际使用表明该系统方便快捷,效益可观。

关键词:互联网+ 后勤管理系统 小程序 方便快捷中图分类号:G203 文献标识码:A 文章编号:1674-098X(2020)10(c)-0126-03The Development of Wechat Applet of Logistics ManagementSystem Based on Internet PlusLIU Zhonghao ZHANG Kai CHEN Xiaozhuo XU Shuang LIU Zhongren(State Grid Hunan Electric Power Company Limited, Hydropower Company, Changsha, Hunan Province,410004 China)Abstract: According to the actual needs, we developed a logistics service management system based on the "Internet plus" which has completely independent intellectual property rights. It includes 3 modules: fixed line bus application, scheduled bus application, and staff meal application. We use WeChat small sequence to build online statistical platform to achieve online message push, online registration, automatic statistics, and intelligence. Can prompt, abnormal alarm, background data analysis and management functions. The practical application shows that the system is convenient, swift and has considerable benefits.Key Words: Internet plus; Logistics management system; Small program; Convenient and swift随着智能手机的普及,为随时随地查询各种应用系统统带来了方便。

腾讯微信陈晓鹏-微信海量数据监控的设计与实践

腾讯微信陈晓鹏-微信海量数据监控的设计与实践

算法改进
• 多项式拟合预测
应用于周期稳定曲线,通过历史数据预测数据趋势。
• 历史数据平稳的曲线,出现很长时间的缓慢变 化也不会判断为异常。
真实值
预测值
报警点
GOPS 全球运维大会2017·上海站
监控配置问题
• 超过30w的监控项要人手配置。 • 观察曲线选择不同算法。 • 选择不同的敏感度。 • 隔一段时间需要进行调整。
key value
cache
key cache value
key value
cache
• Key使用二分查找,支持前置匹配查询: • 单机读性能 > 100w/s。
11 12 13 21 22 23 31 32 33
1*
1*
1*
2*
2*
2*
3*
3*
3*
• Hash(main_key)数据极不均衡。 • 一天一条记录,key占内存稍多。
bus_id uid namespace metric dimension1~n value
int int64 string string string (n<=5) double
对外监控服务
GOPS 全球运维大会2017·上海站
目录
1 监控数据收集轻量化 2 微信数据监控的发展过程 3 海量监控分析下的数据存储设计思路
GOPS 全球运维大会2017·上海站
上报量: > 2k亿/min 汇总结果: > 2亿/min
> 4kw/min
简化数据格式
业务指标 模块间调用链 进程运行状态 硬件层面监控
GOPS 全球运维大会2017·上海站
ID、Key CliId、CliIp、SvrId、SvrIp、SvrApiID

专8-1-微信运维实时监控数据上报及存储设计实践-陈晓鹏(1)

专8-1-微信运维实时监控数据上报及存储设计实践-陈晓鹏(1)

微信运维监控——海量监控数据上报及存储设计实践微信运维中心陈晓鹏如果运维监控数据处理太慢…微信后台系统现状600004000020000201120122013201420152016服务器600040002000201120122013201420152016模块微信监控日志上报量——1万亿/min1400012000100008000600040002000201120122013201420152016亿/minl●存储容量不够l●统计延迟严重每分钟万亿级监控数据,如何上报、汇总?微信监控数据存储量——2亿/min2.521.510.5201120122013201420152016亿/minl 如何进一步提高TSDB的读性能?每分钟亿级时间序列数据,如何实现存储,如何保证N年跨度的数据读取性能?微信轻量监控数据上报框架日志上报hdfs分布式计算网络压力存储空间统计延迟日志上报hdfs分布式计算本地统计日志格式多样统计消耗放弃日志这种上报形式!微信后台轻量数据上报框架l●数据分类业务数据——复杂、高延迟监控数据——简单、低延迟l●简化监控数据统一数据格式简化计算规则——累加、平均统一数据格式l ID  Key  V alue:•ID:0  ~  128k-1•Key:0  ~  127•Value:uint32_t共享内存•type  __sync_fetch_and_add(type  *ptr,  t ype  v alue) •bool__sync_bool_compare_and_swap(type  *ptr,  t ype  o ldval,  t ype  n ewval)•支持计算规则:累加、设置新值、设置最大值l●CPU消耗极小l●可实现秒级、实时数据采集l●可简化数据存储、汇总微信高性能监控数据存储监控数据(时间序列)特点l●数据格式:Key  +  T ime  +  V aluel●数据量大:1天=  1440min,2亿/min  =  2880亿/天l●大量读取历史数据时序数据库设计思路原始数据(分钟级)内存缓存小时级/天级数据KV存储历史数据缓存Key映射关系数据库l●历史数据查询性能不足l●复杂关系数据查询效率低l●数据缓存命中率不高多维度Key的作用A模块A1机器à→B模块B2机器X1接口调用数失败数耗时l●当4失败总数上升时,如何定位故障机器、接口?1234567提高历史数据查询性能l 定制能快速查找历史数据的index:•分表、按时间分区•每个分区独立生成index旧版微信监控数据存储CREATE  T ABLE  `idkey_0`  (`time`  i nt(10)  u nsigned  N OT  N ULL,`key1`  i nt(10)  u nsigned  N OT  N ULL,`key2`  i nt(10)  u nsigned  N OT  N ULL,`key3`  i nt(10)  u nsigned  N OT  N ULL,`v0`  b igint(20)  u nsigned  D EFAULT  '0',`v1`  b igint(20)  u nsigned  D EFAULT  '0',...`v718`  b igint(20)  u nsigned  D EFAULT  '0',`v719`  b igint(20)  u nsigned  D EFAULT  '0',PRIMARY  K EY  (`key1`,`key2`,`key3`,`time`),KEY  (`key3`,`key2`,`key1`,`time`))  E NGINE=MyISAMPARTITION  B Y  R ANGE  (time)(PARTITION  P 20150327  V ALUES  L ESS  T HAN  (1427414400)  E NGINE  =  M yISAM,PARTITION  P 20150330  V ALUES  L ESS  T HAN  (1427673600)  E NGINE  =  M yISAM,...);  Key  *  n 多index,支持全匹配、前置匹配Value  *  720分表分区写200w/min,读100w/min微信新版存储方案原始数据小时分区(mmap)日分区index日分区data压缩日分区index压缩日分区data实时写入每小时批量flush每天离线压缩优化写入结构定制简化的index  +  d ata文件结构,提供高性能的全匹配、前置匹配查询小时分区(mmap)结构不同key同一分钟的数据相邻,减少单次flush数据量。

基于BIM的智能运维管理监控系统设计与实现

基于BIM的智能运维管理监控系统设计与实现

基于BIM的智能运维管理监控系统设计与实现
宋博;彭炜杰;陈韶
【期刊名称】《计算机应用与软件》
【年(卷),期】2024(41)4
【摘要】为切实提升生产设备的信息化和智能化水平、提高生产效率和故障诊断能力,设计一套基于BIM的智能运维管理监控系统。

系统将多源传感器数据融合,结合BIM技术进行展示,并引入基于专家经验转化的故障诊断技术。

该系统已保障某场站安全运行生产200余天,达到很好的预期。

同时,系统产生160 GB原始监测数据和专家经验标定结果,为后续引入基于机器学习的故障诊断方法提供原始训练数据支持。

【总页数】6页(P28-33)
【作者】宋博;彭炜杰;陈韶
【作者单位】中国航空综合技术研究所
【正文语种】中文
【中图分类】TP319
【相关文献】
1.基于BIM的供水管网智能运维管理系统设计
2.基于BIM的地铁车辆设备智能运维管理系统设计
3.基于BIM/GIS的综合管廊智能运维管理系统设计
因版权原因,仅展示原文概要,查看原文内容请购买。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

PARTITION P20150330 VALUES LESS THAN (1427673600) ENGINE = M yISAM,
...
);
写200w/min,读100w/min
微信新版存储方案
原始数据
实时写入
小时分区 (mБайду номын сангаасap)
每小时批量flush
日分区index 日分区data
Key都是整形, 可以简化index
处理
简化读写处理
index算法 —— 折中查找
l 全匹配查询:
11 12 13 21 22 23 31 32 33
l 前置匹配查询:
1* 1* 1* 2* 2* 2* 3* 3* 3*
原始数据
实时写入
小时分区 (mmap)
每分钟更新 每小时批量flush
轻量上报/汇总框架
共享内存
• type __sync_fetch_and_add (type * ptr, type value) • bool __sync_bool_compare_and_swap (type * ptr, type oldval, t ype newval) • 支持计算规则:累加、设置新值、设置最大值
微信运维监控 ——
海量监控数据上报及存储设计实践
如果运维监控数据处理太慢…
微信后台系统现状
60000
40000
20000
0 2011
2012
2013
2014
2015
2016
服务器
6000
4000
2000
0 2011
2012
2013
2014
2015
2016
模块
微信监控日志上报量 —— 1万亿/min
日分区(压缩/未压缩)文件结构
l 1个meta + 1个index + 1个data文件
index文件
Index 1 Index .. Index N
data文件
Key 1 + Data 1 Key 2 + Data 2 Key N + Data N
14000
12000
10000
8000
6000
4000
2000
0 2011
2012
2013
2014
2015
2016
亿/min
l 存储容量不够 l 统计延迟严重 每分钟万亿级监控数据,如何上报、汇总?
微信监控数据存储量 —— 2亿/min
2.5
2
1.5
1
0.5
0 2011
2012
2013
2014
2015
2016
亿/min
l 如何进一步提高TSDB的读性能?
每分钟亿级时间序列数据,如何实现存储, 如何保证N年跨度的数据读取性能?
微信轻量监控数据上报框架
常见监控数据上报/汇总方案
日志上报
网络压力
hdfs
存储空间
分布式计算
统计延迟
常见监控数据上报/汇总方案
日志上报
hdfs
分布式计算
本地统计
日志格式多样 统计消耗
`v1` bigint(20) unsigned DEFAULT '0',
Value * 720
...
`v718` bigint(20) unsigned DEFAULT '0',
`v719` bigint(20) unsigned DEFAULT '0',
l 大量读取历史数据
时序数据库设计思路
原始数据 (分钟级)
内存缓存
小时级/天 级数据
Key映射 关系数据库
历史数据 缓存
KV存储
l 历史数据查询性能不足 l 数据缓存命中率不高 l 复杂关系数据查询效率低
多维度Key的作用
1
4
6
2
5
7
3
l 当4失败总数上升时,如何定位故障机器、接口?
A模块 A1机器 à B模块 B2机器 X1接口
每天离线压缩
压缩日分区index 压缩日分区data
优化写入结构
定制简化的index + data文件结构, 提供高性能的全匹配、前置匹配查询
小时分区(mmap)结构
l 1个meta文件 + N个data文件组成 l 每个data文件大小固定,使用mmap映射
不同key同一分钟 的数据相邻,减少 单次flush数据量。
PRIMARY KEY (`key1`,`key2`,`key3`,`time`), KEY (`key3`,`key2`,`key1`,`time`) ) ENGINE=MyISAM
多index,支持全匹 配、前置匹配
PARTITION BY RANGE (time)
(PARTITION P20150327 VALUES LESS THAN (1427414400) ENGIN分E区 = MyISAM,
放弃日志这种上报形式!
微信后台轻量数据上报框架
l 数据分类
业务数据 —— 复杂、高延迟 监控数据 —— 简单、低延迟
l 简化监控数据
统一数据格式 简化计算规则 —— 累加、平均
统一数据格式
l ID Key Value:
• ID: 0 ~ 128k-1 • Key: 0 ~ 127 • Value: uint32_t
轻量上报/汇总框架
l CPU消耗极小 l 可实现秒级、实时数据采集 l 可简化数据存储、汇总
微信高性能监控数据存储
监控数据(时间序列)特点
l 数据格式: Key + Time + Value
l 数据量大: 1天 = 1440min, 2亿/min = 2880亿/天
分表
`key1` int(10) unsigned NOT NULL, `key2` int(10) unsigned NOT NULL,
Key * n
`key3` int(10) unsigned NOT NULL,
`v0` bigint(20) unsigned DEFAULT '0',
调用数 失败数 耗时
提高历史数据查询性能
l 定制能快速查找历史数据的index: • 分表、按时间分区 • 每个分区独立生成index
旧版微信监控数据存储
CREATE TABLE `idkey_0` ( `time` int(10) unsigned NOT NULL,
相关文档
最新文档