利用大数据分析重新定义企业服务质量

摘自:
GARTNER G00263442 （28 May 2014）
6
© IBM Corporation
IBM Software Group
…需要分析很多数据并结合业务拓扑，才能识别问题
© IBM Corporation
预防性管理的时代已经到来
IT环境爆炸性增长的数据（日志通常包含了最准确、最真实的关键信息） • 拥有5000台服务器的企业每天产生超过1.3 TB 的数据
• KPI可以在季节性和非季节性中切换
21
© 2014 IBM Corporation
异常显示(单个 KPI)
与异常行为相关的指标 会被绘制成图形
绿色的区域是正常 的行为基线
异常的区域 以红色
文字描述异常的行为
22
© 2014 IBM Corporation
异常显示(多个KPI关系)
异常领域 红色显示
16
© 2014 IBM Corporation
预测性解决方案的理想特征
利用现有投资 不用推倒重来或替换，利用好现有性能管理方案
支持异构 方案灵活，易于支持多平台及多厂商的性能管理方案
适应未来发展 方案灵捷，支持动态的基础设施如云计算，变化不断
17
© 2014 IBM Corporation
SmartCloud Analytics – Predictive Insights 提供预测分析和自学习
20
© 2014 IBM Corporation
观察KPI数据的模式
• Predictive Insights 可以识别时间序列数据的模式
• 使用算法来确定数据是否是季节性的
• Predictive Insights 观察数据每周的模式
• Web servers在周一和周五会比较繁忙
• 对每个KPI进行自动的分析
我们要如何处理 这些数据？
14
© 2014 IBM Corporation
IBM持续对分析领域进行投资，并在此基础上构建运维分析能力
业务成果
主动规避宕机
快速解决问题
性能优化
Predict
能力
Search
在海量的数据中进行快速搜索
Optimize
IT应用基础架构优化
问题发生之前进行预测
IBM SmartCloud Analytics
为检测和避免服务中断，进行实时的分析 采用先进的沃森多变量和单变量分析算法. 关联跨多个域和异构数据源的指标
18
© 2014 IBM Corporation
Predictive Insights 观察行为
• 单个 KPI 分析
• 对每个KPI学习其历史的行为 • 当KPI偏离其历史的行为时，认为是异 常
• 典型的大型企业: 5000 服务器 + 网络 + 存储 + 中间件，每天产生大 约1.3 TB 的可用性和性能管理数据 • 跨国公司及服务提供商则拥有超过20,000服务器, … 每天产生大约4.5 TB数据 • Web及移动应用所要求的研发与敏捷开发，产生的数据量则大到难以 统计
APM文摘2013： 75%的高级IT总监对传统的管理方 式感到不满意, 30%表示他们无法预测潜在的宕机威胁
© 2014 IBM Corporation
预测
wk.baidu.com
挑战: 被动的对性能瓶颈进行反应是不够的 – 为了保证重要的业务系统 24X7小时可用, 必须在问题产生影响之前通过预测来进行规避
使用全自动的学习算法来定义什么是 “正常”。 然后采用对现有条件的 实时评估来预测和尽早发现异常，避 免对业务产生实际影响。
因果/统计模型
volum e
Server#2 Memory Free
Granger因果逻辑算法
基于认知技术对于关键业务系统异常进行预警的典型业务场景
Swap_Space_Used CPU Used > 90%
需要花费很多时间来响应故障
GC_Rate > 20MB/s
缩短MTTR
Server Monitoring Middleware Monitoring
• 识别大量的数据中，KPI之间的因果关系，并使用他们建立预测模型，并使用这 些模型来持续的探测，预测和进行异常分析
• 基于 Granger Causality Test （格兰杰因果关系检验）的方法进行实现
• 由诺贝尔奖获得者，经济学家Clive Granger提出 • 使用统计的测试来确定因果关系 • 对大量的时间序列的数据进行分析，发现存在于这些数据中的因果关系
宕机成本超过以往任何时候 • 关键性业务的宕机会给企业造成每小时数以百万计美元的损失：券商 ~$5-7百万/每小时，信用卡机构 ~$2-3百万/每小时，移动业务服务提供商 ~$66万/每小时，民航代理 ~$9万/每小时。
相对于迅猛增长的要求而言，IT员工的水平则在下滑或没有起色 很少有公司是真正以预防为主的 大多数企业只是在业务中断时被动应对 企业的信息孤岛，分离的工具，以及数据的复杂性及如此浩瀚，加大 了诊断故障的难度 系统宕机与变坏将造成数以百万计美元的损失，伤害品牌、客户印象 及忠诚度 管理层从严要求其团队：事先预防，而不是事后补救
IBM 大数据平台
Streams
SPSS
Cloud Insights
InfoSphere BigInsights
Rave
Watson
IBM 或者第三方 解决方案
应用性能管理（APM）
系统 & 日志监控
事件管理
运维环境
Applications | Systems | Workloads | Wireless | Network | Voice | Security | Mainframe | Storage | Assets 15
Countdown to Service Impact
Total Transaction Locks Method_Average_Response_Time JVM Memory Used > 10 Total Critical Alerts GC_Rate Failed_Requests Ping response time Avg MQ Resp Time Packets Received Errors Average Transmit KB/Sec %_Total_Privileged_Time CPU_used %_Total_Processor_Time Context_Switches/Sec %_Total_User_Time Swap_Space_Used Context_Switches/Sec Page_Faults_per_sec File_Control_Operations/Sec Ping Response Time > 100ms JVM_Memory_Used File_Data_Operations/Sec
9
如果在宕机前没有"预先诊断"的话，运维团队则只能被动应对，眼睁睁 看着宕机恶果蔓延有如烧钱一般... © 2014 IBM Corporation
传统业务管理与基于IT运维分析(ITOA)进行业务管理的区别
基于ITOA 方案
状态考察
客户业务系统的应用日志包含准确、 详细的交易信息，真实、全面的体现了用户 业务系统的状态
利用大数据分析 重新定义企业服务质量
杨振宇
yangzy@cn.ibm.com
软件部技术顾问
议程： 我们的数据从哪里来？ 我们要处理什么样的数据？ 我们要如何处理这些数据？
基于大数据的企业服务管理之道
案例分享
问题：除了他，任何人都必须用数据来 说话！
我们的数据从哪里来？
IBM Software Group
运维大数据的来源：包括结构化、非结构化数据
网络流量与事务处理 日志文件 警告/报警与事件 性能指标 核心文件与内存痕迹 配置文件 • • • • • 服务请求 故障通知单 社交媒体 库存与资产 用户文档与技术文档
• • • • • •
搜索
…取得洞察力
预测
… 提供洞察力
优化
… 基于洞察力
13
© 2014 IBM Corporation
自动绘制所有的关联 指标数据
文字描述异常的行为
23
© 2014 IBM Corporation
对于KPI异常偏离的检测
多KPI分析 (Granger 因果逻辑算法) 针对大量的时间序列数据，找出其中关键的因果关系并为时间序列数据建立 预测模型 利用该模型进行异常诊断和预测
时间序列数据
Server#1 Alerts Application# 1 availability Server#1 Out Packets Application #2 availability Server 3 No of Processors Trade
数据的来源：企业业务管理的五个维度
End-user experience monitoring — 捕捉应用或服务的终端用户体验
Runtime application architecture modeling — 发现应用所依赖的软硬件基础设施，以 及它们之间在运行时的通信关系。
User-defined transaction flow monitoring — 对指定交易，在执行的过程中，穿越的各 逻辑节点，所占用的资源和响应时间能够跟踪 Application component deep dive — 单一领域，基于应用环境上下文的的深入分析，和 问题诊断 IT Operation Analytics（ITOA） — 将数据整合、格式化、分类后，通过关联和智能分析 来提供更准确的业务管理能力
提升运营效率
Application Monitoring
Customer Experience
Network Performance
Transaction Response Time > 5 secs
Storage Monitoring
Mainframe Monitoring
如果没有针对故障的“提前感知”能力，运维团队只能被动响应故障，令企 业遭受业务上的损失…
8
© 2014 IBM Corporation
运维团队做不到预防性管理的主要障碍
• • • • • 海量数据，无法进行人工分析 现行分析技术如标准阈值分析法，无法实现预防目的 无法诊断到正在发生的问题（在造成业务损失之前） 阈值要么定得太高，在完全宕机之前没有足够的警告 阈值要么定得太低，噪音太多，所有一切都忽略掉了
先进仪器
借助于各种先进的仪器，目的是弄清病 因、发现病灶，找准病位：
资源监控、模拟交易、用户真实交易体验等管理工 具
10
© 2014 IBM Corporation
我们要处理 什么样的数据？
11
© 2014 IBM Corporation
运维管理的需求与焦点转向敏捷与简洁
IT运维是一种典型大数据挑战
• 多 KPI 分析
• 识别KPI之间的关系，并按照统计分析 所了解的模式进行分组 • 了解正常的行为模式，并在识别到行为 模式与正常的行为相异时，发送警告
19
© 2014 IBM Corporation
Predictive Insights 观察因果关系
• 使用统计的方法最可能确定哪些KPI有因果关系
•
运维和业务线需要洞察 …
可用性?
性能?
容量?
使用率?
构成?
智慧的基础设施带来大数据的机遇
• 典型的企业产生数以万计的工单和服务申请 来管理他们核心的资产 – 约每天 1 TB非结构化数据 • 智能的网络资产自身就会产生大量数据: 电源, 温度, 流量 … • 用户需要提供对资产性能, 可用性及成本管理的洞察和趋势
业务模型
传统方案
静态研究
需要了解被管理业务的逻辑拓扑，建立 通过监控工具获得性能数据，获得KPI数 据，更有效的性能管理需要结合动态性能基线来判 断业务偏离
望闻问切
将非结构化的业务系统的应用日志， 通过大数据技术进行高效收集、格式化、索 引、分析，将业务系统的应用性能状态准确、 及时的体现出来，并结合认知技术、逻辑算 法，实现故障的提前预警
File_Read_Operations/Sec File_Write_Operations/Sec Processor_Queue_Length System_Calls/Sec Processor_Queue_Length_Excess File_Control_Bytes/Sec_64 File_Read_Bytes/Sec_64 File_Write_Bytes/Sec_64 Total_Wait_Time Connection_Rate