数据治理及经验分享
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
看得见的
“数据与行业标准不一致 数据缺失
数据不准确
数据统计依靠手工, 效率低下
获取数据需要一一协调各 部门解决,耗时耗力
不同部门的数据统计
口径不一致
”
看不见的
数据管控组织 主数据管理 元数据管理 数据质量评估
光大证券
数据管控流程 数据管控制度 数据标准
数据治理的目标及工作思路
从解决当前的经营管理问题出发,分三步走,循序渐进,最终促进业务战略目标的实现
必要先行和重要基础
光大证券
数据标准的作用(续)
在统一认识的基础上,规范信息系统建设:数据内容不再完全是供应商说了算
数据标准化的业务属性
在业务方面,通过对业务 定义、属性、规则进行收 集、整理和规范,支持业 务管理的规范化;
数据标准化的技术属性
在技术方面,通过统一数 据定义,提高数据的一致 性,促进数据共享,提升 数据质量。
光大证券
切入点三:以促进业 务发展为最终目标
数据治理体系框架概况
1) 组织、流程、制度是基础保障;2)数据标准是治理对象;它们是数据价值体现 的基础
数据管控
基础
数据 组织 职责
数据控制与流程 数据生命周期 数据质量管理
数据管理绩效
数据 安全 管理
技术 支持
支持
企业数据模型
对象
支持
数据标准
元数据
主数据
一级部门
3 数据管理部
信息 技术 部
数
数
数
据
据
据
管
服
分
控
务
析
组
组
组
数据管理组织 (近期组建)
数据管理组织 (远期组建)
各业 务 部门
非数据管理组织 光大证券
1 建立数据管理委员会
由后台部门(合规部、风控部、审计 部)、中台部门(信息技术部、计财部、 运营部、数据管理部(拟建))以及相 关的业务部门领导组成
统一业务技术人员认识!
业务、科技间的共同语言
提高业务技术沟通效率!
提高业务需求质量!
什么是数据标准化? 什么是数据标准?
数据标准化是通过一整套的数据规范、管控流程和技术
工具来确保公司的各种重要信息,包括产品、客户、机构、 协议等在全公司内外的使用和交换都是一致、准确的
数据标准是一整套数据规范,它是开展数据标准化工作的
门商讨重大数据管理工作
务 部门
3 设立数据管理部为二级部门
与系统开发二级部并列 职能范围:近期业务涵盖数据管控、数
据服务,远期业务增加数据分析
数据管理组织 (近期组建)
数据管理组织 (远期组建)
非数据管理组织 光大证券
数据质量-流程和目标
数据质量包括事前的预防(数据标准)、事中监控(质量检查)、事后纠正(数据纠正)
光大证券
数据管控-跨部门分工协作
明确公司内各类主数据的负责部门,牵头全公司主数据管理,原则上,“谁的数据谁 负责”;“谁相关的数据,谁提供建议”
主数据分类 客户 产品 财务 人员 风险缓释 额度 机构
管理部门建议 机构业务部、零售业务 部、固定收益总部 发展规划部 机构业务部、零售业务 部、固定收益总部 人力资源部
光大证券
3. 营销服务
以大数据建模为核心 的专业数据分析应用
建立大数据应用机制与
用数模式,支持数据挖 掘类的分析应用。
数据价值-风险管理应用
通过数据应用,建立风险量化评估及报告体系,将风险偏好及限额管理有效落地
1 风险偏好体系
3 风险报告
2 风险量化体系
公司业务目标和 对风险的态度
风险容忍度
目
标
风
1.1 客户数据标准 1.2 产品数据标准 1.3 交易数据标准 1.4 渠道数据标准 1.5 财务数据标准 1.6 内部机构数据标准 1.7 协议数据标准 1.8 资产数据标准 1.9 营销数据标准 1.10 地址数据标准 1.11 公共代码 2.1 分析类指标定义框架 2.2 分析类指标分类体系 2.3 分析类指标维度体系
负责商讨并颁布公司统一的数据指标和 管理标准,同时负责制定公司数据架构 蓝图规划
2 设置首席数据官
负责数据管理组织日常工作的管理决策;
组织召开数据管理委员会议,协调各部 门商讨重大数据管理工作
3 设立数据管理部为一级部门
职能范围:近期业务涵盖数据管控、数 据服务,远期业务增加数据分析
数据管控-组织模式2
数据模型
促进
数据应用服务
应用
报表服务
应用服务
数据文件服务
支持
重点和难点
光大证券
数据管控-组织模式1
参照国际投行的管理模式,通过搭建企业级数据管理组织,构建以数据服务、数据管 控、数据分析为核心的业务体系,以数据为抓手推动公司战略目标的达成
董事会
经营管理层
1 数据管理委员会
2
总裁(CEO)
首席数据官 (CDO)
事前预防
事中监控
事后纠正
• 制定统一的数据标准 • 明确数据资产所有者 • 建立数据管控体系
• 数据质量分析 • 数据质量跟踪检验
• 数据质量缺陷管理流程
准确度 集成性 一致性 完整性 单一性 可访问 精确度 及时性
数据质量定量定性评估
数据是否准确地描述了事实? 应关联的数据之间是否存在断开的链接? 数据是否有单一的表现形式 是否有关键信息丢失? 数据值是否单一? 例如,无重复值或记录 数据是否易于访问、理解和使用? 数据是否按业务的精确度需求进行存储? 信息是否定期更新以满足业务需求?
们的风险控制造成了很大的困难。
光大证券
” ——信用业务部
常见的数据问题(金融领域)
金融数据数量较大,数据模型多样,数据分类标准不一、整合度低、子公司数据缺乏统 一管理平台等缺陷,为金融机构有效管理风险带来挑战。
监管要求 &
业界动向
BCBS239 Principles for effective risk data aggregation and risk reporting “有效风险数据归集和风险报告原则”
CBRC监管统计数据质量管理良好标准
金融机构纷纷加强对于数据管理的投入:加强数据治理,设立首席数 据官(CDO)
光大证券
数据“污水”治理
信息系统
数据治理
未 数完 水治 据成 ”理 流治 数的 !理 据“后 流污的 !水“”清
风险管理
…
营销服务
…
光大证券
管理决策
…
数据问题的冰山理论
看得见的问题是表象,看不见的问题是本质;解决了“本质”问题,表象问题也就不攻 自破了。数据问题的本质,是数据治理问题!
体验,围绕以客户为中心,提供全生命周期服务
…
管理决策
…
汇集公司数据,为公司经营管理层提供各类分析决策报表, 提升分析决策效率及准确性
推进综合经营与集团协同,帮助公司发挥混业经营优势
光大证券
数据价值的构建阶段
首先解决“生存”问题 – 风险管理应用;最终实现“发展”- 支持管理决策和营销服务
1. 风险管理
具有有效的取值
一致性
必须保证企业范围 内同一语义的数据 具有相同的表达方 式
完备性
不存在关键信息项 缺失的情况
光大证券
数据流
个人
机构
服务机构
资讯行情
交易端 …
委托、 社交数据
…
委托、 业绩数据
银行 …
…
成交、 清结算数据
信息系统
…
行情 资讯数据
风险管理
…
营销服务
…
光大证券
管理决策
…
常见的数据问题(自身)
由后台部门(合规部、风控部、审计 部)、中台部门(系统研发部、计财部、 运营部、系统运维部)以及相关的业务 部门领导组成
负责商讨并颁布公司统一的数据指标和 管理标准,同时负责制定公司数据架构 蓝图规划
2 设置首席信息官
负责数据管理组织日常工作的管理决策;
组织召开数据管理委员会议,协调各部
各业
通过搭建部门级数据管理组织,构建以数据服务、数据管控、数据分析为核心的业务 体系,以数据为抓手推动公司战略目标的达成
董事会
经营管理层
1 数据管理委员会
2
总裁(CEO)
首席信息官 (CIO)
一级部门
3 系统研发部
系统 运维
部
数据管理部
系
统
数数数
开 发 部
据据据 管服分 控务析
组组组
1 建立数据管理委员会
对于多来源的数据,由于缺乏集中统一的数据仓库以及数据核对和数据清洗的机制,导 致各类风险管理系统的取数来源不统一,阻碍统一风控平台系统的建设。
“ ” ——风险管理部 量化对冲基金从研究、业务实施、投资管理到绩效评估对数据的要求都比较高。未来这 部分业务将实现产品化,资金规模将增大,非常需要有良好的数据平台和系统平台支撑。 ——光大富尊
数据的价值
数据的应用价值,主要体现在1)风险管理 2) 经营决策 3) 营销服务
风险管理
…
整合前中后台数据,为全面风险管理提供支持,降低经营 风险,支持业务转型
加强业务合规性,落实各项监管要求,并同时提升监管自 动化报送效率
营销服务
通过客户数据共享、产品数据共享、统一账号等措施,打
通各部门存在的客户共享壁垒与交叉销售壁垒,提升客户
风险管理部
风险管理部
人力资源部/前台管理部
主数据管理相关部门主要工作: 明确参与部门与职责划分 建立主数据管理制度与工作流程 排查主数据需求,确认主数据管理范围 定义主数据匹配规则 统筹协调全公司日常主数据管理工作 推进相关数据系统的建设或改造
光大证券
数据标准的作用
统一认识,避免业务部门之间,与信息技术部门之间出现“鸡同鸭讲”的情况
建立风险管理指标体系:包括指标
标准,指标血缘,指标应用模式等。
建立风险数据统计模型:建立数据
统计模型及报表管理的框架,包括 相应的架构、流程和工作手册,指 导日常的管理和维护。
建立风险管理系统和数据平台:建
立配套的平台应用与管理功能。并 结合指标梳理结果,完善核心指标 展示范围。
风险数据运营和管理模式:建立完
业务管理
ቤተ መጻሕፍቲ ባይዱ
数据标准是 “桥梁”
• 来源于业务,服务于业务。 • 不是建设IT系统,而是规范IT系统建设。 • 关于业务和技术的一整套数据规范。 • 随着业务的发展变化,也会持续的完善和
更新。
光大证券
IT系统建设
数据标准体系
数据标准体系的内容包括基础类数据标准和指标类数据标准
数据标准体系
1. 基础类数据标准 2. 指标类数据标准
整的数据管控流程。
建设风险管理指标和配 套管理框架及应用平台
2. 管理决策
综合考虑不同业务需求,
完善和扩展已有的指标库 并在已有平台上实施,能 够支持金融机构管理层及 不同部门或主题的大部分 用数需求。
确保各类管理指标完善机
制和管理平台的平稳运行 和持续优化完善。
将数据应用支持范围 和深度进行扩大完善
险
市场 风险 限额
信用 风险 限额
其他 风险 限额
状 况
业务1 限额
业务2 限额
业务3 限额
业务N 限额
监控、比对
日报,季报
主动管理
光大证券
公司风险总量
实
际
风
险
市场
信用
其他
状
风险
风险
风险
况
总量
总量
总量
业务1 风险
业务2 风险
业务3 风险
业务N 风险
数据价值实现的基础
我们需要类别完整 和 高质量的数据;低质量和不完整的数据,只能带来错误的决策
对于多来源的数据,风险管理部需要对接各个部门的系统,取数和核数都由手工操作, 工作量大数据准确性问题严重,影响市场风险和流动性风险管理工作进行。
“ ” ——风险管理部 信用业务要求大量的实时数据,例如在确定授信额度的时候,需要实时数据,差几个小
时的数据都可能不准确,决策时有困难,甚至可能违反监管要求。现在数据不及时对我
数据范围
参与人: 客户、员工、分支机构 产品: 产品信息、资讯、行情 合约: 行为、交易、授信额度 业务方向: 风险缓释 、财务
对目标数据和源 数据之间误差的 判断及管理
能够及时满足系 统的访问需求
准确性 时效性
对某一数据结构
或数据模型的具
体数据项的参照 完整性
完整性的考察
数据 质量
数据以合适的格
有效性 式被存储,并且
通过调研,发现数据问题主要包括
完整性 一致性 准确性 及时性
“ 创新业务和衍生品业务的风险管理方面,国内系统对复杂产品的支持还不达标, 数据没
有集中进入数据中心,难以获取,另外部分数据未落地,难以采集,不利于对此类业务
进行风险管理。
——风险管理部
“ ” 恒生投资交易系统业务数据分散在部门各个系统中,无法集中获取。希望公司未来建立 的数据中心可以对接不同系统,将各业务部门的数据统一入仓和管理,确保系统架构和 业务数据的一体化。 ——金融市场总部
目标一:解决当前存 在的影响业务运营、 风险管理等问题
切入点一:已解决现 实问题为切入点
逐
步 提 升
目标二:建立完善的 管理体系;形成数据 管理文化提高管理效 率和管理质量
数据管理 数据管理 目标 工作思路
切入点二:以规 划为主线
目标三:为应用更为 先进的数据应用技术 奠定基础,让数据成 为在行业竞争中的利 器
经验教训
是对数据可用性的提升,而非追求“完美”,不 是为了管理而管理
数据质量问题,是业务和技术部门的共同问题, 需要共同参与解决
数据质量的提升是一个长期持续的过程,其提升 效果会在实施过程中逐步体现,即“利在未来”!
数据质量问题不仅是事后的纠正,即“治污”, 更需要在源头预防,即“防污”- 源头控标准