Oracle Goldengate数据复制产品解决方案介绍

合集下载

oralce 企业数据集成(goldengate)解决方案

oralce 企业数据集成(goldengate)解决方案

Previous Version
New Version
OGG
原有DB版本 新DB版本
收益:
• 标准化部署数据中心,先进的数据部署平台 • 关键业务的零停机 • 安全的从一个系统迁移到另一系统, 迁移时保持业 务运行.
12
持续高可靠
数据分布/ 同步
解决方案:
Oracle 9i Oracle 11g
• 分布式应用的数据复制,实现数据的全局控制以及提升 操作效率 • 异构环境的分布式数据实时访问 • Active-Active配置保持多数据中心数据同步
多级复制 层次化企业数据
异构平台支持
Databases
Oracle GoldenGate Capture:

O/S and Platforms
Linux

Oracle DB2 Microsoft SQL Server 2008 Sybase ASE Teradata Enscribe SQL/MP SQL/MX 新 JMS message queues
Oracle 企业集成数据(GoldenGate)解决方案
芦克强 高级技术顾问
持续访问实时数据
降低IT成本和提高运行效率
持续业务
操作
关键应用的持续高可靠
•避免 灾难发生时的业务停止 • 消除计划当机时间 • 负载均衡
实时信息访问 •秒级的数据操作访问 • 及时的信息分析 • 分布式数据访问
降低IT花费 & 提高效能
Sun Solaris Windows 2000, 2003, XP
HP NonStop
HP-UX HP TRU64 HP OpenVMS IBM AIX IBM z/OS IBM iSeries

Oracle数据复制产品GoldenGate解决方案介绍

Oracle数据复制产品GoldenGate解决方案介绍



Data can be transformed between dissimilar database tables
Mapping can be applied either when extracting or replicating data
This example uses special values to build history of operations data
GoldenGate提供异构环境下交易数据的实时捕捉、转换、投 递。
TDM 具有 : 实时性
秒一级延迟
特性: 高性能
能够以低资源消耗完成每秒数千交易的复制

异构环境支持
在不同平台和数据库环境下复制数据

可扩展
开的结构使客户适应各种异构数据平台

以事务为单位复制
维护交易一致性

可靠性
保证数据的连续可用
– 可以自定义基于表和行的过滤规则. – 可以对实时数据执行灵活映射和转换.
• 提供数据压缩和加密
– 降低传输所需带宽,提高传输安全性.
Oracle GoldenGate 组件
Communications and Startup
GGSCI
Interactive Interface
Manager
GGSCI Manager
Interactive Interface
Network
Source Database
Capture
Source Trail
Pump
Collector
Target Trail
Delivery
Target Database
Source

enable_goldengate_replication作用

enable_goldengate_replication作用

enable_goldengate_replication作用引言概述:在数据库管理中,启用GoldenGate复制是一项重要的任务。

GoldenGate是一种高性能的数据复制和数据集成解决方案,它能够实时地从源数据库复制数据到目标数据库,保证数据的一致性和可靠性。

本文将详细介绍enable_goldengate_replication的作用,并从六个大点来阐述其具体内容。

正文内容:1. 提供实时数据复制:1.1 GoldenGate复制技术可以实现实时数据复制,确保源数据库和目标数据库之间的数据保持同步。

1.2 通过enable_goldengate_replication,可以启用GoldenGate复制,并配置源数据库和目标数据库之间的连接。

1.3 实时数据复制可以保证数据的一致性,使得目标数据库中的数据与源数据库中的数据保持同步。

2. 支持高可用性和灾备:2.1 enable_goldengate_replication可以将源数据库的数据复制到多个目标数据库,以实现高可用性和灾备。

2.2 当源数据库发生故障时,可以快速切换到目标数据库,确保业务的连续性。

2.3 GoldenGate复制技术具有高可靠性,即使在网络故障或其他异常情况下,也能够保证数据的完整性和一致性。

3. 支持数据集成和数据分发:中,实现数据的集中管理和统一分发。

3.2 可以根据需求选择性地复制特定的数据表或数据列,提高数据集成的灵活性和效率。

3.3 GoldenGate复制技术支持多种数据格式和数据类型,可以实现异构数据库之间的数据集成和分发。

4. 提供实时数据分析:4.1 通过enable_goldengate_replication,可以将源数据库中的数据实时复制到目标数据库,以供实时数据分析和报表生成。

4.2 实时数据分析可以帮助企业及时了解市场动态和业务趋势,支持决策的快速响应。

4.3 GoldenGate复制技术具有低延迟和高性能的特点,可以满足实时数据分析的需求。

GoldenGate产品介绍和案例

GoldenGate产品介绍和案例

Oracle GoldenGate 产品介绍一、Oracle GoldenGate技术原理Oracle GoldenGate软件是一种基于log(日志)的结构化数据复制软件,它通过解析源数据库在线log或归档log获得数据的增、删、改变化,再将这些变化应用到目标数据库,实现源数据库与目标数据库同步、双活。

Oracle GoldenGate 软件可以在异构的IT基础结构(包括几乎所有常用操作系统平台和数据库平台)之间实现大量数据亚秒级的实时复制,其复制过程简图如下:如上图所示,Oracle GoldenGate的数据复制过程如下:利用捕捉进程(Capture Process)在源系统端读取Online Redo Log或Archive Log,然后进行解析,只提取其中数据的变化如增、删、改操作,并将相关信息转换为Oracle GoldenGate自定义的中间格式存放在队列文件中。

再利用传送进程将队列文件通过TCP/IP传送到目标系统。

捕捉进程在每次读完log中的数据变化并在数据传送到目标系统后,会写检查点,记录当前完成捕捉的log位置,检查点的存在可以使捕捉进程在中止并恢复后可从检查点位置继续复制;目标系统接受数据变化并缓存到Oracle GoldenGate队列当中,队列为一系列临时存储数据变化的文件,等待投递进程读取数据。

队列数据量一般只有log的四分之一左右;Oracle GoldenGate投递进程从队列中读取数据变化并创建对应的SQL 语句,通过数据库的本地接口执行,提交到数据库成功后更新自己的检查点,记录已经完成复制的位置,数据的复制过程最终完成。

由此可见,Oracle GoldenGate是一种基于软件的数据复制方式,它从数据库的log解析数据的变化。

Oracle GoldenGate将数据变化转化为自己的格式,直接通过TCP/IP网络传输,无需依赖于数据库自身的传递方式,而且可以通过高达9:1的压缩率对数据进行压缩,可以大大降低带宽需求。

goldengate 参数

goldengate 参数

goldengate 参数GoldenGate是一种常用的数据复制和数据集成解决方案,可以在异构数据库之间实现高性能、实时的数据复制和数据同步。

本文将介绍GoldenGate的基本概念、主要特点以及使用场景。

一、GoldenGate的基本概念1. 数据复制:GoldenGate可以将源数据库中的数据复制到一个或多个目标数据库中,实现数据的实时同步。

2. 数据集成:GoldenGate可以将来自不同数据库的数据集成到一个目标数据库中,实现数据的统一管理。

3. 事务复制:GoldenGate可以将源数据库中的事务操作记录下来,并在目标数据库上重新执行,从而实现数据的一致性复制。

4. 实时性:GoldenGate可以实时地捕获源数据库中的数据变更,并将其应用到目标数据库中,实现数据的实时同步。

5. 高可用性:GoldenGate具有高可用性,当源数据库或目标数据库出现故障时,可以自动切换到备用数据库,确保数据的连续性。

二、GoldenGate的主要特点1. 支持多种数据库:GoldenGate可以支持多种主流的数据库,包括Oracle、MySQL、SQL Server等,具有良好的兼容性。

2. 高性能:GoldenGate采用了基于日志的数据复制机制,能够以非常高的性能进行数据复制和数据同步。

3. 实时同步:GoldenGate具有实时同步的能力,可以在毫秒级别将源数据库中的数据变更应用到目标数据库中。

4. 灵活配置:GoldenGate提供了丰富的配置选项,可以根据实际需求进行灵活配置,满足各种复杂的数据复制和数据集成需求。

5. 数据过滤:GoldenGate可以对复制的数据进行过滤,可以选择复制部分表或者部分列,减少网络传输和存储开销。

6. 数据转换:GoldenGate可以对复制的数据进行转换,可以进行数据格式的转换、数据字段的映射等,满足不同数据库之间的数据兼容性需求。

三、GoldenGate的使用场景1. 数据备份与恢复:GoldenGate可以将源数据库中的数据实时备份到一个或多个目标数据库中,当源数据库出现故障时可以快速切换到目标数据库,实现数据的快速恢复。

OracleGoldenGate介绍与实施

OracleGoldenGate介绍与实施

OracleGoldenGate介绍与实施Oracle GoldenGate是一种高性能、实时数据复制和数据集成软件,可在异构数据库、主机和平台之间实现高效的实时数据复制和同步。

GoldenGate可以在源和目标系统之间进行数据抽取、传输和应用,并提供高可用性、可伸缩性和数据一致性。

1. 高性能:GoldenGate使用轻量级的事务日志挖掘技术,可以在几乎没有对源系统的影响下进行实时数据复制。

2. 实时数据复制:GoldenGate可以在源数据库上监控日志,并将变更应用到目标数据库中,实现实时的数据同步。

3. 异构数据库支持:GoldenGate可以支持多种数据库平台,包括Oracle、Microsoft SQL Server、IBM DB2等。

4. 数据过滤和转换:GoldenGate可以根据用户的需求,在数据复制过程中进行数据过滤和转换,以满足不同系统的数据需求。

5. 可伸缩性和高可用性:GoldenGate可以通过添加副本和增加传输通道来实现灵活的扩展。

同时,GoldenGate还提供了故障转移和冗余配置,确保数据复制的连续性和可用性。

6. 实时监控和管理:GoldenGate提供了一套监控和管理工具,可以用于实时监控数据复制的状态、性能和健康状况,并提供了故障排除和性能优化的功能。

在实施Oracle GoldenGate时,可以按照以下步骤进行:1. 环境准备:在实施GoldenGate之前,需要准备好源和目标数据库的环境。

这包括安装并配置GoldenGate软件、创建必要的用户和权限、设置数据库参数等。

2. 配置和启动GoldenGate:在源和目标数据库上配置GoldenGate的参数文件,并使用GoldenGate提供的管理工具启动GoldenGate进程。

3. 创建抽取进程:通过GoldenGate的管理工具创建抽取进程,用于在源数据库上监控日志,并将变更写入GoldenGate的抽取文件。

GoldenGate多对一复制解决方案

GoldenGate多对一复制解决方案

目录1多对一复制方案简介 (2)2多对一复制方案实现过程 (2)2.1同步表说明 (2)2.2用户配置 (3)2.2.1同步用户 (3)2.2.2源数据库用户 (3)2.2.3目标数据库用户 (3)2.3源数据库1配置 (3)2.3.1增加Primary Extract (3)2.3.2增加Pump Extract (4)2.3.3检查启动状态 (4)2.4源数据库2配置 (5)2.4.1增加Primary Extract (5)2.4.2增加Pump Extract (5)2.4.3检查启动状态 (6)2.5目标数据库配置 (6)2.5.1增加数据源1的Replicat (6)2.5.2增加数据源2的Replicat (7)2.5.3检查启动状态 (7)3测试 (7)1 多对一复制方案简介多对一复制方案适用于从多个数据源向一个目标数据库进行数据汇总,如下图所示:在GoldenGate中实现多对一方式和一对一方式类似,在目标数据库建立多个Replicate,分别对应不同的数据源即可。

在建立Replicat时,需使用不同的Trail id,以区分不同的数据源发过来的Trail。

对于多对一的方式,客户应用程序应保证不同的数据源的向目标传送的数据是不同的,否则将在目标端引发数据冲突。

多对一复制方案可应用于客户有特定复制需求的业务场景,具体实现过程见下面的描述。

2 多对一复制方案实现过程2.1 同步表说明本文以“TCUSTMER”表作为同步的数据库表。

建表脚本如下:CREATE TABLE tcustmer(cust_code VARCHAR2(4),name VARCHAR2(30),city VARCHAR2(20),state CHAR(2),PRIMARY KEY (cust_code)USING INDEX);2.2 用户配置2.2.1 同步用户该用户用于在GoldenGate中将源数据库中的数据同步到目标数据库,该用户必须能够访问源数据库用户和目标数据库用户下面的所有数据。

GoldenGate产品介绍

GoldenGate产品介绍

GoldenGate软件在数据复制方面应用的技术特点目录1GoldenGate 软件在数据复制方面应用的技术特点 (3)1.1卓越的性能 (3)1.1.1大交易量数据复制 (3)1.1.2极低的时延 (3)1.1.3对生产端影响小 (4)1.1.4最低的网络带宽占用 (4)1.2高可靠性 (4)1.2.1可靠的数据复制机制 (4)1.2.2健壮的复制环境 (5)1.2.3自动的异常恢复能力 (5)1.3优秀的兼容性和可扩展性 (5)1.3.1兼容多种软硬件平台以及数据库平台 (5)1.3.2支持异构环境间的数据复制 (6)1.3.3灵活的多种复制模式便于扩展 (7)1.4良好的可维护性 (7)1.4.1安装与部署简便无需停机 (7)1.4.2基于时间点的复制可实现快速恢复 (8)1.4.3方便易用的管理工具 (8)1.5广泛的用户基础 (9)2总结 (9)附录 (10)GoldenGate产品介绍 (10)GoldenGate复制模式 (11)GoldenGate关键特性 (14)GoldenGate用途及应用方式 (15)附录二 GoldenGate成功案例 (17)案例一美国银行 (17)案例二国家体育总局体彩中心 (20)案例三海关总署 (23)1GoldenGate 软件在数据复制方面应用的技术特点基于GoldenGate的数据复制方案,能够在异构环境下有效保护用户业务数据安全和业务连续性,并且具有高性能、高可靠性、高可扩展性。

其主要特点如下:1.1 卓越的性能GoldenGate 软件能够在活动的生产端及目标端进行数据复制,秒一级的数据延迟,大交易量的数据复制,能在很大程度上确保两端数据的同步性及一致性。

1.1.1大交易量数据复制GoldenGate是一种能够支持大交易量数据复制的软件。

它通过实时解析数据库在线日志,捕获其中的数据变化予以复制;再通过数据压缩、缓存和网络优化等手段有效利用网络,降低传输时间;通过交易重组、操作合并、并行处理等机制加速数据在目标端的投递,从而保证了对大交易量实时复制的实现。

oracle ogg详解

oracle ogg详解

oracle ogg详解Oracle GoldenGate (OGG) 是Oracle公司开发的一款高性能的实时数据复制与数据同步工具。

它能够在不同的数据库之间实现数据的实时复制与同步,确保数据的一致性和可靠性。

本文将详细介绍Oracle GoldenGate的原理、特点、使用场景以及一些常见的问题和解决方案。

一、Oracle GoldenGate的原理Oracle GoldenGate的原理可以简单概括为:先抓取源数据库中的数据变更,将其记录为日志,然后通过网络传输这些日志,最后在目标数据库中重新应用这些变更,实现数据的实时复制与同步。

具体的步骤如下:1. 捕获源数据库中的数据变更:Oracle GoldenGate通过挂载在源数据库上的提供商或通过数据库日志挖掘技术,捕获所有的数据变更操作,例如插入、更新、删除等。

2. 将数据变更记录为日志:GoldenGate将源数据库中的数据变更操作记录为一组序列化的日志记录,以便在接下来的步骤中进行传输与应用。

3. 传输日志:GoldenGate使用高效的网络传输协议,将记录的日志从源数据库传输到目标数据库。

4. 应用数据变更:在目标数据库中,GoldenGate根据日志记录的顺序重新应用这些数据变更,确保目标数据库与源数据库的数据保持一致。

二、Oracle GoldenGate的特点1. 高性能:Oracle GoldenGate具有高度优化的数据捕获、传输和应用机制,能够实现实时数据的传输与同步,保证数据的实时性和准确性。

它采用基于日志的增量复制方式,避免了全量数据复制的高开销。

2. 异构性:Oracle GoldenGate支持在不同的数据库平台之间实现数据的实时复制与同步,如Oracle、DB2、SQL Server等。

这使得企业可以根据实际需求选择最适合自己的数据库平台,而不用担心数据的迁移和同步问题。

3. 灵活性:Oracle GoldenGate支持灵活的数据过滤和转换功能,可以根据需求选择复制和同步的特定表、特定列或特定行。

OGG方案介绍

OGG方案介绍

OGG方案介绍OGG(Oracle GoldenGate)是一种高性能、实时数据复制和数据集成软件,广泛应用于企业数据库系统中。

它通过捕获数据库的变更数据,实现了源数据库与目标数据库之间的实时数据同步,同时还提供了数据转换、数据过滤、数据路由等功能。

本文将介绍OGG方案的基本原理、优势以及应用场景。

一、OGG方案的基本原理OGG方案的基本原理包括三个关键步骤:抓取变更数据、传输变更数据、应用变更数据。

具体步骤如下:1. 抓取变更数据:OGG通过在源数据库中安装OGG抓取进程,监控源数据库日志,并将变更数据以日志形式记录下来。

2. 传输变更数据:抓取进程将记录的变更数据发送给OGG传输进程,传输进程负责将数据传输到目标数据库。

3. 应用变更数据:目标数据库中的OGG应用进程接收传输进程发送的变更数据,并将其应用到目标数据库中。

通过以上三个步骤,OGG实现了源数据库与目标数据库之间的实时数据同步,保持了数据的一致性和准确性。

二、OGG方案的优势OGG方案相比传统数据复制方案具有以下优势:1. 高性能:OGG采用了先进的数据捕获和传输技术,实现了高性能的数据同步,能够满足大规模数据复制的需求。

2. 实时性:由于OGG是基于日志的复制技术,可以几乎实时地捕获和传输变更数据,实现了源数据库与目标数据库之间的实时数据同步。

3. 灵活性:OGG提供了灵活的数据转换和数据过滤功能,可以根据需求选择传输特定的数据,减少了网络带宽的占用。

4. 可靠性:OGG具备数据冗余和容错机制,即使发生网络中断或其他故障,也能够自动从故障点继续复制数据,保证了数据的可靠性。

三、OGG方案的应用场景OGG方案广泛应用于以下场景:1. 数据异地备份:通过OGG方案将源数据库的变更数据实时复制到远程备份数据库中,保障数据的持久性和安全性。

2. 数据迁移和版本升级:在数据库迁移和版本升级过程中,可以使用OGG方案将源数据库的数据复制到新的目标数据库中,保证数据的无缝迁移。

Oracle GoldenGate 产品介绍

Oracle GoldenGate 产品介绍

Oracle GoldenGate 产品介绍GoldenGate软件提供了一个单一的平台,这个平台可以为任何企业环境实现秒一级的灾难备份。

GoldenGate是一种基于于日志的结构化数据复制方式,它通过解析源数据库在线日志或归档日志获得数据的增删改变化(数据量只有日志的四分之一左右),再将这些变化应用到目标数据库,实现源数据库与目标数据库同步、双活。

Dataguard只适用于Oracle数据库,而GoldenGate可以使用几乎所有平台上的主流数据库。

1.1.Oracle GoldenGate为了解决数据复制、数据容灾等需求场景,使用Oracle 公司的GoldenGate 软件,该软件提供了事务数据管理(TDM)平台,用于持续性的在电子客票系统和灾备系统之间传递大量事务数据,并确保投递速度快,事务完整,系统整体开销影响小。

采用GoldenGate的数据复制技术,实现数据实时备份,确保核心数据的安全,同时避免引入过多种类的软硬件产品,降低了运营维护的复杂度和投入,有利于灾备系统的恢复和切换。

1.1.1.GoldenGate特点1.1.1.1.实时性随着一个新事务在数据源端产生,数据马上被捕获,转换(如果有必要),并且在极短时间内被传送给目标端系统1.1.1.2.持续可用性GoldenGate工作不需要专门的时间窗口或者系统中断,它的架构可以保证即使遇到计划或非计划断电也不会影响可用性。

1.1.1.3.异构支持只要源和目标端都是主流数据库,主流平台,即使在在异构环境下,也可以使用TDM进行系统间数据复制,这就确保了IT部门的灵活性。

1.1.1.4.高性能,低影响GoldenGate能够支持每秒数千的事务交易,同时对源系统和目标系统仅仅有极小的性能影响。

1.1.1.5.事务一致性尽管事务是在源和目的两个不同的系统之间传递的,GoldenGate依然可以确保其参照完整性和事务一致性。

1.1.2.GoldenGate 高可用和容灾GoldenGate 高可用和容灾解决方案消除计划外和计划内停机时间,同时提高性能和可伸缩性,满足数据和使用量激增需求。

oracle ogg详解 -回复

oracle ogg详解 -回复

oracle ogg详解-回复Oracle GoldenGate(OGG)是一种高性能数据复制和数据集成解决方案,被广泛应用于数据同步、数据迁移、数据复制和高可用性方案中。

本文将介绍OGG的核心概念、架构、使用场景以及一些常见问题。

一、什么是Oracle GoldenGate?Oracle GoldenGate是一种基于日志挖掘和应用的数据复制技术,可以实时捕获源数据系统的变更,并将变更应用到目标系统。

由于其高性能和可靠性,OGG被许多企业广泛采用。

二、Oracle GoldenGate架构OGG的架构包括以下组件:1. 抓取进程(Extract):该进程从源数据库的事务日志(如归档日志或在线日志)中抓取变更数据,并将其转换为OGG可识别的格式。

2. 传输进程(Replicate):该进程接收抓取进程发送的变更数据,并将其传输到目标系统。

3. 应用进程(Apply):该进程接收传输进程发送的变更数据,并应用到目标系统。

在OGG的架构中,可以存在多个抓取进程、传输进程和应用进程,以实现高可用性和负载均衡。

三、Oracle GoldenGate的使用场景OGG可以在各种场景中使用,包括:1. 数据复制和备份:OGG可以将源数据库的数据复制到目标数据库,用于备份或数据分析或报表生成。

2. 数据同步和迁移:OGG可以实时同步不同数据库之间的数据,以保持数据的一致性。

同时,OGG也可以用于数据库迁移,将数据从一个数据库迁移到另一个数据库。

3. 集成系统:OGG可以将多个源数据库的数据集成到一个目标数据库中,以便进行统一的查询和分析。

4. 高可用性和灾备:OGG可以在主从架构中使用,以实现高可用性和灾备。

当主数据库发生故障时,可以快速切换到备用数据库。

四、Oracle GoldenGate常见问题1. Q: OGG支持哪些数据库产品?A: OGG目前支持Oracle数据库、MySQL、Microsoft SQL Server等主流数据库产品。

oracle ogg方案

oracle ogg方案

oracle ogg方案Oracle GoldenGate(简称OGG)是一种实时数据复制和数据集成解决方案,可以应用于Oracle数据库环境中。

OGG方案基于异构数据库之间的数据同步和数据传输,具有高性能、高可用性和高灵活性的特点。

本文将介绍OGG方案的原理、主要功能和应用场景。

一、OGG方案的原理OGG方案基于异构数据库之间的数据同步和数据传输。

它使用了一种轻量级的、基于日志的数据抽取和传输技术,可以实时捕捉源数据库的变更,并将这些变更应用到目标数据库中。

这种基于日志的抽取和应用方式减少了对源数据库的负载和影响,并且实现了高性能的数据同步和数据传输。

二、OGG方案的主要功能1. 数据实时复制:OGG方案可以实时捕捉源数据库的变更,包括插入、更新、删除等操作,并将这些变更实时地应用到目标数据库中,从而实现数据的实时复制。

2. 数据过滤和转换:OGG方案可以通过配置过滤条件和转换规则,实现对数据的灵活过滤和转换。

可以根据具体需求对数据进行选择性复制,也可以对数据进行格式转换、编码转换和字段映射等操作。

3. 数据一致性保证:OGG方案通过事务的原子性和一致性保证,确保源数据库和目标数据库之间的数据一致性。

同时,OGG方案还提供了冲突检测和解决机制,可以处理由于并发操作引起的数据冲突。

4. 高可用性和容灾性:OGG方案支持多种高可用性和容灾性的配置方式。

可以配置双向复制,实现源数据库和目标数据库之间的数据双向同步。

还可以配置多个目标数据库,实现数据的多点复制和容灾备份。

5. 实时监控和管理:OGG方案提供了实时监控和管理功能,可以对数据同步和数据传输的状态进行实时监控和管理。

通过OGG的监控界面,管理员可以查看数据同步的进度、数据处理的状态和错误信息等。

三、OGG方案的应用场景1. 数据实时复制和同步:OGG方案可以应用于数据实时复制和同步的场景。

例如,在金融机构的核心业务系统中,需要实时将交易数据从主数据库复制到备份数据库,以实现数据的热备份和容灾备份。

Oracle Goldengate数据复制产品解决方案介绍

Oracle Goldengate数据复制产品解决方案介绍

Oracle GoldenGate介绍
• GoldenGate TDM 可以提供可靠的数据复制,主要体现在下面三点: • 保证事务一致性 • GoldenGate TDM 在灾备数据库应用复制数据库交易的顺序与在生产中 心数据库上的顺序相同,并且按照相同的事务环境提交,确保在目标 系统上数据的完整性和读一致性,为实时查询和事务处理创造了条件。 • 检查点机制保障数据无丢失 • GoldenGate TDM的抽取和复制进程使用检查点机制记录完成复制的位 置。对于抽取进程,其检查点记录当前已经抽取日志的位置和写队列 文件的位置;对于投递进程,其检查点记录当前读取队列文件的位置。 检查点机制可以保证在系统、网络或GoldenGate TDM进程故障重启后 数据无丢失。 • 可靠的数据传输机制 • GoldenGate TDM 用应答机制传输交易数据,只有在得到确认消息后才 认为数据传输完成,否则将自动重新传输数据,从而保证了抽取出的 所有数据都能发送到备份端。数据传输过程中支持128位加密和数据 压缩功能。
GoldenGate工作原理简介-几个进程介绍
1. Manager管理进程在两端控制开启,监控和重启其 他进程;分配数据存储和报告错误及事件。 2. Extract进程从日志中抓取并传输到target端事务 数据 3. Server Collector进程在target端接受数据并写 入trail文件 4. Replicat进程读取trail文件,并且应用到target database。 5. trail文件是gg自己存储抓捕信息的文件,是一个 os文件,存放在./dirdat/下,以xx00000n 命名, n顺序1,2,3.。。。此文件应用完后可配置参数 自动删除。
议程
• • • • GoldenGate整体介绍 GoldenGate工作原理简介 配置Oracle GoldenGate GoldenGate优势和对比

oracle ogg数据同步原理

oracle ogg数据同步原理

oracle ogg数据同步原理Oracle GoldenGate(简称OGG)是Oracle公司推出的一种高性能、实时数据复制和数据同步解决方案。

它通过将源数据库的变更记录应用到目标数据库,实现了从源数据库到目标数据库的数据同步。

下面将详细介绍Oracle GoldenGate的数据同步原理。

1. 概述Oracle GoldenGate基于日志挖掘技术,通过解析数据库的事务日志来捕获源数据库的变更操作,然后将这些变更操作应用到目标数据库,实现源数据库和目标数据库之间的数据同步。

OGG支持多种数据库,包括Oracle数据库、MySQL、DB2等。

2. 数据捕获OGG通过解析数据库的事务日志来捕获源数据库的变更操作。

在Oracle数据库中,日志挖掘主要依赖于两种日志:归档日志(Archive Log)和在线重做日志(Online Redo Log)。

归档日志是数据库发生变更后写入磁盘的日志文件,而在线重做日志是数据库在发生变更时写入内存的临时日志。

3. 数据解析一旦源数据库的变更操作被捕获,OGG将对这些操作进行解析。

解析的过程包括事务的分割、数据的解析和元数据的提取。

事务的分割是将连续的变更操作划分为一个个独立的事务,以保证在目标数据库的应用过程中事务的完整性。

数据的解析是将捕获到的二进制日志转换为可读的SQL语句,以便在目标数据库中执行。

元数据的提取是将与数据变更相关的元数据(如表名、列名、数据类型等)提取出来,以便在目标数据库中进行相应的操作。

4. 数据传输解析后的数据将通过网络传输到目标数据库。

OGG使用高效的网络传输协议,如TCP/IP,以保证数据的快速传输和可靠性。

此外,OGG还支持数据压缩和加密等技术,以提高数据传输的效率和安全性。

5. 数据应用在目标数据库中,OGG将解析后的数据应用到相应的表中。

应用的过程包括事务的应用和数据的应用。

事务的应用是将解析后的事务按照顺序应用到目标数据库中,以保证数据的一致性。

oracle goldengate原理

oracle goldengate原理

Oracle GoldenGate原理一、概述1.1 任务目标本文将介绍Oracle GoldenGate的原理,包括其背景、基本概念、工作原理、主要功能和优势等方面内容,帮助读者全面了解GoldenGate的原理及其在实际应用中的作用。

1.2 背景介绍Oracle GoldenGate是一种用于实时数据复制和数据集成的软件解决方案。

它可以在不影响源系统性能的情况下,实时、准确地将数据从一个数据库复制到另一个数据库,实现数据的实时同步和一致性。

二、基本概念2.1 数据复制数据复制是指将一个数据库中的数据复制到另一个数据库中,保持两个数据库的数据一致性。

Oracle GoldenGate通过捕获源数据库的变更日志,并将这些变更应用到目标数据库,实现数据的同步复制。

2.2 数据集成数据集成是指将不同数据库系统中的数据进行整合,实现数据的共享和交换。

Oracle GoldenGate可以支持不同数据库之间的数据集成,并保持数据的一致性和准确性。

三、工作原理3.1 抽取进程抽取进程主要负责从源数据库中抓取变更数据,并将其写入到Oracle GoldenGate 的远程抽取日志(Extract Trail)中。

抽取进程采用了低影响的捕获方式,可以实时捕获源数据库的变更,而不影响源数据库的正常运行。

3.2 传输进程传输进程用于将抽取进程生成的远程抽取日志传输到目标系统。

传输进程可以通过多种传输方式进行数据传递,如TCP/IP、HTTP、FTP等。

传输进程还可以根据需要对数据进行压缩、加密等操作,确保数据的安全性和可靠性。

3.3 应用进程应用进程负责将从源数据库中抓取到的变更数据应用到目标数据库中,实现数据的同步复制。

应用进程将远程抽取日志中的变更数据按照顺序进行应用,确保目标数据库与源数据库的数据保持一致。

3.4 冲突检测与解决在数据复制和数据集成过程中,可能会出现冲突情况,即源数据库和目标数据库同时对同一数据进行了修改。

goldengate克隆技术原理

goldengate克隆技术原理

goldengate克隆技术原理GoldenGate克隆技术原理介绍GoldenGate克隆技术是一种先进的数据复制和实时数据集成解决方案,被广泛应用于数据库和数据仓库的克隆、迁移、高可用和实时数据集成等领域。

本文将从浅入深,逐步解释GoldenGate克隆技术的原理。

原理GoldenGate克隆技术的原理可以简单概括为以下几个步骤:1.源端捕获:GoldenGate的捕获进程会监视源端数据库的日志文件,实时抓取并解析变更的数据。

2.数据转换:捕获到的数据会被GoldenGate进行格式转换,以确保适配目标端数据库的格式和结构。

3.数据传输:转换后的数据会通过网络传输到目标端,并由传输进程负责确保可靠且高效的传输。

4.数据应用:目标端的进程将接收到的数据应用到目标端数据库,确保数据在两端的一致性。

详细解释下面将对每个步骤进行详细解释:源端捕获GoldenGate通过实时监视源端的日志文件,可以捕获到源端数据库中的各种变更操作,包括插入、更新和删除等。

这个捕获的过程是非侵入性的,不会对源端数据库的性能造成影响。

数据转换捕获到的数据并不是直接复制到目标端数据库,而是经过GoldenGate的数据转换进程进行格式转换。

这个过程包括对数据的解析、映射和转换等操作,以确保源端和目标端数据库的数据格式和结构一致。

数据传输经过数据转换的数据会通过网络传输到目标端。

GoldenGate的传输进程负责确保数据的可靠传输,包括数据压缩、流量控制和错误处理等。

传输过程采用高效的网络协议,可以在保证数据安全的同时,提供较低的传输延迟。

数据应用目标端的进程会接收到传输过来的数据,并将这些数据应用到目标端的数据库中。

应用过程包括对数据进行事务管理、冲突检测和应用等操作,以确保目标端数据库与源端数据库的一致性。

结论GoldenGate克隆技术通过源端捕获、数据转换、数据传输和数据应用等步骤,实现了高效、可靠的数据库复制和实时数据集成。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
• 定义gg trail • GGSCI> ADD RMTTRAIL ./dirdat/tt, EXTRACT EPMPtt,MEGABYTES 5 • 告诉其远端trail文件地点 • 启动data pump capture process • GGSCI> START EXTRACT EIEXtt • GGSCI> START EXTRACT EPMPtt
配置Oracle GoldenGate-启动mgr服务
• 在源端和target端分别 • GGSCI> EDIT PARAMS MGR • 填入mgr的相关参数,这些参数可以控制gg 的一些属性 比如mgr进程是否自动启动, 是否启动自动删除过期trail等 最重要的 是port参数 是控制源连接目标 pump进程 传递目标gg的端口。这里我们在源端设置 port为7809 ,target端为7841
配置Oracle GoldenGate-配置复制进程
• 在目标端的全局文件中添加checkpoint表,用来实 现一致性的 • GGSCI> EDIT PARAMS ./GLOBALS
• GGSCI> DBLOGIN USERID yytarget, PASSWORD yytarget • GGSCI> ADD CHECKPOINTTABLE
GoldenGate的定位
• GoldenGate 可以满足用户针对实时数据的需 求 • 可持续的数据高可用性和实时商务智能 • 跨越多种异构数据库和操作系统实现实时数 据同步 • 对源系统是非侵入式的 • GoldenGate在实时数据市场是全球一流的产品 • 在提供关键业务高可用性方面是公认的领导 者 • 财富500强企业很多用户采用Golden Gate
Oracle GoldenGate介绍
• GoldenGate TDM 可以提供可靠的数据复制,主要体现在下面三点: • 保证事务一致性 • GoldenGate TDM 在灾备数据库应用复制数据库交易的顺序与在生产中 心数据库上的顺序相同,并且按照相同的事务环境提交,确保在目标 系统上数据的完整性和读一致性,为实时查询和事务处理创造了条件。 • 检查点机制保障数据无丢失 • GoldenGate TDM的抽取和复制进程使用检查点机制记录完成复制的位 置。对于抽取进程,其检查点记录当前已经抽取日志的位置和写队列 文件的位置;对于投递进程,其检查点记录当前读取队列文件的位置。 检查点机制可以保证在系统、网络或GoldenGate TDM进程故障重启后 数据无丢失。 • 可靠的数据传输机制 • GoldenGate TDM 用应答机制传输交易数据,只有在得到确认消息后才 认为数据传输完成,否则将自动重新传输数据,从而保证了抽取出的 所有数据都能发送到备份端。数据传输过程中支持128位加密和数据 压缩功能。
Oracle Goldengate数据复制产 品解决方案介绍
议程
• • • • GoldenGate整体介绍 GoldenGate工作原理简介 配置Oracle GoldenGate GoldenGate优势和对比
ቤተ መጻሕፍቲ ባይዱ
前GoldenGate公司简介
• 创建于1995年,总部在美国旧金山。 • 数据复制领域的专业公司。 • 全球超过4,000个安装许可,分布在政府、 银行、制造、传媒、电信、证券、医疗和 零售等各大行业,其中有多个全球财富500 强企业。 • 与Oracle、IBM、HP、Microsoft、Sybase、 Teradata等著名企业建立了紧密合作关系。 • 2009年7月被Oracle收购。
配置Oracle GoldenGate-创建相关目录
• • • • • • Shell> Shell> GGSCI> GGSCI> cd D:\goldengatetest\OracleGoldenGate ggsci CREATE SUBDIRS EXIT
Shell> cd D:\goldengatetest\OracleGoldenGate2 • Shell> ggsci • GGSCI> CREATE SUBDIRS • GGSCI> EXIT
GoldenGate工作原理简介-几个进程介绍
1. Manager管理进程在两端控制开启,监控和重启其 他进程;分配数据存储和报告错误及事件。 2. Extract进程从日志中抓取并传输到target端事务 数据 3. Server Collector进程在target端接受数据并写 入trail文件 4. Replicat进程读取trail文件,并且应用到target database。 5. trail文件是gg自己存储抓捕信息的文件,是一个 os文件,存放在./dirdat/下,以xx00000n 命名, n顺序1,2,3.。。。此文件应用完后可配置参数 自动删除。
• 其作用为读取本地trail文件到目标端trail文件 • GGSCI> ADD EXTRACT EPMPtt, EXTTRAILSOURCE ./dirdat/tt • 添加进程 并通过EXTTRAILSOURCE说明本地trail 文件存放 地。
配置Oracle GoldenGate-配置传输进程
Oracle GoldenGate 优势
(1)对生产系统影响小
解压缩即可使用,无须对数据库、主机、存储做任何调整,施工过程 简便、风险低,不影响业务运行
(2)实时高性能
当新交易到达,数据被立即捕获、转换(如需要)并在亚秒延迟内投递 到其他系统,能够以低资源消耗完成每秒数千交易的复制
(3)带宽要求低,可以忍受苛刻的网络条件
议程
• • • • GoldenGate整体介绍 GoldenGate工作原理简介 配置Oracle GoldenGate GoldenGate优势和对比
Oracle GoldenGate 数据容灾特点
• Oracle GoldenGate 用于数据容灾 • Oracle GoldenGate 架构非常灵活 • Oracle GoldenGate 容灾方案属于基于逻辑的数据 容灾 • Oracle GoldenGate 对操作系统没有特定的要求 • Oracle GoldenGate 对数据库版本没有特定的要求 • Oracle GoldenGate 能容忍苛刻的网络环境 • Oracle GoldenGate 不存在逻辑坏块 • Oracle GoldenGate 当生产系统的DDL操作比较多时, 维护量比较大
配置Oracle GoldenGate-配置复制进程
• 配置replicat进程 • GGSCI> ADD REPLICAT RORAtt, EXTTRAIL ./dirdat/tt • GGSCI> EDIT PARAM RORAtt
配置Oracle GoldenGate-配置复制进程
• GGSCI> START REPLICAT RORAtt
• Shell> ggsci • GGSCI> EDIT PARAMS ./GLOBALS • MGRSERVNAME mgrtest1
配置Oracle GoldenGate-创建manager 服 务
• Shell> INSTALL ADDSERVICE ADDEVENTS
此时服务是关闭的 ,手工无法启动, manager读取前面创建的global文件创建服 务mgrtest1 • 同样在target下也创建mgr服务
GoldenGate工作原理简介-传输方式1
GoldenGate工作原理简介-传输方式1
• 源端在manager进程的协调下,通过 extract进程将changedata通过互联网直接 传target端,target端协调接收的数据 , 由servercollector进程写入trail文件当 中,通过replicat同步进程同步数据。
Oracle GoldenGate介绍
• GoldenGate TDM(交易数据管理)软件是 一种基于日志的结构化数据复制软件,它 通过解析源数据库在线日志或归档日志获 得数据的增删改变化,再将这些变化应用 到目标数据库,实现源数据库与目标数据 库同步、双活。GoldenGate TDM 软件可以 在异构的IT基础结构(包括几乎所有常用操 作系统平台和数据库平台)之间实现大量 数据亚秒一级的实时复制。
议程
• • • • GoldenGate整体介绍 GoldenGate工作原理简介 配置Oracle GoldenGate GoldenGate优势和对比
配置Oracle GoldenGate
• 这里我们模拟第二种传输方式 环境大致如 下 同一台机器上装2个oracle数据库, hisyy源,testtarget目标。分别建立2个 gg环境 • 源端gg目录为 D:\goldengatetest\OracleGoldenGate, 目标端为 D:\goldengatetest\OracleGoldenGate2
GoldenGate工作原理简介-传输方式2
GoldenGate工作原理简介-传输方式2
• 源端在manager进程的协调下,通过 extract进程将changedata写到本地trail 文件,由源端的datapump进程通过network 将trail中数据传到target端 ,target端 由servercollector进程写入trail文件当 中,通过replicat同步进程同步数据。
• GGSCI> ADD EXTRACT EIEXtt, TRANLOG,BEGIN NOW • GGSCI> ADD EXTTRAIL ./dirdat/tt, EXTRACT EIEXtt, MEGABYTES 5
配置Oracle GoldenGate-配置传输进程
• 在源端添加一个pump进程 • GGSCI> EDIT PARAMS EPMPtt
相关文档
最新文档