使用GoldenGate实现实时数据同步
oracle goldengate使用前的准备事项-概述说明以及解释
oracle goldengate使用前的准备事项-概述说明以及解释1.引言1.1 概述Oracle GoldenGate是一种用于实时数据复制和数据在不同数据库之间的同步的解决方案。
它支持跨数据库平台和操作系统的复制,并且可以用于广泛的业务需求,包括数据库迁移、数据同步和实时分析等。
在开始使用Oracle GoldenGate之前,有一些准备工作是必要的。
首先,需要了解Oracle GoldenGate的基本概念和工作原理。
它通过捕获源数据库的事务日志,将变更数据传输到目标数据库,并应用这些变更以保持两个数据库之间的一致性。
因此,对于Oracle GoldenGate的使用,对于源和目标数据库的理解是非常重要的。
其次,确保满足Oracle GoldenGate的硬件和软件要求。
根据不同的操作系统和数据库平台,Oracle GoldenGate对硬件和软件的要求也有所不同。
在使用Oracle GoldenGate之前,需要确保所使用的硬件和软件环境符合Oracle GoldenGate的要求,以便能够正常运行和实现预期的功能。
最后,准备好源和目标数据库。
在使用Oracle GoldenGate之前,需要确保源数据库和目标数据库已经成功安装和配置,并且能够正常工作。
此外,需要进行一些特定的配置,以便Oracle GoldenGate能够访问并捕获源数据库的事务日志,以及将变更数据应用到目标数据库。
在本文中,我们将深入探讨Oracle GoldenGate使用前的准备事项,包括硬件和软件要求的准备、数据库的准备,以及一些使用Oracle GoldenGate的建议和总结。
通过充分理解和准备这些事项,您将能够更好地使用Oracle GoldenGate,满足您的业务需求。
1.2 文章结构文章结构部分的内容应该包括以下内容:文章结构是指文章在内容组织上的布局和安排。
一个良好的文章结构将有助于读者更好地理解和接受文章的内容。
使用 Oracle GoldenGate 进行实时数据集成
使用 Oracle GoldenGate 进行实时数据集成了解如何安装、设置和配置 Oracle GoldenGate 以轻松实现 Oracle Database 10g和 11g之间数据的无缝复制。
作者:Porus Homi Havewala2010 年 4 月发布Oracle GoldenGate 用于在各种企业系统间以亚秒级速度复制和集成事务数据,是同类最佳的、易于部署的产品。
Oracle GoldenGate 可以灵活地在同类和异类系统(包括不同版本的 Oracle Database、不同的硬件平台)之间以及 Oracle 数据库和非 Oracle 数据库(包括 Microsoft SQL Server、用于开放系统和 z/OS 的 IBM DB2、Sybase 等等)之间移动数据。
本文演示如何安装、设置和配置此产品以轻松实现 Oracle Database 10g和 11g 之间数据的无缝复制,还介绍了此产品的加速能力。
Oracle 于 2009 年收购了 GoldenGate,我们可以看到在全球各行业超过 4,000 个解决方案中实施了 Oracle GoldenGate。
该软件执行实时的、基于日志的更改数据捕获 (CDC),能够在异构数据库间以极低的延迟和很小的空间移动大量事务数据。
通常,您部署 GoldenGate 捕获、数据泵和交付进程,并且可将这些进程部署在许多不同的操作系统和数据库上。
可根据目标数据库的需要,复制所有数据或部分数据。
当 Oracle GoldenGate 用于 Oracle 数据库时,可以复制数据操作语言 (DML) 和数据定义语言 (DDL) 操作。
(目前只能在同类(不能在异类的)Oracle 版本间复制 DDL 操作。
)Oracle GoldenGate 官方支持 Oracle9i第 2 版到 Oracle Database 11g第 2 版,并且对所有这些版本提供 DML/DDL 支持。
goldengate capture default value
goldengate capture default value GoldenGate是一款用于实时数据复制和数据集成的软件平台,现在主要由Oracle公司开发和维护。
在对GoldenGate进行配置和部署时,我们经常遇到为Captured过滤条件指定默认值的需求。
这篇文章将逐步解释GoldenGate捕获默认值的概念,并提供一些实际场景中的示例。
第一步:理解GoldenGate捕获和复制概念在开始之前,让我们回顾一下GoldenGate的基本概念。
GoldenGate是一种异构数据库之间实时数据复制的解决方案。
它基于事务复制技术,实现了数据在源数据库和目标数据库之间的同步。
通过捕获、转换和传输数据,GoldenGate可以实现在不同数据库之间的数据一致性。
GoldenGate捕获过程基于事务日志(或称为事务日志、事务记录或事务纪录)。
GoldenGate可以通过读取事务日志来捕获源数据库中发生的数据修改。
捕获的数据可以直接传输到目标数据库,以实现实时数据复制。
第二步:了解默认值的概念默认值是在插入或更新操作中当没有明确指定数值时为数据库字段提供的预设值。
通常情况下,如果在插入或更新语句中没有指定字段的值,则数据库会将默认值应用于该字段。
默认值在GoldenGate捕获过程中也起到重要的作用。
当源数据库中的更新操作不包含某些字段的值时,捕获的事务日志可能不包括这些字段。
如果目标数据库中的表定义了默认值,则GoldenGate可以将这些默认值应用于复制的数据。
第三步:配置GoldenGate捕获默认值要为GoldenGate配置捕获默认值,我们需要进行以下步骤:1. 在GoldenGate的参数文件中指定“HANDLECOLLISIONS”选项为“reperror”。
HANDLECOLLISIONS的默认值是“exception”,但我们需要将其设置为“reperror”以便在默认值冲突时生成一个错误。
使用GoldenGate实现实时数据同步
使用GoldenGate实现实时数据同步 实现实时数据同步 使用 实现实时
袁京声,Oracle
议题
• • • • •
GoldenGate简介 简介 Oracle GoldenGate 工作原理 国内成功案例 国内成功案例 支付宝测试汇报 小结
<在此处插入图片 在此处插入图片> 在此处插入图片
2
客户要求连续的实时数据
同时降低IT成本,获得操作效率
实时的 实时的 业务操作 业务操作
关键应用与数据的持续可用性 关键应用与数据的持续可用性
• 灾难发生时的不间断运行 •在规划中的断电期间无宕机 在规划中的断电期间无宕机 •负载均衡 &数据分发 负载均衡
智能&决策的实时信息访问 智能&决策的实时信息访问
• 即刻可用的数据,用于支持报表 即刻可用的数据, • 访问关键信息,用于分析 访问关键信息, • 跨越异构的系统
降低IT花销 降低IT花销 &提高效率 IT
•现代根据需要选择最佳系统化传统系 现代根据需要选择最佳系统化传统系 统 • 卸载系统压力,支持报表 卸载系统压力,
3
为什么要实时? 为什么要实时?
Processing > 1 Billion Transactions each year, and zero outages
Swedbank
100% paperless environment drives efficiency and improves patient care across hospital
捕获 LAN/WAN Internet
源 Oracle 和非 Oracle 数据库
oracle GoldenGate 同步oracle sequence的步骤
oracle GoldenGate 同步oracle sequence的步骤源和目标端分别执行:SQL>@sequence.sql然后,分别在源和目标端执行:GRANT EXECUTE on <<schema>>.replicateSequence TO <<schema>>;orGRANT EXECUTE on <<schema>>.updateSequence TO <<schema>>;确认extract, pump & replicat是支持DDL的(也可以不支持DDL,只是需要先手工在两端分别创建sequence)。
然后在extract进程中添加:sequence schema.seqxx; or schema.*;在pump进程中同样的添加:SEQUENCE schema.seqxxx;如果目标端是使用的map src_schema.*, target tgt_schema.*;则不用单独配置,否则需要明确指定seq的名称:map src_schema.seqxx, target tgt_schema.seqxx;在源端创建sequence,sequence必须是nocache的。
然后在源端执行(此步骤不是必须的):GGSCI>dblogin userid xxx, password xxx;GGSCI>flush sequence src_schema.seqxx测试过程:在源端执行seq.nextval几次,记下数字;然后在目标端执行seq.nextval,确认是否为源端的数字加increment.几个常用语句:●查看当前值,并置下个值:select gguser.seq1.nextval from dual;●获取当前值:select gguser.seq1.currval from dual; -- 如果在本机没有执行过nextval,则此值始终为●获取下一个值: select LAST_NUMBER from dba_sequences where sequence_name='SEQ1';Powered by cdl, QQ:804772。
GoldenGate TDM产品介绍和案例
GoldenGate TDM 产品介绍一、 GoldenGate TDM技术原理GoldenGate TDM(交易数据管理)软件是一种基于日志的结构化数据复制软件,它通过解析源数据库在线日志或归档日志获得数据的增删改变化,再将这些变化应用到目标数据库,实现源数据库与目标数据库同步、双活。
GoldenGate TDM 软件可以在异构的IT基础结构(包括几乎所有常用操作系统平台和数据库平台)之间实现大量数据亚秒一级的实时复制,其复制过程简图如下:如上图所示,GoldenGate TDM的数据复制过程如下:¾利用捕捉进程(Capture Process)在源系统端读取Online Redo Log或Archive Log,然后进行解析,只提取其中数据的变化如增、删、改操作,并将相关信息转换为GoldenGate TDM自定义的中间格式存放在队列文件中。
再利用传送进程将队列文件通过TCP/IP传送到目标系统。
捕捉进程在每次读完log中的数据变化并在数据传送到目标系统后,会写检查点,记录当前完成捕捉的log位置,检查点的存在可以使捕捉进程在中止并恢复后可从检查点位置继续复制;¾目标系统接受数据变化并缓存到GoldenGate TDM队列当中,队列为一系列临时存储数据变化的文件,等待投递进程读取数据;¾GoldenGate TDM投递进程从队列中读取数据变化并创建对应的SQL语句,通过数据库的本地接口执行,提交到数据库成功后更新自己的检查点,记录已经完成复制的位置,数据的复制过程最终完成。
由此可见,GoldenGate TDM是一种基于软件的数据复制方式,它从数据库的日志解析数据的变化(数据量只有日志的四分之一左右)。
GoldenGate TDM将数据变化转化为自己的格式,直接通过TCP/IP网络传输,无需依赖于数据库自身的传递方式,而且可以通过高达9:1的压缩率对数据进行压缩,可以大大降低带宽需求。
GoldenGate同步解决方案及性能测试
GoldenGate同步解决方案及性能测试目录1、GoldenGate同步方案 (2)1.1 使用GoldenGate初始化加载 (2)1.2一对多数据同步(广播复制) (4)1.3多对一数据同步(集中复制) (5)1.4数据转换和过滤 (6)1.5关于目标端高数据安全性下的GoldenGate配置方案 (10)1.6GoldenGate双向复制(active-active) (13)2、GoldenGate数据同步性能测试 (16)2.1 测试中主要监测数据和监测方式 (16)2.2 测试脚本和GoldenGate配置 (17)2.3 测试步骤 (21)2.4 性能测试结果 (23)1、Gold enGate同步方案GoldenGate工具虽小,但它提供表级字段级同步映射,而且同步性能优异、资源消耗低,使它的灵活性很强,可以提供多种数据同步、冗灾的解决方案。
1.1 使用GoldenGate初始化加载这里所指的GoldenGate初始化加载,只是它指提供的direct load方式,因为其他几种官方介绍的初始化方式要么需要借助其他数据库工具(如extract->SQL*Loader),要么中间走了完全没必要的步骤导致性能很差(如extract->file->replicat方式),都不算纯正的GoldenGate方式。
初始化加载架构:上图中,显示了初始化加载启用了两条同步路线:上面一条是真正的initial load,负责将源数据端的数据一次性发送到目标数据库;下面一条,其实就是普通的GoldenGate同步进程,负责抓取初始化加载时源端数据库进行的在线数据变化。
因为在实际应用中,往往需要在生产库(源数据库)不停机的状态下,将数据加载到备用数据库(目标数据库)中并应用实时同步,在数据初始化的过程中,生产库将继续进行正常的事务操作,所以此时需要有抓取进程在初始化时开始将这些变化捕获,以免数据丢失。
OracleGoldenGate实时数据集成
OracleGoldenGate实时数据集成前几天参加了Oracle Golden Gate实时数据集成研讨会,这里总结和分析一下Oracle的数据集成家族产品。
在数据集成方面,Oracle主要有三大产品:(1)Oracle新收购的Golden Gate,主要强调数据的实时性,号称数据提取最快,对源端开销影响最小;(2)Oracle原有的产品ODI(Oracle Data Integrator),用于数据集成的绝大多数场景;(3)Data Quality/Profiling,主要在ETL时保证数据质量和分类的辅助工具。
和IBM的相应产品家族相比,几乎一一对应。
对于(2)和(3),IBM 有收购的DataStage相应产品对应,对于(1)的实时性,IBM有MQ 家族中的一个real-time版本对应。
微软Microsoft有相应(2)(3)的产品,(1)还没有。
Golden Gate工作原理:在源数据库端(支持各种数据库)提取日志文件以获得变化的发生,如Oralce数据库就是监控Redo Log或Archieve Log,将变化的数据写入一个本地的跟踪文件Trail File(可以想象成一个TXT文件),然后将记录加密、压缩后路由到目的端的跟踪文件Trail File,最后在目标端用SQL写入目标数据库。
在目标和源端的跟踪文件都有一个检查点记录最后一个成功的记录位置。
说实话,Golden Gate的工作原理很简单,在国内ISV开发的应用中也有用完全类似的方法来实现功能,如银行业的前置机项目和电信的BOSS 项目中导程控交换机的话单。
Golden Gate的适用面还是相对窄的,主要是强调实时性的地方,说白了就是ODI不能满足要求的地方,否则客户为什么不使用数据库内置的ODI工具,还非要额外花钱购买Golden Gate呢?Oracle提供的适用场景例子有银行信用卡欺诈检测、网上促销优化、基于位置的服务、SCM的改善等。
Oracle GoldenGate数据库同步技术
OracleOracle GoldenGate 数据库同步技术Oracle GoldenGate TDM是一种基于软件的数据复制方式,它从数据库的日志解析数据的变化。
Oracle Data IntegratorOracle GoldenGate的技术原理利用GoldenGate同步SQL Sever2000数据TechTarget 中国《Oracle系列电子书》 1TechTarget 中国《Oracle系列电子书》2Oracle GoldenGate 是一款实时访问、基于日志变化捕捉数据,并且在异构平台之间进行数据传输的产品。
利用这个技术,GoldenGate 能够实现低延迟、高性能、低影响进行连续的数据集成。
——赵宇始切入正题之前,我们先来看一项数据库市场的调查:权威调查机构的报告显示,数据库市场在近几年分布占据主导地位的还是Oracle、DB2、SQL Server。
现在随着企业信息化水平的不断提高,很多企业也都上很多信息化的系统,比如OA系统、订单系统、网站、ERP、数据仓库、计费等系统,在证券、银行、电信、保险、网站等行业更是多个数据库系统并存的情况。
数据库多种多样、版本又不统一,这样就给企业在做数据分析以及汇总带来很大的难度。
通常客户会选择自己写脚本、开发程序来做数据的同步,往往效率不高,程序还需要经常维护。
SQL Server在中小企业、证券市场占比较大的比重,我们这里就举例SQL Server之间的数据库同步。
开TechTarget 中国《Oracle系列电子书》 3TechTarget 中国《Oracle 系列电子书》4如果不通过开发程序代码来完成SQL Server 2000/2005的数据同步到SQL Server 2000/2005数据库中,有哪些方案可以选择呢? SQL Server 本身就提供了很多解决方案,比如大家很熟悉的Microsoft Snapshot Replication , Microsoft Transactional Replication, Microsoft Merge Replication 。
oracle ogg详解
oracle ogg详解Oracle GoldenGate (OGG) 是Oracle公司开发的一款高性能的实时数据复制与数据同步工具。
它能够在不同的数据库之间实现数据的实时复制与同步,确保数据的一致性和可靠性。
本文将详细介绍Oracle GoldenGate的原理、特点、使用场景以及一些常见的问题和解决方案。
一、Oracle GoldenGate的原理Oracle GoldenGate的原理可以简单概括为:先抓取源数据库中的数据变更,将其记录为日志,然后通过网络传输这些日志,最后在目标数据库中重新应用这些变更,实现数据的实时复制与同步。
具体的步骤如下:1. 捕获源数据库中的数据变更:Oracle GoldenGate通过挂载在源数据库上的提供商或通过数据库日志挖掘技术,捕获所有的数据变更操作,例如插入、更新、删除等。
2. 将数据变更记录为日志:GoldenGate将源数据库中的数据变更操作记录为一组序列化的日志记录,以便在接下来的步骤中进行传输与应用。
3. 传输日志:GoldenGate使用高效的网络传输协议,将记录的日志从源数据库传输到目标数据库。
4. 应用数据变更:在目标数据库中,GoldenGate根据日志记录的顺序重新应用这些数据变更,确保目标数据库与源数据库的数据保持一致。
二、Oracle GoldenGate的特点1. 高性能:Oracle GoldenGate具有高度优化的数据捕获、传输和应用机制,能够实现实时数据的传输与同步,保证数据的实时性和准确性。
它采用基于日志的增量复制方式,避免了全量数据复制的高开销。
2. 异构性:Oracle GoldenGate支持在不同的数据库平台之间实现数据的实时复制与同步,如Oracle、DB2、SQL Server等。
这使得企业可以根据实际需求选择最适合自己的数据库平台,而不用担心数据的迁移和同步问题。
3. 灵活性:Oracle GoldenGate支持灵活的数据过滤和转换功能,可以根据需求选择复制和同步的特定表、特定列或特定行。
goldengate同步解决方案及性能测试
GoldenGate同步解决方案及性能测试现在越来越多的公司在寻找一种强大的复制拓扑结构,这个结构能够减少甚至消除正常和非正常的停机对数据可用性造成的影响。
这意味着无论是否有中断,关键任务应用系统都能够不间断地创造产值并提高公司的业务持续性底线。
GoldenGe数据同步备份软件是一种基于数据库日志的数据复制产品,可以利用极少的系统开支,实时复制数据库,改善数据可用性。
GoldenGe数据同步备份软件可以在数据移植、在线维护等场合应用,以减少或消除数据库的停机时间。
同时,它还可用于数据容灾、负载均衡、数据集中、数据分布等应用中。
GoldenGe数据同步备份软件可确保在这些工作进行时,源系统的正常事务处理得以继续进行,功能上不受影响。
GoldenGe数据同步备份软件采用全局数据同步软件平台解决方案,保证了对企业关键任务交易数据持续性的,提供了对业务持续性的高度支持。
GoldenGe 数据同步备份软件是“一次性投资的平台”解决方案,它为整个企业提供的不仅是技术适应能力包括速度、流量和多样性,而且还提高企业投资收益,这些都是保证业务持续的关键因素。
作为一种软件方案,GoldenGe数据同步备份软件可以采用非常灵活的方式加以配置,包括双向复制和多层次的数据复制。
特别是其在双向数据复制领域的技术先进性,可以满足用户在本地或广域网络环境中的各种复杂复制需求。
本机数据改变捕捉-做为一个基于日志的同步解决方案,对源系统和网络的影响减少到最低。
GoldenGe数据同步备份软件可在异构T基础结构之间,实现大量数据的秒一级的数据捕捉、转换和投递。
注重于效率、流量和多样性。
GoldenGe数据同步备份软件版本7软件平台提供了一个单一的平台,这个平台可以为任何企业环境实现秒一级的灾难备份。
GoldenGe数据同步备份软件双向数据复制解决方案如图:(假定两中心均采用rle,基于rle日志方式的双向复制解决方案)GoldenGe数据同步备份软件双向数据复制解决方案特点包括:*面对日趋复杂的计算机环境的极好的适应性。
ogg数据同步方案-概述说明以及解释
ogg数据同步方案-概述说明以及解释1.引言1.1 概述在当今信息化时代,数据同步方案变得愈发重要。
而OGG(Oracle GoldenGate)作为一种高效率、可靠性和安全性的数据同步方案,受到了广泛的关注和应用。
本文旨在探讨和比较不同的OGG 数据同步方案,帮助读者了解如何选择适合自己业务需求的方案并实施。
通过深入探讨OGG 数据同步的介绍、方案比较和实施步骤,本文将为读者提供一份详尽的参考,帮助他们更好地应用OGG 实现数据同步。
1.2 文章结构文章结构:本文将分为三个主要部分,每个部分涵盖了不同的内容。
首先是引言部分,概述了文章的主要内容和结构,明确了文章的目的。
接着是正文部分,主要介绍了OGG数据同步的基本概念、不同的数据同步方案比较以及实施步骤。
最后是结论部分,对文章所述内容进行总结,展望未来的发展方向,并提出结论。
整篇文章将以逻辑清晰、层次分明的方式进行展开,希望读者能够对OGG数据同步有一个全面而深入的了解。
1.3 目的本文的目的是介绍ogg数据同步方案,探讨不同的数据同步方案的优劣势,以及如何在实际的应用中实施ogg数据同步。
通过详细的介绍和比较,读者可以更好地了解ogg数据同步的原理和实现方法,帮助他们在实际项目中选择合适的数据同步方案,并指导他们如何进行具体的步骤实施。
同时,也可以帮助读者对数据同步领域有更深入的理解,从而提高数据同步的效率和准确性。
2.正文2.1 OGG数据同步介绍Oracle GoldenGate(OGG)是一款高性能、实时数据同步和复制软件,被广泛应用于数据库之间、数据库与数据仓库之间的数据复制和同步任务。
OGG可以实现跨平台、异构数据库之间的数据同步,并保持数据一致性和完整性。
OGG通过捕获源数据库的变更日志,并以事务为单位,将这些变更应用到目标数据库,从而实现数据同步。
其核心思想是“捕获”-“转换”-“传送”,即捕获源数据库的变更,通过转换将其应用到目标数据库中。
goldengate同步sqlservertooracle
goldengate同步sqlservertooraclegoldengate同步sql server to oracle准备工作,在sql server机器上建立odbc连接一、初始化加载数据1、source端1)添加extract进程ADD EXTRACT einito, SOURCEISTABLEedit param einito--以下添加到einito.prm文件中EXTRACT einitoSOURCEDB mssql_testRMTHOST 127.0.0.1, MGRPORT 7815 RMTTASK REPLICAT, GROUP rinitmTABLE dbo.t1;2)生成defgen文件edit params defgen---以下为defgen.prm中内容defsfile F:\ogg\mssql\dirdef\t1.defsourcedb mssql_testtable dbo.t1;--退出ggsci(ogg安装目录dos下)exitdefgen paramfile F:\ogg\mssql\dirprm\defgen.prm 2、target端1)replicat 进程ADD REPLICAT rinitm, SPECIALRUNedit params rinitm--以下内容在rinitm.prm文件中replicat rinitmsourcedefs F:\ogg\oracle\dirdef\t1.defSETENV (NLS_LANG =AMERICAN_AMERICA.ZHS16GBK) USERID chf, PASSWORD xifenfeiDISCARDFILE F:\ogg\oracle\dirrpt\RINItm.dsc, append MAP "dbo.t1", TARGET CHF.T1_1;二、数据同步1、source端1)添加附件日志dblogin sourcedb mssql_testadd trandata dbo.t12)摄取进程(extract)add extract extm,tranlog,begin nowADD EXTTRAIL F:\ogg\mssql\dirdat\ms, EXTRACT EXTMedit param extm--以下为extm.prm内容extract extmSOURCEDB mssql_testexttrail F:\ogg\mssql\dirdat\msdynamicresolutiongettruncatestranlogoptions managesecondarytruncationpointTABLE dbo.t1;3)传递进程(data pump extract )ADD EXTRACT pump1, EXTTRAILSOURCE F:\ogg\mssql\dirdat\ms, BEGIN now add rmttrail F:\ogg\oracle\dirdat\or extract pump1edit params pump1--以下为pump1.prm内容extract pump1SOURCEDB mssql_test --需要,不然不能获得数据rmthost 127.0.0.1, mgrport 7815rmttrail F:\ogg\oracle\dirdat\orPASSTHRUgettruncatesTABLE dbo.t1;2、target端1)设置检查点表edit params ./GLOBALS--下面一句为GLOBALS文件中内容CHECKPOINTTABLE ogg.chkpointdblogin userid ogg,password xifenfeiADD CHECKPOINTTABLE ogg.chkpoint2)replicat进程add replicat repl exttrail F:\ogg\oracle\dirdat\or,begin now,checkpointtable ogg.chkpointedit params repl--以下为repl.prm中内容replicat replSETENV (NLS_LANG =AMERICAN_AMERICA.ZHS16GBK)userid ogg,password xifenfeisourcedefs F:\ogg\oracle\dirdef\t1.defreperror default,discarddiscardfileF:\ogg\oracle\dirtmp\repsz.dsc,append,megabytes 100 gettruncatesMAP "dbo.t1", TARGET CHF.T1_1;note:因为defgen中的表名为小写,所以在replicat相关进程中,map 表需要使用双引号小写。
Oracle GoldenGate 实时同步配置
OGG 同步(DML)配置及测试【备注】:包括GG安装,数据库配置,已有数据初始化加载和实时同步4部分。
文末附一则优化过的配置。
GG包装包括GG工作目录创建,端口指定,用户创建等。
数据库配置主要是修改归档模式和最小日志附加模式。
===============================安装配置GG步骤及注意事项===============================1.将解压到磁盘。
2.配置环境变量系统变量:ORACLE_HOME/ORACLE_SID。
3.cmd进入GG解压目录,执行ggsci命令,打开gg控制台。
4.创建GG工作目录,执行create subdirs命令。
会在当前目录创建一系列的目录。
其作用如下:a.dirchk:存放检查点文件b.dirdat:存放Trail文件c.dirdef:存放通过DEFGEN工具生成的源或目标端数据定义文件d.dirpcs:存放进程状态文件e.dirprm:存放配置参数文件f.dirrpt:存放进程报告文件g.dirsql:存放sql脚本文件h.dirtmp:当食物所需要的内存超过已分配内存时,默认存储在这个目录。
5.把Manager进程添加到windows服务。
不作为服务存在则用户注销后Manager进程就会终止运行。
将Manager进程作为服务,则与用户无关了。
非Win集群下可选的,但是win下强烈建议安装为服务。
win集群环境下,必须将MGR进程添加到Win服务,因为出现一台服务器故障时,只有通过服务才能将其自动切换到备用服务器上。
服务名默认为GGSMGR。
a.cmd进入GG目录--->GGSCI--->EDIT PARAMS ./GLOBALS 在弹出的记事本中自定义服务名:MGRSERVNAME GGMGRb.退出ggsci,在gg根目录执行install addservice。
就可以将MGR添加为服务了。
===============================数据库做相关设置===============================1.启用归档模式,GG是基于对日志变化的捕获,所以redo对于GG非常重要,为了保证GG能够读取完整的事务日志,必须打开归档。
ORACLE GoldenGate 同步操作测试记录
(CONNECT_DATA =
(SERVER = DEDICATED)
(SERVICE_NAME = +ASM)
(UR=A)
)
)
6、测试使用新建的服务名连接ASM
sqlplus sys/oracle@ggasm as sysdba
alter system set log_archive_dest_1='location=+data/studiodb/archive/arch1' scope=spfile sid='studiodb1';
alter system set log_archive_dest_1='location=+data/studiodb/archive/arch2' scope=spfile sid='studiodb2';
alter database open;
3、修改日志必要参数
select supplemental_log_data_min,force_logging from v$database;
alter database add supplemental log data;
alter database force logging;
PURGEDDLHISTORY MINKEEPDAYS 3, MAXKEEPDAYS 5, FREQUENCYMINUTES 30
PURGEMARKERHISTORY MINKEEPDAYS 3, MAXKEEPDAYS 5, FREQUENCYMINUTES 30
3、为需要复制的数据表添加trandata
oracle ogg原理
oracle ogg原理Oracle GoldenGate (OGG) 是一种高可靠性、高可扩展性的实时数据交换平台,可以将数据从一个系统传输到另一个系统,以实现异构系统间的数据复制和同步。
OGG 可以在多种平台上运行,包括Linux、Windows、Unix等。
OGG 的工作原理基于抽取(Extract)、传输(Replicat)、数据映射(Data Mapping)和转化(Transformation)四个主要组件,它们协同工作,完成将源端数据实时传输到目标端的过程。
1. 抽取(Extract)Extract 组件负责检测源端数据的变更,抽取这些变更并将其存储到 OGG 内部的缓冲区。
OGG 支持多种抽取模式,包括在线抽取、归档日志抽取、数据库捕获等。
Extract 可以从多个数据库抽取数据,并将其合并到一个统一的数据流中。
2. 传输(Replicat)Replicat 组件负责将 OGG 缓冲区中的变更传输到目标端。
与Extract 类似,Replicat 也支持多种传输方式,包括数据库直接写入、目标端文件加载等。
Replicat 可以将数据映射到目标端的表结构,以确保数据的正确性和一致性。
3. 数据映射(Data Mapping)数据映射是 OGG 系统中非常重要的一个组件,它负责将源端数据映射到目标库中的表结构。
OGG 支持多种映射方式,包括自动映射、手动映射等。
使用数据映射,可以将不同的源表字段映射到目标表中的不同字段,实现异构系统间的数据复制和同步。
4. 数据转化(Transformation)数据转化是 OGG 系统中另一个非常重要的组件,它可以对数据进行转化和加工,满足目标端的数据需求。
OGG 支持多种数据转化方式,包括数据过滤、数据拆分合并、数据合并等。
使用数据转化,可以对源端数据进行必要的处理,比如数据清洗、字段类型转换等。
总之,Oracle GoldenGate 通过抽取、传输、数据映射和转化四个主要组件,实现了异构系统间的数据复制和同步。
GoldenGate软件实现一对多数据同步功能安装配置手册
GoldenGate一对多数据同步安装配置手册2001年11月一、前言GoldenGate支持灵活的拓扑复制结构,比如一对多、多对一、双向复制等拓扑复制结构。
GoldenGate要实现一对多的复制可以通过多种办法来实现,我们这里来讨论主要的复制拓扑实现方法和机制。
数据从一个源端抓取出来,分发到多个目标端去。
二、安装环境概述三、GoldenGate一对多配置实现3.1、Oracle GoldenGate软件环境安装需求源端安装环境需求(1)网络:要实现GoldenGate数据复制软件源端和目标端的数据通信,需要开通源端和目标端服务器的7809到7810,7840到7890之间的网络端口。
(2)Oracle GoldenGate系统用户Oracle GoldenGate安装运行需要调用Oracle 的数据库产品的类库文件,所以建议安装Oracle GoldenGate的系统用户在系统的Oracle:dba用户组中,或则就使用系统Oracle 用户进行安装。
为PATH环境变量增加安装GoldenGate的路径。
(3)Oracle GoldenGate数据库用户goldengate(4)数据库字符集源和目标数据库字符集应一致,检查Oracle字符集命令:检查nls_lang环境变量目的是为了确保GoldenGate进行数据抽取的时候使用正确的NLS_LANG环境变量,使用以下命令确认数据库的字符集。
获得的结果主要在GoldenGate进程的参数文件中的setenv(NLS_LANG)参数中使用。
(5)安装存储空间安装GoldenGate对于存储空间的要求:应为GoldenGate创建文件系统,也可在现有文件系统中建立一个目录,GoldenGate对于安装目录没有任何限制。
GoldenGate软件本身占用不到100M空间;(6)数据队列存储空间需要在共享阵列上为GoldenGate软件划分一定的存储空间来存储GoldenGate队列。