如何使用 goldengate ogg 将mysql 数据库同步到 oracle 11g,配置实战

1、环境

源端数据库:mysql 5.7.31

目标端数据库:oracle 11.2.0.4

源端ogg介质:122022_ggs_Linux_x64_MySQL_64bit

目标端ogg介质:Oracle-GoldenGate-11.2.1.0

注意:

(1)这里源端使用ogg 12.2.0.2的版本,如果使用低版本,抽取进程启动会报600错误

(2)目标端使用11g的版本,使用ogg initial load工具进行初始化,直接加载的方式不支持添加版本参数”FORMAT RELEASE 11.2”,只能使用文件加载方式进行初始化,性能相对较慢。因此,有条件的建议目标端也使用12c版本。

(3)虽然mysql端设置了表名大小写不敏感的参数lower_case_table_names=1,但是ogg对表名大小写依然敏感。

2、源端配置

2.1 Mysql参数权限

与ogg相关的Mysql数据库参数配置

binlog-format=ROW

log-bin=mysql-bin

需要同步的表要先授权

>GRANT INSERT, UPDATE, DELETE,select ON `psd`.`testb` TO ‘ogg’@’%’;

2.2管理进程:mgr

> view param mgr
PORT 1739
DYNAMICPORTLIST  1740-1838
AUTORESTART EXTRACT *,RETRIES 999,WAITMINUTES 3
STARTUPVALIDATIONDELAY 5
PURGEOLDEXTRACTS ./dirdat/*, USECHECKPOINTS, MINKEEPDAYS 3
LAGREPORTHOURS 1
LAGINFOMINUTES 30
LAGCRITICALMINUTES 45

2.3抽取进程:extpr

> view param EXTTS
extract extts
setenv(MYSQL_HOME="/usr/")
sourcedb ogg@196.14.1.1:1306,userid  ogg,password ogg
tranlogoptions altlogdest /mysql/data/mdb-bin.index
discardfile ./dirrpt/extts.dsc,append,megabytes 1024
exttrail ./dirdat/ts,format release 11.2
gettruncates
dynamicresolution
table psd_bpm.testb;

MYSQL_HOME可以通过执行 show variables like ‘%basedir%’来确定

tranlogoptions altlogdest配置的是log-bin的index文件,可以通过查看my.cnf配置文件确定,也可以执行 show variables like ‘%datadir%’来确定

因为目标端ogg为11g版本,需要在exttail参数配置format release 11.2

2.4传输进程:dpepr

> view param DPETS
extract dpets
sourcedb ogg@196.14.1.1:1306,userid  ogg,password  ogg
rmthost 196.14.1.2,mgrport 1839
rmttrail ./dirdat/ts,format release 11.2
gettruncates
table psd_bpm.testb;

因为目标端ogg为11g版本,需要在rmttrail 参数配置format release 11.2

2.5源端初始化参数文件:etsinit

> view param etsinit
SOURCEISTABLE
setenv (NLS_LANG=AMERICAN_AMERICA.AL32UTF8)
sourcedb ogg@196.14.1.1:1306,userid  ogg,password  ogg
rmthost 196.14.1.2,mgrport 1839
RMTFILE /ogg/dirdat/tsinit,FORMAT RELEASE 11.2, MEGABYTES 1024,PURGE
table psd_bpm.testb;

SOURCEISTALBE参数表示初始化加载进程直接从源表抽取数据。

RMTFILE参数配置初始化进程抽取的数据文件存放目标位置,为目标端的位置。目标端版本为11g,这里也要配置FORMAT RELEASE 11.2的选项。

2.6生成def文件

在ogg主目录新建一个rtsdef.prm文件

>vi rtsdef.prm
defsfile ./dirdef/rtsdef.def,purge
sourcedb ogg@196.14.1.1:13306,userid  ogg,password ogg
table psd.testb;

生成def文件

>./defgen paramfile rtsdef.prm

找到生成的rtsdef.def文件中的内容:

Database type: MYSQL
Character set ID: UTF-8
National character set ID: UTF-16
Locale: en_US
Case sensitivity: 00 00 00 22 22 00 00 00 00 00 00 00 11 00 00 00
TimeZone: CST

这里的Case sensitivity表示数据库的表名大小写是否敏感,mysql数据库参数文件配置了lower_case_table_names=1,表示大小写不敏感,这里对应的值就是表名大小写不敏感。但是我们发现ogg 11g入库进程对大小写敏感,mysql端生成的def文件中的表名都是小写,所以我们需要把这个值修改为大小写敏感,其值可以参考oracle生产的def文件。具体配置:

Case sensitivity: 14 14 14 14 14 14 14 14 14 14 14 14 11 14 14 14

这里如果不做修改,入库进程参数文件配置了SOURCEDEFS 参数,启动进程会报找不到表定义。这里应该是ogg 11g的bug,ogg 12c已经修复了该问题,无需修改该值。

Ogg 11g版本不支持TimeZone: CST,我们需要手动删除该值。

3、目标端配置

3.1入库进程repts

> view param REPTS
 
REPLICAT repts
SETENV(ORACLE_SID = "ffdb")
SETENV (ORACLE_HOME = "/u01/app/oracle/product/11.2/db_1")
setenv (NLS_LANG=AMERICAN_AMERICA.UTF8)
USERID ogg, PASSWORD ogg
REPORT AT 01:59
REPORTCOUNT EVERY 30 MINUTES, RATE
REPERROR DEFAULT, ABEND
SOURCEDEFS ./dirdef/repts.def
DISCARDFILE ./dirrpt/repts.dsc, APPEND, MEGABYTES 1024
DISCARDROLLOVER AT 02:30
GETTRUNCATES
ALLOWNOOPUPDATES
HANDLECOLLISIONS
map psd.testb,target bpm.testb,KEYCOLS(TID);

跨版本同步,ogg initial load只能使用文件加载方式,初始化不设置检查点,因此入库进程启动前需要配置HANDLECOLLISIONS参数,忽略错误。

3.2目标端初始化进程repinit

> view param rtsinit
SPECIALRUN
END RUNTIME
USERID ogg, PASSWORD GG_yxcb161
SOURCEDEFS ./dirdef/repts.def
REPERROR DEFAULT,DISCARD
EXTFILE /ogg/dirdat/tsinit
map psd.testb,target bpm.testb,KEYCOLS(TID);

SPECIALRUN表示将初始化进程实现为不使用检查点的一次性运行

END RUNTIME表示初始化进程在加载完成后终止

EXTFILE配置源端传过来的初始化数据文件在本地的位置

4、添加并启动进程

4.1添加进程

4.1.1源端

> add extract extts,tranlog,begin now   
> add exttrail ./dirdat/ts,extract extts,MEGABYTES 512
> add extract dpets,exttrailsource ./dirdat/ts
> add rmttrail ./dirdat/ts,extract dpets,MEGABYTES 512

4.1.2目标端

>add replicat repts,exttrail ./dirdat/ts,nodbcheckpoint

4.2启动进程

4.2.1源端

启动抽取和传输进程

>start extract extpr

>start extract dpepr

启动初始化加载工具

>./extract paramfile dirprm/etsinit.prm reportfile ./dirrpt/estinitrp.log

etsinit.prm就是上面配置的初始化参数文件,estinitrp.log为初始化加载日志文件。

跟踪日志estinitrp.log输出:

Report at 2022-03-17 09:38:57 (activity since 2022-03-17 09:38:52)
Output to /ogg/oraogg/dirdat/tsinit:
From Table psd_bpm.testb:
       #                   inserts:        11
       #                   updates:         0
       #                   deletes:         0
       #                  discards:         0

看到上面的日志,表示数据已经抽取完成,第一行为完成时间,要记住这个时间,入库进程删除HANDLECOLLISIONS参数就是以这个时间点作为标准,必须在这之后才能删除。

4.2.2目标端

启动初始化加载工具

>./replicat paramfile dirprm/rtsinit.prm reportfile ./dirrpt/rstinitrp.log

加载完成后,启动入库进程

>start replicat repts

跟踪观察入库进程,直到入库到初始化抽取完成时间之后

>info replicat repts

删除入库进程中的HANDLECOLLISIONS参数,并重启入库进程

5、问题解决

Q1:启动抽取进程报 error 600

2022-03-11 10:39:01  ERROR   OGG-00146  VAM function VAMRead returned unexpected result: error 600 - VAM Client Report <CAUSE OF FAILURE : Sanity Check Failed for events
WHEN FAILED : While reading log event from binary log
WHERE FAILED : MySQLBinLog Reader Module
CONTEXT OF FAILURE : No Information Available!>.

解决方法:源端mysql使用OGG-11.2.0.1,启动抽取进程会报上面的错误,需要升级到12.2.0.2以上版本。

Q2:入库进程启动报ERROR   OGG-00303

2022-03-16 17:10:21  ERROR   OGG-00303  Problem at line 37.  Expecting file, table, or record definition: TimeZone: CST.
2022-03-16 17:10:21  ERROR   OGG-01668  PROCESS ABENDING.

解决方法:def文件使用12c的defgen生成,ogg 11g不支持TimeZone: CST参数,需要手动删除该行。

Q3:入库进程启动报ERROR   OGG-00423

2022-03-14 15:59:01  ERROR   OGG-00423  Oracle GoldenGate Delivery for Oracle, repbpm.prm:  Could not find definition for psd_bpm.bpm_worklist_cur.
2022-03-14 15:59:01  ERROR   OGG-01668  Oracle GoldenGate Delivery for Oracle, repbpm.prm:  PROCESS ABENDING.

解决方法:修改def文件中的case sensitivity值

Case sensitivity: 00 00 00 22 22 00 00 00 00 00 00 00 11 00 00 00

改为

Case sensitivity: 14 14 14 14 14 14 14 14 14 14 14 14 11 14 14 14

上面的是mysql的,表示大小写不敏感

下面复制oracle的值,表示大小写敏感

Q4:抽取进程无数据生成

抽取进程启动后不报错,trail文件大小不增长

解决方法:表名大小写问题,修改进程中的表名大小写与数据库字典中的一致

Q5:传输进程数据不传输

传输进程启动后不报错,目标端trail文件大小不增长

解决方法:表名大小写问题,修改进程中的表名大小写与数据库字典中的一致


数据运维技术 » 如何使用 goldengate ogg 将mysql 数据库同步到 oracle 11g,配置实战