Oracle 数据库到 Kafka 同步实例

本小节以Oracle->Kafka的实时同步为示例，介绍如何使用数据复制服务配置实时同步 任务。

前提条件

● 已登录数据复制服务控制台。

● 账户余额大于等于0元。

● 参见实时同步。

● 参见使用须知。

操作步骤

步骤1 在“实时同步管理”页面，单击“创建同步任务”。

步骤2 在“同步实例”页面，填选区域、任务名称、任务异常通知信息、SMN主题、时延阈 值、任务异常自动结束时间、描述、同步实例信息，单击“下一步”。

图5-26 同步任务信息

表5-21 任务和描述

参数 描述

区域 当前所在区域，可进行切换。

任务名称 任务名称在4-50位之间，必须以字母开头，不区分大小写，可以包 含字母、数字、中划线或下划线，不能包含其他的特殊字符。

任务异常通 知设置

该项为可选参数，开启之后，选择对应的SMN主题。当同步任务状 态异常时，系统将发送通知。

SMN主题 “任务异常通知设置”项开启后可见，需提前在SMN上申请主题并 添加订阅。

SMN主题申请和订阅可参考《消息通知服务用户指南》。

时延阈值 在增量同步阶段，源数据库和目标数据库之间的同步有时会存在一 个时间差，称为时延，单位为秒。

时延阈值设置是指时延超过一定的值后（时延阈值范围为1—

3600s），DRS可以发送告警通知。告警通知将在时延稳定超过设定 的阈值6min后发送，避免出现由于时延波动反复发送告警通知的情

参数 描述 任务异常自

动结束时间

（天）

设置任务异常自动结束天数，输入值必须在14-100之间。

说明

源数据库引擎 选择“Oracle”。

目标数据库引擎 选择“Kafka”。

网络类型 此处以“公网网络”为示例。目前支持可选公网网络、VPC网 络和VPN、专线网络。

可用区 选择DRS实例创建在哪个可用区，选择跟源或目标库相同的可 的子网。为确保同步实例创建成功，仅显示已经开启DHCP的子 网。

参数 描述

同步类型 增量。

增量同步通过解析日志等技术，将源端产生的增量实时同步至 目标端。

无需中断业务，实现同步过程中源业务和数据库继续对外提供 访问。

企业项目 对于已成功关联企业项目的用户，仅需在“企业项目”下拉框 中选择目标项目。

如果需要自定义企业项目，请前往项目管理服务进行创建。关 于如何创建项目，详见《项目管理用户指南》。

标签 可选配置，对同步任务的标识。使用标签可方便管理您的实时 同步任务。每个任务最多支持10个标签配额。

任务创建成功后，您可以单击实例名称，在“标签”页签下查 看对应标签。关于标签的详细操作，请参见标签管理。

步骤3 在“源库及目标库”页面，同步实例创建成功后，填选源库信息和目标库信息，单击

“源库和目标库”处的“测试连接”，分别测试并确定与源库和目标库连通后，勾选 协议，单击“下一步”。

图5-28 源库信息

参数 描述

端口 源数据库服务端口，可输入范围为1~65535间的整数。

数据库服务名 数据库服务名（Service Name/SID），客户端可以通过其连接 到Oracle，具体查询方法请参照界面提示。

PDB名称 PDB同步仅在Oracle12c及以后的版本支持，该功能为选填项，

当需要迁移PDB中的表时开启。

PDB功能开启后，只能迁移该PDB中的表，并且需要提供CDB的 service name/sid及用户名和密码，不需要PDB的用户名和密 码。

数据库用户名 源数据库的用户名。

数据库密码 源数据库的用户名所对应的密码。

SSL安全连接 通过该功能，用户可以选择是否开启对迁移链路的加密。如果 开启该功能，需要用户上传SSL CA根证书。

说明

● 最大支持上传500KB的证书文件。

● 如果不使用SSL证书，请自行承担数据安全风险。

说明

源数据库的IP地址或域名、数据库用户名和密码，会被系统加密暂存，直至删除该迁移任务后自 动清除。

图5-29 目标库信息

表5-24 源库信息

参数 描述

IP地址或域名 目标数据库的IP地址或域名。

步骤4 在“设置同步”页面，选择Topic和同步对象，单击“下一步”。

图5-30 同步模式

表5-25 同步模式和对象

参数 描述

Topic 选择目标端需要同步到的Topic。

投送到kafka的数 据格式

选择MySQL投送到kafka的数据格式。

● Avro：可以显示Avro二进制编码，高效获取数据。

● Json：为Json消息格式。

详细格式可参考Kafka消息格式。

同步对象 表级同步和导入对象文件，您可以根据业务场景选择对应的数据进行 同步。

选择导入对象文件，具体步骤和说明可参考导入同步对象。

步骤5 在“预检查”页面，进行同步任务预校验，校验是否可进行实时同步。

● 查看检查结果，如有不通过的检查项，需要修复不通过项后，单击“重新校验”

按钮重新进行任务预校验。

预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过 项修复方法”。

● 预检查完成后，且所有检查项结果均通过时，单击“下一步”。

图5-31 预检查

说明

所有检查项结果均通过时，若存在请确认项，需要阅读并确认详情后才可以继续执行下一 步操作。

步骤6 在“任务确认”页面，设置同步任务的启动时间，并确认同步任务信息无误后，勾选 协议，单击“启动任务”，提交同步任务。

说明

● 同步任务的启动时间可以根据业务需求，设置为“立即启动”或“稍后启动”。

● 预计同步任务启动后，会对源数据库和目标数据库的性能产生影响，建议选择业务低峰期，

合理设置同步任务的启动时间。

步骤7 同步任务提交后，您可在“实时同步管理”页面，查看并管理自己的任务。

● 您可查看任务提交后的状态，状态请参见任务状态。

● 在任务列表的右上角，单击 刷新列表，可查看到最新的任务状态。

----结束