• 沒有找到結果。

入门_数据复制服务 DRS_用户指南_华为云

N/A
N/A
Protected

Academic year: 2022

Share "入门_数据复制服务 DRS_用户指南_华为云"

Copied!
498
0
0

加載中.... (立即查看全文)

全文

(1)

用户指南

文档版本 46

发布日期 2021-11-30

(2)

版权所有 © 华为技术有限公司 2021。 保留一切权利。

非经本公司书面许可,任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部,并不得以任何形式传 播。

商标声明

和其他华为商标均为华为技术有限公司的商标。

本文档提及的其他所有商标或注册商标,由各自的所有人拥有。

注意

您购买的产品、服务或特性等应受华为公司商业合同和条款的约束,本文档中描述的全部或部分产品、服务或 特性可能不在您的购买或使用范围之内。除非合同另有约定,华为公司对本文档内容不做任何明示或暗示的声 明或保证。

由于产品版本升级或其他原因,本文档内容会不定期进行更新。除非另有约定,本文档仅作为使用指导,本文 档中的所有陈述、信息和建议不构成任何明示或暗示的担保。

华为技术有限公司

地址: 深圳市龙岗区坂田华为总部办公楼 邮编:518129

网址: https://www.huawei.com

客户服务邮箱:[email protected] 客户服务电话:4008302118

(3)

目 录

1 入门...1

2 权限管理...2

2.1 创建用户并授权使用 DRS...2

2.2 DRS 自定义策略... 3

3 实时迁移...5

3.1 迁移用户...5

3.2 参数对比列表... 9

3.3 常见场景的迁移任务配置... 13

3.3.1 创建 VPN、专线网络迁移任务...13

3.3.2 创建 VPC 网络迁移任务... 24

3.3.3 分片集群 MongoDB 数据库迁移至 DDS 社区版集群... 36

3.3.4 MySQL 数据库迁移至 GaussDB(for MySQL)主备版...44

3.3.5 华为云 DDS 实例迁移至用户端 MongoDB 数据库...51

3.4 任务管理... 57

3.4.1 查看任务详情... 57

3.4.2 修改任务信息... 58

3.4.3 编辑迁移任务... 59

3.4.4 续传迁移任务... 64

3.4.5 重置迁移任务... 65

3.4.6 暂停迁移任务... 65

3.4.7 结束迁移任务... 66

3.4.8 删除迁移任务... 67

3.4.9 修改流速模式... 68

3.4.10 快捷对比... 70

3.4.11 批量操作... 71

(4)

4.6 标签管理... 77

5 实时同步...79

5.1 数据同步拓扑介绍... 79

5.2 常见场景的同步任务配置... 81

5.2.1 DDM 数据库到 RDS for MySQL 同步实例... 81

5.2.2 DDM 数据库到 GaussDB(DWS)同步实例... 87

5.2.3 DDM 数据库到 Kafka 同步实例...93

5.2.4 DDM 数据库到 DDM 同步实例...99

5.2.5 Oracle 数据库到 Kafka 同步实例...105

5.2.6 Oracle 数据库到 GaussDB(for MySQL)主备版同步实例... 111

5.2.7 Oracle 数据库到 GaussDB(for openGauss)分布式版同步实例... 120

5.2.8 Oracle 数据库到 GaussDB(DWS)同步实例... 130

5.2.9 RDS for MySQL 到 Kafka 同步实例... 138

5.2.10 RDS for MySQL 到 ElasticSearch 同步实例... 145

5.2.11 RDS for MySQL 到 Oracle 同步实例... 152

5.2.12 MySQL 数据库到 GaussDB(for MySQL)主备版同步实例... 160

5.2.13 MySQL 数据库到 GaussDB(DWS)同步实例...167

5.2.14 MySQL 数据库到 GaussDB(DWS)同步实例(多对一场景)... 174

5.2.15 MySQL 数据库到 PostgreSQL 同步实例...183

5.2.16 MySQL 自建到 Kafka 同步实例... 191

5.2.17 MySQL 自建到 ElasticSearch 同步实例... 198

5.2.18 GaussDB(for openGauss)分布式版到 GaussDB(DWS)同步实例... 206

5.2.19 GaussDB(for openGauss)分布式版到分布式版同步实例... 213

5.2.20 GaussDB(for openGauss)主备版到 Kafka 同步实例...223

5.2.21 GaussDB(for openGauss)主备版到 GaussDB(DWS)同步实例... 228

5.2.22 GaussDB(for openGauss)主备版到分布式版同步实例...235

5.2.23 GaussDB(for openGauss)主备版到主备版同步实例... 245

5.2.24 GaussDB(for MySQL)主备版到 MySQL 同步实例... 254

5.2.25 GaussDB(for MySQL)主备版到 GaussDB(DWS)同步实例...261

5.2.26 GaussDB(for MySQL)主备版到 Kafka 同步实例... 268

5.2.27 GaussDB(for MySQL)主备版到 ElasticSearch 同步实例...274

5.2.28 GaussDB(for MySQL)主备版到 Oracle 同步实例...281

5.2.29 PostgreSQL 到 GaussDB(for openGauss)分布式版同步实例... 289

5.2.30 PostgreSQL 到 PostgreSQL 同步实例... 295

5.2.31 PostgreSQL 到 PostgreSQL 增量 DDL 同步... 304

5.2.32 DDS 到 MongoDB 的增量同步实例... 306

5.2.33 DB2 到 GaussDB(for openGauss)分布式版同步实例... 312

5.2.34 Kafka 消息格式...318

5.2.35 GaussDB(for openGauss)分布式版为源强制结束任务...321

5.2.36 GaussDB(for openGauss)主备版为源强制结束任务... 322

5.2.37 PostgreSQL 为源强制结束任务... 323

5.3 任务管理... 324

(5)

5.3.1 查看任务详情...324

5.3.2 修改任务信息...325

5.3.3 修改同步信息...326

5.3.4 编辑同步对象...326

5.3.5 导入同步对象...328

5.3.6 对象名映射... 329

5.3.7 查看同步映射...334

5.3.8 编辑同步任务...335

5.3.9 续传同步任务...336

5.3.10 跳跃续传同步任务...336

5.3.11 暂停同步任务... 337

5.3.12 重置同步任务... 338

5.3.13 结束同步任务... 338

5.3.14 删除同步任务... 339

5.3.15 克隆同步任务... 340

5.3.16 修改流速模式... 341

5.3.17 数据加工... 343

5.3.18 批量操作... 348

5.3.19 标签管理... 348

5.3.20 异常诊断... 350

6 数据订阅... 351

6.1 SDK 接口介绍...351

6.2 SDK 使用说明...354

6.3 SDK 下载地址...356

6.4 查看任务详情... 356

6.5 修改任务信息... 357

6.6 编辑订阅任务... 357

6.7 查看订阅数据... 358

6.8 修改消费时间点... 360

6.9 修改订阅对象... 361

6.10 重试订阅任务...362

6.11 删除订阅任务...363

6.12 批量操作... 363

6.13 标签管理... 364

(6)

7.8 查看灾备监控... 374

7.9 主备倒换任务... 375

7.10 修改流速模式...376

7.11 批量操作... 378

7.12 标签管理... 379

8 对接云监控服务...381

8.1 支持的监控指标... 381

8.2 设置告警规则... 385

8.3 查看监控指标... 386

9 对接云审计服务...388

9.1 支持审计操作的关键列表... 388

9.2 如何查看审计日志... 388

10 预检查不通过项修复方法... 390

10.1 磁盘空间检查...390

10.1.1 目标数据库磁盘可用空间是否足够... 390

10.1.2 迁移服务器磁盘可用空间是否足够... 392

10.2 数据库参数检查... 392

10.2.1 源数据库 binlog 日志是否开启... 392

10.2.2 源数据库 binlog 格式检查... 393

10.2.3 源数据库 binlog 保留时间检查... 394

10.2.4 源数据库和目标数据库的字符集是否一致... 395

10.2.5 源数据库参数 server_id 是否符合增量迁移要求... 396

10.2.6 源数据库和目标数据库表名大小写敏感性检查... 396

10.2.7 源数据库 GTID 状态检查...398

10.2.8 源数据库中是否存在非 ASCII 字符的对象名称... 398

10.2.9 源库和目标库的参数 Time_Zone 或 System_Time_Zone 不一致... 399

10.2.10 COLLATION_SERVER 的一致性检查... 399

10.2.11 SERVER_UUID 的一致性检查... 399

10.2.12 数据库参数 SERVER_ID 的一致性检查... 400

10.2.13 源数据库是否存在不允许使用的 sql_mode 值...400

10.2.14 数据库参数 SQL_MODE 的一致性检查... 401

10.2.15 目标库 SQL_MODE 中 NO_ENGINE 值检查...401

10.2.16 数据库参数 innodb_strict_mode 一致性检查...402

10.2.17 目标数据库参数 max_connections 是否足够... 402

10.2.18 目标数据库参数 max_worker_processes 是否足够... 403

10.2.19 目标数据库参数 max_prepared_transactions 是否足够... 403

10.2.20 目标数据库参数 max_locks_per_transaction 是否足够... 403

10.2.21 校验源数据库参数 max_wal_senders...404

10.2.22 校验源数据库参数 wal_level... 404

10.2.23 校验源数据库参数 max_replication_slots... 405

10.2.24 校验源数据库参数 hot_standby... 405

(7)

10.2.25 校验源数据库参数 full_page_writes... 406

10.2.26 校验源数据库参数 wal_keep_segments... 406

10.2.27 校验源数据库参数 log_slave_updates... 407

10.2.28 源数据库与目标数据库的 WAL_BLOCK_SIZE 参数值是否相同...407

10.2.29 源数据库与目标数据库的 BLOCK_SIZE 参数值是否相同...408

10.2.30 binlog_row_image 参数是否为 FULL... 408

10.2.31 事务隔离级别一致性校验... 409

10.2.32 货币金额格式是否一致... 409

10.2.33 源数据库中是否存在非 ASCII 字符的触发器名...410

10.2.34 源数据库参数 WAL_LEVEL 校验... 410

10.2.35 表唯一约束检查... 411

10.2.36 源数据库参数 MAX_REPLICATION_SLOTS 校验... 411

10.2.37 源数据库集合索引个数检查...411

10.2.38 源数据库集合 TTL 索引检查... 412

10.2.39 源库和目标库参数 log_bin_trust_function_creators 一致性校验...412

10.2.40 源库的 GTID 功能检查... 413

10.2.41 目标库的 GTID 功能检查... 413

10.2.42 目标库参数 log_bin_trust_function_creators 校验...414

10.2.43 异构数据库兼容性风险须知...414

10.2.44 检查目标库的 max_allowed_packet 参数... 415

10.2.45 源数据库是否具有日志解析权限... 415

10.2.46 源数据库 ExpireLogsDays 参数检查... 416

10.2.47 源数据库字符集是否支持... 416

10.2.48 源数据库表名和字段名长度检查... 416

10.2.49 选择对象预检查... 417

10.2.50 源库是否具有补充日志级别权限... 417

10.2.51 源库对象名长度检查... 418

10.2.52 源库无主键表复制属性检查...418

10.2.53 目标库参数 session_replication_role 检查... 418

10.2.54 数据库兼容类型检查... 419

10.2.55 目标库排序字符集检查... 419

10.2.56 源库是否具有 ogg 日志解析权限... 420

10.2.57 索引名是否支持... 420

10.2.58 表结构一致性检查... 421

(8)

10.3.5 源数据库实例是否为空... 424

10.3.6 源数据库的实例类型检查...425

10.3.7 目标数据库是否已存在... 425

10.3.8 目标库实例是否正常... 426

10.3.9 目标库空库检查... 426

10.4 数据库用户权限检查...426

10.4.1 源数据库用户权限是否足够... 427

10.4.2 目标数据库用户权限是否足够... 430

10.4.3 校验源数据库帐号...433

10.4.4 Definer 迁移权限检查...434

10.5 数据库版本检查... 434

10.5.1 源数据库版本是否支持... 434

10.5.2 目标数据库版本是否支持...438

10.5.3 版本是否符合从低到高或者同版本迁移... 440

10.5.4 MongoDB 数据库实例类型是否匹配迁移模式... 442

10.5.5 目标库插件版本检查... 443

10.6 网络情况... 443

10.6.1 源数据库连接是否成功... 443

10.6.2 目标数据库是否连接成功...445

10.6.3 目标数据库是否可以连接到源数据库... 448

10.7 数据库对象检查... 448

10.7.1 源数据库是否存在 MyISAM 表... 448

10.7.2 源数据库表字段类型检查...449

10.7.3 选择对象检查... 449

10.7.4 源库中是否存在无权限迁移的函数或存储过程... 450

10.7.5 源数据库同名对象检查... 450

10.7.6 源库包含无日志表(UNLOGGED TABLE))... 451

10.7.7 源库约束完整性检查... 451

10.7.8 源数据库索引(_id)检查... 452

10.7.9 源数据库索引长度检查... 452

10.7.10 源数据库是否存在使用不支持的存储引擎的表... 453

10.7.11 映射到目标库中的库名是否合法... 453

10.7.12 源库无主键表检查... 454

10.7.13 源端是否存在触发器或事件...455

10.7.14 源数据库角色依赖检查... 455

10.7.15 源数据库账号依赖检查... 456

10.7.16 映射数据库对象检查... 456

10.7.17 源库对象关联关系检查... 457

10.7.18 目标库是否已存在指定迁移对象检查... 457

10.7.19 源数据表是否含有不可作为分布键的列类型... 458

10.7.20 源数据表是否含有不支持的表字段类型... 458

10.8 数据库配置项检查... 458

(9)

10.8.1 源数据库的库名是否合法...458

10.8.2 源数据库的表名是否合法...460

10.8.3 源数据库的视图名是否合法... 461

10.8.4 源数据库的集合名是否合法... 461

10.8.5 源数据库分片键配置检查...462

10.8.6 源库的 schema 名是否合法... 462

10.8.7 目标库最大支持 chunk 数目检查... 463

10.8.8 Oracle 源库是否开启归档日志... 463

10.8.9 Oracle 源库补充日志级别是否满足... 463

10.9 冲突检查... 464

10.9.1 目标数据库是否存在和源数据库同名的数据库... 464

10.9.2 目标数据库是否存在和源数据库同名数据库下的同名视图...467

10.9.3 目标数据库是否存在与源数据库同名的数据库下的同名非空集合...468

10.9.4 目标数据库是否存在与源数据库同名的表... 468

10.9.5 目标数据库是否存在与源数据库同名的对象...469

10.9.6 源库和目标库数据库固定集合一致性检查... 470

10.10 SSL 连接检查... 470

10.10.1 SSL 安全连接检查... 470

10.10.2 源数据库的 SSL 状态检查...472

10.10.3 源数据库 SSL 证书类型检查... 472

10.10.4 目标数据库 SSL 证书类型检查... 472

10.10.5 数据库 SSL 一致性检查... 473

10.11 对象依赖关系检查...473

10.11.1 视图依赖的对象是否在对象选择列表中... 473

10.11.2 迁移对象未选择外键依赖的表... 474

10.12 源数据库信息检查...474

10.12.1 检查分片节点是否和 mongos 节点属于同一个集群...474

10.12.2 源数据库的均衡器状态检查...475

10.12.3 源库的实例类型检查... 475

11 故障排除... 476

11.1 备份迁移失败,无法找到备份文件...476

11.2 备份迁移失败,提示备份的源数据库不在备份文件列表中... 477

A 修订记录... 479

(10)

1 入门

如果您初次使用数据复制服务(Data Replication Service,简称DRS),请参阅《数 据复制服务快速入门》 ,帮助您了解华为云数据复制服务并进行迁移任务的创建。

● 实时迁移

● 备份迁移

● 实时同步

● 数据订阅

● 实时灾备

(11)

2 权限管理

2.1 创建用户并授权使用 DRS

如果您需要对您所拥有的DRS进行精细的权限管理,您可以通过企业管理或统一身份 认证服务(Identity and Access Management,简称IAM)实现。

● 通过企业管理实现的具体操作,请您参考项目管理。

● 通过IAM实现的具体操作,您可以:

– 根据企业的业务组织,在您的华为云帐号中,给企业中不同职能部门的员工 创建IAM用户,让员工拥有唯一安全凭证,并使用DRS资源。

– 根据企业用户的职能,设置不同的访问权限,以达到用户之间的权限隔离。

– 将DRS资源委托给更专业、高效的其他华为云帐号或者云服务,这些帐号或 者云服务可以根据权限进行代运维。

如果华为云帐号已经能满足您的要求,不需要创建独立的IAM用户,您可以跳过本章 节,不影响您使用DRS服务的其它功能。

本章节为您介绍通过IAM对用户授权的方法,操作流程如图2-1所示。

前提条件

给用户组授权之前,请您了解用户组可以添加的DRS权限,并结合实际需求进行选 择,DRS支持的系统权限,请参见:DRS系统权限。若您需要对除DRS之外的其它服务 授权,IAM支持服务的所有权限请参见权限策略。

(12)

示例流程

2-1 给用户授权 DRS 权限流程

1. 创建用户组并授权

在IAM控制台创建用户组,并授予数据复制服务管理员权限“DRS Administrator”权限。

2. 创建用户

在IAM控制台创建用户,并将其加入1中创建的用户组。

3. 用户登录并验证权限

新创建的用户登录控制台,切换至授权区域验证权限,操作如下:

在“服务列表”中选择数据复制服务,进入DRS主界面,单击右上角“创建迁移 任务”,尝试创建迁移任务,如果可以创建迁移任务(假设当前权限仅包含

“DRS Administrator”),就表示“DRS Administrator”权限已生效。

2.2 DRS 自定义策略

如果系统预置的DRS权限,不满足您的授权要求,可以创建自定义策略。自定义策略 中可以添加的授权项(Action)请参考数据复制服务授权项说明。

目前华为云支持以下两种方式创建自定义策略:

● 可视化视图创建自定义策略:无需了解策略语法,按可视化视图导航栏选择云服 务、操作、资源、条件等策略内容,可自动生成策略。

● JSON视图创建自定义策略:可以在选择策略模板后,根据具体需求编辑策略内 容;也可以直接在编辑框内编写JSON格式的策略内容。

具体创建步骤请参见:创建自定义策略。本章为您介绍常用的DRS自定义策略样例。

(13)

DRS 自定义策略样例

● 示例1:授权用户创建DRS实例 { "Version": "1.1",

"Statement": [{

"Action": ["drs:instance:create"], "Effect": "Allow"

}]

}

● 示例2:拒绝用户删除DRS实例

拒绝策略需要同时配合其他策略使用,否则没有实际作用。用户被授予的策略 中,一个授权项的作用如果同时存在Allow和Deny,则遵循Deny优先。

如果您给用户授予DRS FullAccess的系统策略,但不希望用户拥有DRS FullAccess 中定义的删除DRS实例,您可以创建一条拒绝删除云服务的自定义策略,然后同 时将DRS FullAccess和拒绝策略授予用户,根据Deny优先原则,则用户可以对 DRS实例执行除了删除DRS实例外的所有操作。拒绝策略示例如下:

{ "Version": "1.1", "Statement": [{

"Action": ["drs:instance:delete"], "Effect": "Deny"

}]

}

(14)

3 实时迁移

3.1 迁移用户

操作场景

数据库的迁移过程中,迁移用户需要进行单独处理。

MySQL 数据库操作

在MySQL迁移过程中,常见的迁移用户一般分为三类:可完整迁移的用户、需要降权 的用户和不可迁移的用户。

● 可完整迁移的用户:可完整迁移的用户指满足目标数据库权限要求的用户,该类 用户在进行迁移时不需要做任何处理,系统默认会将对应的数据库用户权限迁移 至目标数据库。

● 需要降权处理的用户:需要降权的用户指具有不满足目标数据库权限要求的部分 高权限的用户,比如具有:super、file、shutdown等高权限的用户。该类用户在 进行迁移时需要进行降权处理,否则会导致迁移失败。

对于该类账号不支持的高权限,将会由DRS自动进行降权处理,您可以通过单击 备注列的“查看”按钮查看具体的降权处理信息,依据该信息,可以帮助您评估 降权是否对其业务程序造成相关影响。

● 不可迁移的用户:不可迁移的用户指由于某些原因,DRS不支持该类数据库用户 的迁移。该类账号将在目标数据库中缺失,请先确保业务不受该类账号影响。同 时,任务启动后,所有针对该类账号进行的权限密码操作,将会导致增量迁移失 败。

您可以根据业务需求选择“迁移”或者“不迁移”这些用户,当您选择“迁移”数据 库用户时,可以选择部分迁移,也可以选择全部迁移。可按照如下操作步骤进行数据 库用户、权限和密码的处理,此处以勾选所有可以迁移的数据库用户为例。

迁移用户模块主要由账号名称、账号权限和账号密码三部分构成。

步骤1 一般账号名称的组成格式为:'账号名'+@+'host',其中host表示具体允许访问源端数 据库的目标库IP地址,您可以根据具体的业务场景选择是否需要修改账号的host地 址,对目标库IP进行重规划。

(15)

host地址可在如下图所示的输入框中进行修改即可。源库为MySQL 8.0时,不建议修 改host地址。

3-1 修改 host 地址

步骤2 账号权限一般默认不可修改,对于支持迁移的账号(可完整迁移的用户和需要降权的 用户),系统也将默认支持对应用户权限的迁移。

迁移成功后,存储在目标数据库中的对应用户(需要降权的用户)是经过降权处理的 用户。

3-2 账号权限

步骤3 DRS支持数据库用户密码的迁移。

数据库用户密码的迁移可通过如下两种方式来处理。

由于DRS在迁移时不会分析您的密码数据和强度,源系统密码复杂度过弱则存在安全 风险,为了确保迁移过程中数据的安全性,您可以根据业务需求,选择是否需要重新 设置数据库用户密码,通过设置较高的密码复杂度来持续保护数据库。

(16)

3-3 密码迁移

您可以选择在迁移的过程中,直接迁移源数据库系统当前的密码,此时不需要通过勾 选“重置密码”来设置新密码。数据库用户密码迁移至目标库后,您如果担心用户密 码强度较弱,为了确保数据库的安全性,此时也可以选择在目标库端重新设置强度较 高的源系统密码。

方式二:重置密码。

3-4 重置密码

如上图所示,您可以通过勾选“重置密码”选择立即重新设置源系统密码后再继续进 行用户密码迁移。

您可以选择某个指定支持迁移的用户,在“输入密码”列直接设置新密码或者选择所 有支持迁移的用户,勾选右下角“统一输入密码”,批量将所选用户密码设置为相同 的密码,以便快速完成迁移。使用批量方法设置的密码,待迁移成功后,可以在目标 数据库端通过执行DDL语句,进行密码重置。

步骤4 对于需要降权处理的用户和不支持迁移的用户,在备注列的查看详情中会提示具体的 原因,您需要单击对应用户备注列的“查看”,确认详情后才可进行下一步操作。如 果存在多个需要查看备注详情的用户,您也可以单击“确认所有备注”按钮,一键查 看备注信息。

(17)

3-5 查看备注信息

数据库用户已存在是不支持迁移到目标数据库的常见情形,此时您可以根据实际情 况,决定是否需要删除目标端已存在的数据库用户,并单击“刷新”按钮,刷新当前 数据库迁移用户的分类。

说明

● 目前仅MySQL支持迁移用户功能。

● 以上重新设置的密码强度必须满足目标数据库的密码复杂度要求。

----结束

MongoDB 数据库操作

在MongoDB数据库迁移过程中,常见的迁移用户一般分为两类:可迁移的用户和不可 迁移的用户。

您可以根据业务需求选择“迁移”或者“不迁移”这些用户,当您选择迁移数据库用 户时,需要按照如下操作步骤进行数据库用户及角色的处理。

迁移用户模块主要由账号名称、账号角色两部分构成。

步骤1 对于可支持迁移的用户或者角色,您可以根据业务需求选择需要迁移的账号及角色。

如果所选迁移的账号依赖于某些角色,需要同时迁移该账号和所依赖的角色,否则会 导致迁移失败。

(18)

3-6 选择迁移用户

步骤2 对于不支持迁移的用户或者角色,在备注列的查看详情中会提示具体的原因,您需要 单击对应用户备注列的“查看”,确认详情后才可进行下一步操作。如果存在多个需 要查看备注详情的用户,您也可以单击“确认所有备注”按钮,一键查看备注信息。

3-7 查看备注信息

----结束

3.2 参数对比列表

在进行数据库迁移时,为了确保迁移成功后业务应用的使用不受影响,数据复制服务 提供了参数对比功能帮助您进行源库和目标库参数一致性对比。

本章节针对不同的引擎版本,列举了常见的常规参数及性能参数,方便您在使用参数 对比功能时进行参考。

(19)

MySQL 5.6 版本

3-1 MySQL5.6 参数列表

参数名称 参数类型 是否需要重启数据库

connect_timeout 常规参数 否 event_scheduler 常规参数 否 innodb_lock_wait_timeou

t 常规参数 否

max_connections 常规参数 否 net_read_timeout 常规参数 否 net_write_timeout 常规参数 否 explicit_defaults_for_time

stamp 常规参数 是

innodb_flush_log_at_trx_

commit 常规参数 否

max_allowed_packet 常规参数 否 tx_isolation 常规参数 否 character_set_client 常规参数 否 character_set_connection 常规参数 否 collation_connection 常规参数 否 character_set_results 常规参数 否 collation_server 常规参数 否 binlog_cache_size 性能参数 否 binlog_stmt_cache_size 性能参数 否 bulk_insert_buffer_size 性能参数 否 innodb_buffer_pool_size 性能参数 是 key_buffer_size 性能参数 否 long_query_time 性能参数 否

(20)

MySQL 5.7 版本

3-2 MySQL5.7 参数列表

参数名称 参数类型 是否需要重启数据库

connect_timeout 常规参数 否 event_scheduler 常规参数 否 innodb_lock_wait_timeou

t 常规参数 否

max_connections 常规参数 否 net_read_timeout 常规参数 否 net_write_timeout 常规参数 否 explicit_defaults_for_time

stamp 常规参数 否

innodb_flush_log_at_trx_

commit 常规参数 否

max_allowed_packet 常规参数 否 tx_isolation 常规参数 否 character_set_client 常规参数 否 character_set_connection 常规参数 否 collation_connection 常规参数 否 character_set_results 常规参数 否 collation_server 常规参数 否 binlog_cache_size 性能参数 否 binlog_stmt_cache_size 性能参数 否 bulk_insert_buffer_size 性能参数 否 innodb_buffer_pool_size 性能参数 否 key_buffer_size 性能参数 否 long_query_time 性能参数 否 query_cache_type 性能参数 否 read_buffer_size 性能参数 否 read_rnd_buffer_size 性能参数 否

(21)

参数名称 参数类型 是否需要重启数据库 sort_buffer_size 性能参数 否

sync_binlog 性能参数 否

MySQL 8.0 版本

3-3 MySQL8.0 参数列表

参数名称 参数类型 是否需要重启数据库

connect_timeout 常规参数 否 event_scheduler 常规参数 否 innodb_lock_wait_timeou

t 常规参数 否

max_connections 常规参数 否 net_read_timeout 常规参数 否 net_write_timeout 常规参数 否 explicit_defaults_for_time

stamp 常规参数 否

innodb_flush_log_at_trx_

commit 常规参数 否

max_allowed_packet 常规参数 否 tx_isolation 常规参数 否 character_set_client 常规参数 否 character_set_connection 常规参数 否 collation_connection 常规参数 否 character_set_results 常规参数 否 collation_server 常规参数 否 binlog_cache_size 性能参数 否

(22)

参数名称 参数类型 是否需要重启数据库 query_cache_type 性能参数 否

read_buffer_size 性能参数 否 read_rnd_buffer_size 性能参数 否 sort_buffer_size 性能参数 否

sync_binlog 性能参数 否

说明

● 目前仅MySQL数据库迁移支持参数对比的功能。

● 对于上述参数“innodb_buffer_pool_size”,参数对比功能对应用到目标数据库的值做了内 控,最大不会超过目标数据库总内存的70%。所以有时候是无法完全和源数据库该参数取值 一致,这是为了避免目标数据库设置过大,而导致数据库无法启动,如果您觉得上述最大值 偏小,可以在数据库中通过执行命令手动设置更大的值。

3.3 常见场景的迁移任务配置

3.3.1 创建 VPN、专线网络迁移任务

本章节将以MySQL到RDS for MySQL的迁移为示例,介绍在VPN或专线网络场景下,

通过数据复制服务管理控制台配置数据迁移任务的流程,其他存储引擎的配置流程类 似。

VPN、专线网络适合通过VPN网络或专线网络,实现其他云下自建数据库与云上数据 库迁移、或云上跨Region的数据库之间的迁移。

在数据复制服务中,数据库迁移是通过任务的形式完成的,通过创建任务向导,可以 完成任务信息配置、任务创建。迁移任务创建成功后,您也可以通过数据复制服务管 理控制台,对任务进行管理。

前提条件

● 已登录数据复制服务控制台。

● 账户余额大于等于0元。

● 参见实时迁移。

● 参见使用须知。

操作步骤

步骤1 在“实时迁移管理”页面,单击“创建迁移任务”,进入创建迁移任务页面。

步骤2 在“迁移实例”页面,填选区域、任务名称、任务异常通知设置、SMN主题、时延阈 值、任务异常自动结束时间、描述、迁移实例信息,单击“下一步”。

(23)

3-8 迁移任务信息

3-4 任务和描述

参数 描述

区域 当前所在区域,可进行切换。

任务名称 任务名称在4-50位之间,必须以字母开头,不区分大小写,可以包 含字母、数字、中划线或下划线,不能包含其他的特殊字符。

任务异常通 知设置

该项为可选参数,开启之后,选择对应的SMN主题。当迁移任务状 态异常时,系统将发送通知。

SMN主题 “任务异常通知设置”项开启后可见,需提前在SMN上申请主题并 添加订阅。

SMN主题申请和订阅可参考《消息通知服务用户指南》。

时延阈值 在增量迁移阶段,源数据库和目标数据库之间的实时同步有时会存 在一个时间差,称为时延,单位为秒。

时延阈值设置是指时延超过一定的值后(时延阈值范围为1—

3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定 的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情 况。

说明

(24)

参数 描述

描述 描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。

3-9 迁移实例信息

3-5 迁移实例信息

参数 描述

数据流动方向 选择入云。

入云指目标端数据库为本云关系型数据库。

源数据库引擎 选择MySQL。

目标数据库引擎 选择MySQL。

网络类型 选择VPN、专线网络。

默认为公网网络类型,可支持选择VPC网络、VPN、专线网 络、公网网络。

● VPC网络:适合云上数据库之间的迁移。

● 公网网络:适合通过公网网络把其他云下或其他平台的数据 库迁移到目标数据库,该类型要求目标数据库绑定弹性公网 IP(EIP)。

● VPN网络:适合通过VPN网络,实现其他云下自建数据库与 云上数据库迁移、或云上跨Region的数据库之间的迁移。

● 专线网络:适合通过专线网络,实现其他云下自建数据库与 云上数据库迁移、或云上跨Region的数据库之间的迁移。

目标数据库实例 用户所创建的目标数据库实例。

(25)

参数 描述 迁移实例所在子

选择迁移实例所在的子网。也可以单击“查看子网”,跳转至

“网络控制台”查看实例所在子网帮助选择。

默认值为当前所选数据库实例所在子网,请选择有可用IP地址 的子网。为确保迁移实例创建成功,仅显示已经开启DHCP的子 网。

目标库读写设置 ● 只读

迁移中,目标数据库将转化为只读、不可写入的状态,迁移 任务结束后恢复可读写状态,此选项可有效的确保数据迁移 的完整性和成功率,推荐此选项。

● 读写

迁移中,目标数据库可以读写,但需要避免操作或接入应用 后会更改迁移中的数据(注意:无业务的程序常常也有微量 的数据操作),进而形成数据冲突、任务故障、且无法修复 续传,充分了解要点后可选择此选项。

迁移模式 ● 全量:该模式为数据库一次性迁移,适用于可中断业务的数 据库迁移场景,全量迁移将非系统数据库的全部数据库对象 和数据一次性迁移至目标端数据库,包括:表、视图、存储 过程等。

说明

如果用户只进行全量迁移时,建议停止对源数据库的操作,否则迁 移过程中源数据库产生的新数据不会同步到目标数据库。

● 全量+增量:该模式为数据库持续性迁移,适用于对业务中 断敏感的场景,通过全量迁移过程中完成的目标端数据库的 初始化后,增量迁移阶段通过解析日志等技术,将源端和目 标端数据库保持数据持续一致。

说明选择“全量+增量”迁移模式,增量迁移可以在全量迁移完成的基础上 实现数据的持续同步,无需中断业务,实现迁移过程中源业务和数据库 继续对外提供访问。

企业项目 对于已成功关联企业项目的用户,仅需在“企业项目”下拉框 中选择目标项目。

如果需要自定义企业项目,请前往项目管理服务进行创建。关 于如何创建项目,详见《项目管理用户指南》。

标签 可选配置,对迁移任务的标识。使用标签可方便管理您的迁移 任务。每个任务最多支持10个标签配额。

任务创建成功后,您可以单击实例名称,在“标签”页签下查 看对应标签。关于标签的详细操作,请参见标签管理。

(26)

3-10 源库信息页面

3-6 源库信息

参数 描述

IP地址或域名 源数据库的IP地址或域名。

端口 源数据库服务端口,可输入范围为1~65535间的整数。

数据库用户名 源数据库的用户名。

数据库密码 源数据库的用户名所对应的密码。

SSL安全连接 通过该功能,用户可以选择是否开启对迁移链路的加密。如 果开启该功能,需要用户上传SSL CA根证书。

说明

– 最大支持上传500KB的证书文件。

– 如果不使用SSL证书,请自行承担数据安全风险。

说明

源数据库的IP地址、端口、用户名和密码将在迁移过程中被加密暂存到数据库和迁移实例 主机上,待该任务删除后会永久清除。

● 目标库信息配置

(27)

3-11 目标库信息

3-7 目标库信息

参数 描述

数据库实例名称 默认为创建迁移任务时选择的关系型数据库实例,不可进行 修改。

数据库用户名 目标数据库对应的数据库用户名。

数据库密码 目标数据库的登录密码。

所有Definer迁 移到该用户下

– 是迁移后,所有源数据库对象的Definer都会迁移至该用户 下,其他用户需要授权后才具有数据库对象权限,如何授 权请参考MySQL迁移中Definer强制转化后如何维持原业 务用户权限体系

– 否迁移后,将保持源数据库对象Definer定义不变,选择此 选项,需要配合下一步用户权限迁移功能,将源数据库的 用户全部迁移,这样才能保持源数据库的权限体系完全不 变。

说明

目标数据库用户名和密码将在迁移过程中被加密暂存到数据库和迁移实例主机上,待该任

(28)

3-12 迁移模式

(29)

3-8 迁移模式和迁移对象

参数 描述

流速模式 流速模式支持限速和不限速,默认为不限速。

● 限速

自定义的最大迁移速度,迁移过程中的迁移速度将不会超过该速 度。

当流速模式选择了“限速”时,你需要通过流速设置来定时控制迁 移速度。流速设置通常包括限速时间段和流速大小的设置。默认的 限速时间段为全天限流,您也可以根据业务需求自定义时段限流。

自定义的时段限流支持最多设置3个定时任务,每个定时任务之间 不能存在交叉的时间段,未设定在限速时间段的时间默认为不限 速。

流速的大小需要根据业务场景来设置,不能超过9999MB/s。

3-13 设置流速模式

● 不限速

对迁移速度不进行限制,通常会最大化使用源数据库的出口带宽。

该流速模式同时会对源数据库造成读消耗,消耗取决于源数据库的 出口带宽。比如源数据库的出口带宽为100MB/s,假设高速模式使 用了80%带宽,则迁移对源数据库将造成80MB/s的读操作IO消 耗。

说明

– 限速模式只对全量迁移阶段生效,增量迁移阶段不生效。

– 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。

(30)

参数 描述

快照模式 如果您选择的是全量迁移模式的任务,数据复制服务支持设置快照模 式。

● 非快照式

适用于停止业务数据写入的导出,如果全量迁移中仍然有业务数据 的修改,则导出数据为时间点非水平一致。稳定性和性能要优于快 照式全量迁移。

● 快照式

可以在业务运行时产生一份时间水平一致的快照数据,具有业务数 据分析价值,过程中的数据变化不会体现在导出数据中。

说明

– 快照读会使用MySQL备份锁进行全局锁表,在开启一致性读后自动解锁

(加锁时间在3s以内),备份锁会对此期间的DML或者DDL操作造成阻 塞,建议用户选择源库空闲的时间段使用快照备份功能。

– 目前仅MySQL全量模式的迁移任务支持快照模式设置。

– 在快照迁移时不允许执行DDL操作,否则会导致全量迁移失败。

迁移用户 数据库的迁移过程中,迁移用户需要进行单独处理。

常见的迁移用户一般分为三类:可完整迁移的用户、需要降权的用户 和不可迁移的用户。您可以根据业务需求选择“迁移”或者“不迁 移”,选择“迁移”后,可根据需要选择迁移用户。

● 迁移

当您选择迁移用户时,请参见《数据复制服务用户指南》中“迁移 用户”章节进行数据库用户、权限及密码的处理。

● 不迁移

迁移过程中,将不进行数据库用户、权限和密码的迁移。

迁移对象 您可以根据业务需求,选择全部对象迁移、表级迁移或者库级迁移。

● 全部迁移:将源数据库中的所有对象全部迁移至目标数据库,对象 迁移到目标数据库实例后,对象名将会保持与源数据库实例对象名 一致且无法修改。

● 表级迁移:将选择的表级对象迁移至目标数据库。

● 库级迁移:将选择的库级对象迁移至目标数据库。

如果有切换源数据库的操作或源库迁移对象变化的情况,请务必在选 择迁移对象前单击右上角的 ,以确保待选择的对象为最新源数据库 对象。

说明

● 若选择部分数据库进行迁移时,由于存储过程、视图等对象可能与其他数据 库的表存在依赖关系,若所依赖的表未迁移,则会导致迁移失败。建议您在 迁移之前进行确认,或选择全部数据库进行迁移。

● 选择对象的时候,对象名称的前后空格不显示,中间如有多个空格只显示一 个空格。

● 选择对象的时候支持搜索,以便您快速选择需要的数据库对象。

步骤5 在“预检查”页面,进行迁移任务预校验,校验是否可进行迁移。

● 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”

按钮重新进行迁移任务预校验。

(31)

预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过 项修复方法”。

3-14 预检查

● 预检查完成后,且预检查通过率为100%时,单击“下一步”。

说明

所有检查项结果均通过时,若存在待确认项,需要阅读并确认详情后才可以继续执行下一 步操作。

步骤6 进入“参数对比”页面,进行参数对比。

参数对比功能从常规参数和性能参数两个维度,展示了源数据库和目标数据库的参数 值是否一致。您可以根据业务需求,决定是否选用该功能。该操作不影响数据的迁 移,主要目的是为了确保迁移成功后业务应用的使用不受影响。

● 若您选择不进行参数对比,可跳过该步骤,单击页面右下角“下一步”按钮,继 续执行后续操作。

● 若您选择进行参数对比,请参照如下的步骤操作。

一般情况下,对于常规参数,如果源库和目标库存在不一致的情况,建议将目标 数据库的参数值通过“一键修改”按钮修改为和源库对应参数相同的值。

(32)

3-15 修改常规参数

对于性能参数,您可以根据业务场景,自定义源数据库和目标库的参数值,二者 结果可以一致也可以不一致。

– 若您需要将对比结果一致的性能参数修改为不一致,需要在“目标库值调整 为”一列手动输入结果,单击左上角“一键修改”按钮,即可将源数据库和 目标数据库对应的性能参数值改为不一致。

– 若您想将对比结果不一致的参数改为一致结果,请参考如下流程进行修改:

i. 对齐源库和目标库的参数值。

当源库和目标库对应的参数值出现不一致时,选择需要修改的参数,单 击“一键对齐”按钮,系统将帮您自动填充目标数据库的参数值,使其 和源库对应的参数值保持一致。

3-16 一键对齐参数

说明

对齐参数值的操作,您也可以通过手动输入结果。

ii. 修改参数值。

(33)

源库和目标库的不一致参数值对齐后,单击“一键修改”按钮,系统将 按照您当前设置的目标库参数值进行修改。修改完成后,目标库的参数 值和对比结果会自动进行更新。

3-17 修改性能参数

部分参数修改后无法在目标数据库立即生效,需要重启才能生效,此时 的对比结果显示为“待重启,不一致”。建议您在迁移任务启动之前重 启目标数据库,或者迁移结束后选择一个计划时间重启。如果您选择迁 移结束后重启目标数据库,请合理设置重启计划时间,避免参数生效太 晚影响业务的正常使用。

在进行参数对比功能时,您可以参见《数据复制服务用户指南》中“参 数对比列表”进行参数设置。

iii. 参数对比操作完成后,单击“下一步”。

步骤7 在“任务确认”页面,设置迁移任务的启动时间,并确认迁移任务信息无误后,单击

“启动任务”,提交迁移任务。

迁移任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”。

预计迁移任务启动后,会对源数据库和目标数据库的性能产生影响,建议选择业务低 峰期,合理设置迁移任务的启动时间。

步骤8 迁移任务提交后,您可在“实时迁移管理”页面,查看并管理自己的任务。

● 您可查看任务提交后的状态,状态请参见任务状态。

● 在任务列表的右上角,单击 刷新列表,可查看到最新的任务状态。

----结束

(34)

前提条件

● 已登录数据复制服务控制台。

● 账户余额大于等于0元。

● 参见实时迁移。

● 参见使用须知。

操作步骤

步骤1 在“实时迁移管理”页面,单击“创建迁移任务”,进入创建迁移任务页面。

步骤2 在“迁移实例”页面,填选区域、任务名称、任务异常通知设置、SMN主题、时延阈 值、任务异常自动结束时间、描述、迁移实例信息,单击“下一步”。

3-18 迁移任务信息

3-9 任务和描述

参数 描述

区域 当前所在区域,可进行切换。

任务名称 任务名称在4-50位之间,必须以字母开头,不区分大小写,可以包 含字母、数字、中划线或下划线,不能包含其他的特殊字符。

任务异常通

知设置 该项为可选参数,开启之后,选择对应的SMN主题。当迁移任务状 态异常时,系统将发送通知。

SMN主题 “任务异常通知设置”项开启后可见,需提前在SMN上申请主题并 添加订阅。

SMN主题申请和订阅可参考《消息通知服务用户指南》。

(35)

参数 描述

时延阈值 在增量迁移阶段,源数据库和目标数据库之间的实时同步有时会存 在一个时间差,称为时延,单位为秒。

时延阈值设置是指时延超过一定的值后(时延阈值范围为1—

3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定 的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情 况。

说明

● 首次进入增量迁移阶段,会有较多数据等待同步,存在较大的时延,属于 正常情况,不在此功能的监控范围之内。

● 设置时延阈值之前,需要设置任务异常通知。

任务异常自 动结束时间

(天)

设置任务异常自动结束天数,输入值必须在14-100之间。

说明

异常状态下的任务仍然会计费,而长时间异常的任务无法续传和恢复。设置 任务异常自动结束天数后,异常且超时的任务将会自动结束,以免产生不必 要的费用。

描述 描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。

3-19 迁移实例信息

(36)

参数 描述

目标数据库引擎 选择MySQL。

网络类型 此处选择VPC网络。

默认为公网网络类型,可按照需求选择VPC网络、VPN网络、

专线网络、公网网络。

● VPC网络:适合云上数据库之间的迁移。

● 公网网络:适合通过公网网络把其他云下或其他平台的数据 库迁移到目标数据库,该类型要求目标数据库绑定弹性公网 IP(EIP)。

● VPN网络:适合通过VPN网络,实现其他云下自建数据库与 云上数据库迁移、或云上跨Region的数据库之间的迁移。

● 专线网络:适合通过专线网络,实现其他云下自建数据库与 云上数据库迁移、或云上跨Region的数据库之间的迁移。

目标数据库实例 用户所创建的目标数据库实例。

迁移实例所在子 网

选择迁移实例所在的子网。也可以单击“查看子网”,跳转至

“网络控制台”查看实例所在子网帮助选择。

默认值为当前所选数据库实例所在子网,请选择有可用IP地址 的子网。为确保迁移实例创建成功,仅显示已经开启DHCP的子 网。

目标库读写设置 ● 只读

迁移中,目标数据库将转化为只读、不可写入的状态,迁移 任务结束后恢复可读写状态,此选项可有效的确保数据迁移 的完整性和成功率,推荐此选项。

● 读写

迁移中,目标数据库可以读写,但需要避免操作或接入应用 后会更改迁移中的数据(注意:无业务的程序常常也有微量 的数据操作),进而形成数据冲突、任务故障、且无法修复 续传,充分了解要点后可选择此选项。

迁移模式 ● 全量:该模式为数据库一次性迁移,适用于可中断业务的数 据库迁移场景,全量迁移将非系统数据库的全部数据库对象 和数据一次性迁移至目标端数据库,包括:表、视图、存储 过程等。

说明

如果用户只进行全量迁移时,建议停止对源数据库的操作,否则迁 移过程中源数据库产生的新数据不会同步到目标数据库。

● 全量+增量:该模式为数据库持续性迁移,适用于对业务中 断敏感的场景,通过全量迁移过程中完成的目标端数据库的 初始化后,增量迁移阶段通过解析日志等技术,将源端和目 标端数据库保持数据持续一致。

说明选择“全量+增量”迁移模式,增量迁移可以在全量迁移完成的基础上 实现数据的持续同步,无需中断业务,实现迁移过程中源业务和数据库 继续对外提供访问。

(37)

参数 描述

企业项目 对于已成功关联企业项目的用户,仅需在“企业项目”下拉框 中选择目标项目。

如果需要自定义企业项目,请前往项目管理服务进行创建。关 于如何创建项目,详见《项目管理用户指南》。

标签 可选配置,对迁移任务的标识。使用标签可方便管理您的迁移 任务。每个任务最多支持10个标签配额。

任务创建成功后,您可以单击实例名称,在“标签”页签下查 看对应标签。关于标签的详细操作,请参见标签管理。

步骤3 在“源库及目标库”页面,迁移实例创建成功后,填选源库信息和目标库信息,建议 您单击“源库和目标库”处的“测试连接”,分别测试并确定与源库和目标库连通 后,勾选协议,单击“下一步”。

说明

此处源库类型分为ECS自建库和RDS实例,需要根据源数据库的实际来源选择相应的分类。两种 场景下的参数配置不一样,需要根据具体场景进行配置。

● 场景一:ECS自建库源库信息配置 图3-20 ECS 自建库场景源库信息

(38)

参数 描述

VPC 源数据库实例所在的虚拟专用网络,可以对不同业务进行网 络隔离。您需要创建或选择所需的虚拟私有云。如何创建虚 拟私有云,请参见《虚拟私有云用户指南》中的“创建虚拟 私有云基本信息及默认子网”。

子网 通过子网提供与其他网络隔离的、可以独享的网络资源,以 提高网络安全。子网在可用分区内才会有效,创建源数据库 实例的子网需要开启DHCP功能,在创建过程中也不能关闭 已选子网的DHCP功能。

IP地址或域名 源数据库的IP地址或域名。

端口 源数据库服务端口,可输入范围为1~65535间的整数。

数据库用户名 源数据库的用户名。

数据库密码 源数据库的用户名所对应的密码。

SSL安全连接 通过该功能,用户可以选择是否开启对迁移链路的加密。如 果开启该功能,需要用户上传SSL CA根证书。

说明

– 最大支持上传500KB的证书文件。

– 如果不使用SSL证书,请自行承担数据安全风险。

说明

源数据库的IP地址或域名、数据库用户名和密码,会被系统加密暂存,直至删除该迁移任 务后自动清除。

● 场景二:RDS实例源库信息配置

3-21 RDS 实例场景源库信息

3-12 RDS 实例场景源库信息

参数 描述

源库类型 选择RDS实例。

(39)

参数 描述

数据库实例名称 选择待迁移的关系型数据库实例作为源数据库实例。

数据库用户名 源数据库实例的用户名。

数据库密码 源数据库的用户名所对应的密码。

● 目标库信息配置

3-22 目标库信息

3-13 目标库信息

参数 描述

数据库实例名称 默认为创建迁移任务时选择的关系型数据库实例,不可进行 修改。

数据库用户名 目标数据库对应的数据库用户名。

数据库密码 目标数据库的登录密码。

所有Definer迁

移到该用户下 – 是

迁移后,所有源数据库对象的Definer都会迁移至该用户 下,其他用户需要授权后才具有数据库对象权限,如何授 权请参考MySQL迁移中Definer强制转化后如何维持原业 务用户权限体系

– 否

(40)

步骤4 在“迁移设置”页面,设置迁移用户和迁移对象,单击“下一步”。

3-23 迁移模式

(41)

3-14 迁移模式和迁移对象

参数 描述

流速模式 流速模式支持限速和不限速,默认为不限速。

● 限速

自定义的最大迁移速度,迁移过程中的迁移速度将不会超过该速 度。

当流速模式选择了“限速”时,你需要通过流速设置来定时控制迁 移速度。流速设置通常包括限速时间段和流速大小的设置。默认的 限速时间段为全天限流,您也可以根据业务需求自定义时段限流。

自定义的时段限流支持最多设置3个定时任务,每个定时任务之间 不能存在交叉的时间段,未设定在限速时间段的时间默认为不限 速。

流速的大小需要根据业务场景来设置,不能超过9999MB/s。

3-24 设置流速模式

● 不限速

对迁移速度不进行限制,通常会最大化使用源数据库的出口带宽。

该流速模式同时会对源数据库造成读消耗,消耗取决于源数据库的 出口带宽。比如源数据库的出口带宽为100MB/s,假设高速模式使 用了80%带宽,则迁移对源数据库将造成80MB/s的读操作IO消 耗。

说明

– 限速模式只对全量迁移阶段生效,增量迁移阶段不生效。

– 您也可以在创建任务后修改流速模式。具体方法请参见修改流速模式。

(42)

参数 描述

快照模式 如果您选择的是全量迁移模式的任务,数据复制服务支持设置快照模 式。

● 非快照式

适用于停止业务数据写入的导出,如果全量迁移中仍然有业务数据 的修改,则导出数据为时间点非水平一致。稳定性和性能要优于快 照式全量迁移。

● 快照式

可以在业务运行时产生一份时间水平一致的快照数据,具有业务数 据分析价值,过程中的数据变化不会体现在导出数据中。

说明

– 快照读会使用MySQL备份锁进行全局锁表,在开启一致性读后自动解锁

(加锁时间在3s以内),备份锁会对此期间的DML或者DDL操作造成阻 塞,建议用户选择源库空闲的时间段使用快照备份功能。

– 目前仅MySQL全量模式的迁移任务支持快照模式设置。

– 在快照迁移时不允许执行DDL操作,否则会导致全量迁移失败。

迁移用户 数据库的迁移过程中,迁移用户需要进行单独处理。

常见的迁移用户一般分为三类:可完整迁移的用户、需要降权的用户 和不可迁移的用户。您可以根据业务需求选择“迁移”或者“不迁 移”,选择“迁移”后,可根据需要选择迁移用户。

● 迁移

当您选择迁移用户时,请参见《数据复制服务用户指南》中“迁移 用户”章节进行数据库用户、权限及密码的处理。

● 不迁移

迁移过程中,将不进行数据库用户、权限和密码的迁移。

迁移对象 您可以根据业务需求,选择全部对象迁移、表级迁移或者库级迁移。

● 全部迁移:将源数据库中的所有对象全部迁移至目标数据库,对象 迁移到目标数据库实例后,对象名将会保持与源数据库实例对象名 一致且无法修改。

● 表级迁移:将选择的表级对象迁移至目标数据库。

● 库级迁移:将选择的库级对象迁移至目标数据库。

如果有切换源数据库的操作或源库迁移对象变化的情况,请务必在选 择迁移对象前单击右上角的 ,以确保待选择的对象为最新源数据库 对象。

说明

● 若选择部分数据库进行迁移时,由于存储过程、视图等对象可能与其他数据 库的表存在依赖关系,若所依赖的表未迁移,则会导致迁移失败。建议您在 迁移之前进行确认,或选择全部数据库进行迁移。

● 选择对象的时候,对象名称的前后空格不显示,中间如有多个空格只显示一 个空格。

● 选择对象的时候支持搜索,以便您快速选择需要的数据库对象。

步骤5 在“预检查”页面,进行迁移任务预校验,校验是否可进行迁移。

● 查看检查结果,如有不通过的检查项,需要修复不通过项后,单击“重新校验”

按钮重新进行迁移任务预校验。

(43)

预检查不通过项处理建议请参见《数据复制服务用户指南》中的“预检查不通过 项修复方法”。

3-25 预检查

● 预检查完成后,且预检查通过率为100%时,单击“下一步”。

说明

所有检查项结果均通过时,若存在待确认项,需要阅读并确认详情后才可以继续执行下一 步操作。

步骤6 进入“参数对比”页面,进行参数对比。

参数对比功能从常规参数和性能参数两个维度,展示了源数据库和目标数据库的参数 值是否一致。您可以根据业务需求,决定是否选用该功能。该操作不影响数据的迁 移,主要目的是为了确保迁移成功后业务应用的使用不受影响。

● 若您选择不进行参数对比,可跳过该步骤,单击页面右下角“下一步”按钮,继 续执行后续操作。

● 若您选择进行参数对比,请参照如下的步骤操作。

一般情况下,对于常规参数,如果源库和目标库存在不一致的情况,建议将目标 数据库的参数值通过“一键修改”按钮修改为和源库对应参数相同的值。

(44)

3-26 修改常规参数

对于性能参数,您可以根据业务场景,自定义源数据库和目标库的参数值,二者 结果可以一致也可以不一致。

– 若您需要将对比结果一致的性能参数修改为不一致,需要在“目标库值调整 为”一列手动输入结果,单击左上角“一键修改”按钮,即可将源数据库和 目标数据库对应的性能参数值改为不一致。

– 若您想将对比结果不一致的参数改为一致结果,请参考如下流程进行修改:

i. 对齐源库和目标库的参数值。

当源库和目标库对应的参数值出现不一致时,选择需要修改的参数,单 击“一键对齐”按钮,系统将帮您自动填充目标数据库的参数值,使其 和源库对应的参数值保持一致。

3-27 一键对齐参数

说明

对齐参数值的操作,您也可以通过手动输入结果。

ii. 修改参数值。

(45)

源库和目标库的不一致参数值对齐后,单击“一键修改”按钮,系统将 按照您当前设置的目标库参数值进行修改。修改完成后,目标库的参数 值和对比结果会自动进行更新。

3-28 修改性能参数

部分参数修改后无法在目标数据库立即生效,需要重启才能生效,此时 的对比结果显示为“待重启,不一致”。建议您在迁移任务启动之前重 启目标数据库,或者迁移结束后选择一个计划时间重启。如果您选择迁 移结束后重启目标数据库,请合理设置重启计划时间,避免参数生效太 晚影响业务的正常使用。

在进行参数对比功能时,您可以参见《数据复制服务用户指南》中“参 数对比列表”进行参数设置。

iii. 参数对比操作完成后,单击“下一步”。

步骤7 在“任务确认”页面,设置迁移任务的启动时间,并确认迁移任务信息无误后,单击

“启动任务”,提交迁移任务。

迁移任务的启动时间可以根据业务需求,设置为“立即启动”或“稍后启动”。

预计迁移任务启动后,会对源数据库和目标数据库的性能产生影响,建议选择业务低 峰期,合理设置迁移任务的启动时间。

步骤8 迁移任务提交后,您可在“实时迁移管理”页面,查看并管理自己的任务。

● 您可查看任务提交后的状态,状态请参见任务状态。

● 在任务列表的右上角,单击 刷新列表,可查看到最新的任务状态。

----结束

(46)

前提条件

● 已登录数据复制服务控制台。

● 账户余额大于等于0元。

● 参见实时迁移。

● 参见使用须知。

操作步骤

步骤1 在“实时迁移管理”页面,单击“创建迁移任务”,进入创建迁移任务页面。

步骤2 在“迁移实例”页面,填选区域、任务名称、任务异常通知设置、SMN主题、时延阈 值、任务异常自动结束时间、描述、迁移实例信息,单击“下一步”。

3-29 迁移任务信息

3-15 任务和描述

参数 描述

区域 当前所在区域,可进行切换。

任务名称 任务名称在4-50位之间,必须以字母开头,不区分大小写,可以包 含字母、数字、中划线或下划线,不能包含其他的特殊字符。

任务异常通

知设置 该项为可选参数,开启之后,选择对应的SMN主题。当迁移任务状 态异常时,系统将发送通知。

SMN主题 “任务异常通知设置”项开启后可见,需提前在SMN上申请主题并 添加订阅。

SMN主题申请和订阅可参考《消息通知服务用户指南》。

(47)

参数 描述

时延阈值 在增量迁移阶段,源数据库和目标数据库之间的实时同步有时会存 在一个时间差,称为时延,单位为秒。

时延阈值设置是指时延超过一定的值后(时延阈值范围为1—

3600s),DRS可以发送告警通知。告警通知将在时延稳定超过设定 的阈值6min后发送,避免出现由于时延波动反复发送告警通知的情 况。

说明

● 首次进入增量迁移阶段,会有较多数据等待同步,存在较大的时延,属于 正常情况,不在此功能的监控范围之内。

● 设置时延阈值之前,需要设置任务异常通知。

任务异常自 动结束时间

(天)

设置任务异常自动结束天数,输入值必须在14-100之间。

说明

异常状态下的任务仍然会计费,而长时间异常的任务无法续传和恢复。设置 任务异常自动结束天数后,异常且超时的任务将会自动结束,以免产生不必 要的费用。

描述 描述不能超过256位,且不能包含! = < > & ' " \ 特殊字符。

3-30 迁移实例信息

(48)

参数 描述 目标数据库引擎 选择DDS。

网络类型 默认为公网网络类型,可按照需求选择VPC网络、VPN网络、

专线网络、公网网络。

● VPC网络:适合云上数据库之间的迁移。

● 公网网络:适合通过公网网络把其他云下或其他平台的数据 库迁移到目标数据库,该类型要求目标数据库绑定弹性公网 IP(EIP)。

● VPN网络:适合通过VPN网络,实现其他云下自建数据库与 云上数据库迁移、或云上跨Region的数据库之间的迁移。

● 专线网络:适合通过专线网络,实现其他云下自建数据库与 云上数据库迁移、或云上跨Region的数据库之间的迁移。

说明分片集群的全量+增量迁移目前不支持选择VPC网络。

目标数据库实例 用户所创建的目标数据库实例。

迁移实例所在子 网

选择迁移实例所在的子网。也可以单击“查看子网”,跳转至

“网络控制台”查看实例所在子网帮助选择。

默认值为当前所选数据库实例所在子网,请选择有可用IP地址 的子网。为确保迁移实例创建成功,仅显示已经开启DHCP的子 网。

迁移模式 ● 全量:该模式为数据库一次性迁移,适用于可中断业务的数 据库迁移场景,全量迁移将非系统数据库的全部数据库对象 和数据一次性迁移至目标端数据库,包括:集合、索引等。

说明

如果用户只进行全量迁移时,建议停止对源数据库的操作,否则迁 移过程中源数据库产生的新数据不会同步到目标数据库。

● 全量+增量:该模式为数据库持续性迁移,适用于对业务中 断敏感的场景,通过全量迁移过程中完成的目标端数据库的 初始化后,增量迁移阶段通过解析日志等技术,将源端和目 标端数据库保持数据持续一致。

说明选择“全量+增量”迁移模式,增量迁移可以在全量迁移完成的基础上 实现数据的持续同步,无需中断业务,实现迁移过程中源业务和数据库 继续对外提供访问。

源数据库实例类 型

需要根据源数据库的具体来源进行设置。

● 当源库类型属于集群时,该项需要设置为集群

● 当源库类型属于副本集或者单节点时,该项需要设置为非集 群。

● 当源库类型为MongDB集群4.0及以上版本,集群实例无法获 取到分片节点的IP时,可选择集群(MongoDB 4.0+)。

源端分片个数 当源端实例类型设置为“集群”时,需要填写源端数据库实例 个数。

源端数据库实例个数默认最小值为2,最大值为32,你需要根据 源库实际的集群分片个数设置该值大小。

(49)

参数 描述

企业项目 对于已成功关联企业项目的用户,仅需在“企业项目”下拉框 中选择目标项目。

如果需要自定义企业项目,请前往项目管理服务进行创建。关 于如何创建项目,详见《项目管理用户指南》。

标签 可选配置,对迁移任务的标识。使用标签可方便管理您的迁移 任务。每个任务最多支持10个标签配额。

任务创建成功后,您可以单击实例名称,在“标签”页签下查 看对应标签。关于标签的详细操作,请参见标签管理。

步骤3 在“源库及目标库”页面,迁移实例创建成功后,填选源库信息和目标库信息,建议 您单击“源库和目标库”处的“测试连接”,分别测试并确定与源库和目标库连通 后,勾选协议,单击“下一步”。

3-31 源库信息页面

3-17 源库信息

参数 描述

mongosIP地址或

域名 源数据库的IP地址或域名,格式为IP地址/域名:端口。其中源数 据库服务端口,可输入范围为1~65534间的整数。

该输入框最多支持填写3组源数据库的IP地址或者域名信息,多 个值需要使用英文逗号隔开。例如:

192.168.0.1:8080,192.168.0.2:8080。同时需要确保所填写的多 个IP地址或域名属于同一个分片集群。

说明此处若填写的是多组IP地址或者域名信息,在进行测试连接的过程中,

數據

表 3-8 迁移模式和迁移对象 参数 描述 流速模式 流速模式支持限速和不限速,默认为不限速。 ● 限速 自定义的最大迁移速度,迁移过程中的迁移速度将不会超过该速 度。 当流速模式选择了“限速”时,你需要通过流速设置来定时控制迁 移速度。流速设置通常包括限速时间段和流速大小的设置。默认的 限速时间段为全天限流,您也可以根据业务需求自定义时段限流。 自定义的时段限流支持最多设置3个定时任务,每个定时任务之间 不能存在交叉的时间段,未设定在限速时间段的时间默认为不限 速。 流速的大小需要根据业务场景来设置,不能
表 3-14 迁移模式和迁移对象 参数 描述 流速模式 流速模式支持限速和不限速,默认为不限速。 ● 限速 自定义的最大迁移速度,迁移过程中的迁移速度将不会超过该速 度。 当流速模式选择了“限速”时,你需要通过流速设置来定时控制迁 移速度。流速设置通常包括限速时间段和流速大小的设置。默认的 限速时间段为全天限流,您也可以根据业务需求自定义时段限流。 自定义的时段限流支持最多设置3个定时任务,每个定时任务之间 不能存在交叉的时间段,未设定在限速时间段的时间默认为不限 速。 流速的大小需要根据业务场景来设置,不
表 3-20 任务和描述 参数 描述 区域 当前所在区域,可进行切换。 任务名称 任务名称在4-50位之间,必须以字母开头,不区分大小写,可以包 含字母、数字、中划线或下划线,不能包含其他的特殊字符。 任务异常通 知设置 该项为可选参数,开启之后,选择对应的SMN主题。当迁移任务状态异常时,系统将发送通知。 SMN主题 “任务异常通知设置”项开启后可见,需提前在SMN上申请主题并 添加订阅。 SMN主题申请和订阅可参考《消息通知服务用户指南》。 时延阈值 在增量迁移阶段,源数据库和目标数据库之间的实时同步有
表 3-21 迁移实例信息 参数 描述 数据流动方向 选择“入云”。 入云指目标数据库为本云数据库实例的场景。 源数据库引擎 选择“MySQL”。 目标数据库引擎 选择“GaussDB(for MySQL)主备版”。 网络类型 默认为公网网络类型,目前支持选择公网网络、VPC网络和 VPN、专线网络,此处以公网网络为示例。 ● VPC网络:适合云上数据库之间的迁移。 ● VPN、专线网络:适合通过VPN、专线网络,实现其他云下 自建数据库与云上数据库迁移、或云上跨Region的数据库之 间的迁移。 ● 公网
+7

參考文獻

相關文件

主要指标 单位 参考期.

主要指标 单位 参考期.

主要指标 单位 参考期.

主要指标 单位 参考期.

主要指标 单位 参考期.

主要指标 单位 参考期.

主要指标 单位 参考期.

主要指标 单位 参考期.