• 沒有找到結果。

MRS Hive连接适用于MapReduce服务,本教程为您介绍如何创建MRS Hive连接器。

前提条件

● 已创建CDM集群。

● 已获取MRS集群的Manager IP、管理员账号和密码,且该账号拥有数据导入、导 出的操作权限。

● MRS集群和CDM集群之间网络互通,网络互通需满足如下条件:

– CDM集群与云上服务处于不同区域的情况下,需要通过公网或者专线打通网 络。通过公网互通时,需确保CDM集群已绑定EIP,数据源所在的主机可以访 问公网且防火墙规则已开放连接端口。

– CDM集群与云上服务同区域情况下,同虚拟私有云、同子网、同安全组的不 同实例默认网络互通;如果同虚拟私有云但是子网或安全组不同,还需配置 路由规则及安全组规则,配置路由规则请参见如何配置路由规则章节,配置 安全组规则请参见如何配置安全组规则章节。

– 此外,您还必须确保该云服务的实例与CDM集群所属的企业项目必须相同,

如果不同,需要修改工作空间的企业项目。

新建 MRS hive 连接

步骤1 在集群管理界面,单击集群后的“作业管理”,选择“连接管理 > 新建连接”,进入 连接器类型的选择界面,如图7-1所示。

7-1 选择连接器类型

步骤2 选择“MRS Hive”,后单击下一步,配置MRS Hive连接的参数,如图7-2所示。

7-2 创建 MRS Hive 连接

步骤3 单击“显示高级属性”可查看更多可选参数,具体请参见5.6-配置关系数据库连接。这 里保持默认,必填参数如表7-1所示。

7-1 MRS Hive 连接参数

参数名 说明 取值样例

名称 连接的名称,根据连接的数据源类型,用户可自定

义便于记忆、区分的连接名。 mrs-link Manager IP MRS Manager的浮动IP地址,可以单击输入框后的

“选择”来选定已创建的MRS集群,CDM会自动填 充下面的鉴权参数。

127.0.0.1

认证类型 访问MRS的认证类型:

● SIMPLE:非安全模式选择Simple鉴权。

● KERBEROS:安全模式选择Kerberos鉴权。

SIMPLE

Hive版本 Hive的版本。根据服务端Hive版本设置。 HIVE_3_X 用户名 选择KERBEROS鉴权时,需要配置MRS Manager的

用户名和密码。从HDFS导出目录时,如果需要创 建快照,这里配置的用户需要HDFS系统的管理员 权限。

如果要创建MRS安全集群的数据连接,不能使用 admin用户。因为admin用户是默认的管理页面用 户,这个用户无法作为安全集群的认证用户来使 用。您可以创建一个新的MRS用户,然后在创建 MRS数据连接时,“用户名”和“密码”填写为新 建的MRS用户及其密码。

说明

● 如果CDM集群为2.9.0版本及之后版本,且MRS集群为 3.1.0及之后版本,则所创建的用户至少需具备 Manager_viewer的角色权限才能在CDM创建连接;

如果需要对应组件的进行库、表、数据的操作,还需 要添加对应组件的用户组权限。

● 如果CDM集群为2.9.0之前的版本,或MRS集群为3.1.0 之前的版本,则所创建的用户需要具备

Manager_administrator或System_administrator权 限,才能在CDM创建连接。

● 仅具备Manager_tenant或Manager_auditor权限,无 法创建连接。

cdm

密码 访问MRS Manager的用户密码。 -OBS支持 需服务端支持OBS存储。在创建Hive表时,您可以

指定将表存储在OBS中。 否

参数名 说明 取值样例 运行模式 “HIVE_3_X”版本支持该参数。支持以下模式:

● EMBEDDED:连接实例与CDM运行在一起,该 模式性能较好。

● STANDALONE:连接实例运行在独立进程。如 果CDM需要对接多个Hadoop数据源(MRS、

Hadoop或CloudTable),并且既有KERBEROS 认证模式又有SIMPLE认证模式,只能使用 STANDALONE模式或者配置不同的Agent。

说明:STANDALONE模式主要是用来解决版本 冲突问题的运行模式。当同一种数据连接的源端 或者目的端连接器的版本不一致时,存在jar包 冲突的情况,这时需要将源端或目的端放在 STANDALONE进程里,防止冲突导致迁移失 败。

EMBEDDED

是否使用集 群配置

用户可以在“连接管理”处创建集群配置,用于简

化Hadoop连接参数配置。 否

说明

单击“显示高级属性”,然后单击“添加”,您可以添加客户端的配置属性。所添加的每个属性 需配置属性名称和值。对于不再需要的属性,可单击属性后的“删除”按钮进行删除。

步骤4 单击“保存”回到连接管理界面,完成MRS Hive连接器的配置。

----结束