如何使用Cloudera Manger自定义部署Parcel包

Posted Hadoop实操

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何使用Cloudera Manger自定义部署Parcel包相关的知识,希望对你有一定的参考价值。

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。


Fayson的github:

​https://github.com/fayson/cdhproject​


提示:代码块部分可以左右滑动查看噢

文档编写目的


我们知道包括CDH其他所有额外的服务或者第三方插件,Cloudera Manger都是以Parcel的形式来安装和管理,Parcel是一个非常神奇和方便的东西,将所有的东西都打包进去,免去你管理无数个rpm安装包的烦恼。使用Cloudera Manger安装Parcel包有三种选择:

1.使用Cloudera Manger默认的公网仓库,每个仓库的公网地址都已经集成到Cloudera Manager中,如果你的服务器可以上公网,并且网速不错的话,也是一种不错的选择,如下所示:

如何使用Cloudera

2.将Parcel包下载到本地,然后搭建本地的httpd服务,然后将Parcel丢到http的目录,然后重新配置Cloudera Manger的“远程Parcel存储库URL”输入自定义的本地仓库地址,如上图所示,第一行就是的。其实Fayson之前大量的安装文章也是基于这种方式,这里不再赘述,不清楚的读者可以回到公众号主页点击“必点”,搜索“安装”相关关键字,阅读相关的文章。

3.不用搭建httpd服务,利用Cloudera Manger节点上的/opt/cloudera/parcel-repo目录。


本文Fayson主要就是介绍第三种方式,不搭建httpd服务的情况下,如何自定义安装Parcel包。

  • 测试环境
  1.  CDH6.0
  2. Redhat7.4
  3. 采用root用户进行操作

自定义Parcel包


1.下载CDH6.0.1的Parcel,地址为:

https://archive.cloudera.com/cdh6/6.0.1/parcels/CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel

(可左右滑动)

如何使用Cloudera

2.将该下载好的文件移动到Cloudera Manger节点的/opt/cloudera/parcel-repo目录。

/opt/cloudera/parcel-repo

[root@ip-172-31-6-83 cdh6.0.1]# mv CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel /opt/cloudera/parcel-repo

(可左右滑动)

如何使用Cloudera

3.根据此Parcel生成一个hash校验文件,并修改Parcel文件和校验文件的属组与权限。

[root@ip-172-31-6-83 parcel-repo]# sha1sum CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel | cut -d   -f 1 > CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel.sha
[root@ip-172-31-6-83 parcel-repo]# chown cloudera-scm:cloudera-scm CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel.sha
[root@ip-172-31-6-83 parcel-repo]# chmod 640 CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel CDH-6.0.1-1.cdh6.0.1.p0.590678-el7.parcel.sha

(可左右滑动)

如何使用Cloudera

4.通过Cloudera Manger主页点击Parcel

如何使用Cloudera

5.点击“检查新Parcel”

如何使用Cloudera

6.视服务器情况,可能需要等待1分钟,这时你会看到CDH6.0.1已经下载到Cloudera Manger节点,随时等待分配到集群各个节点。

如何使用Cloudera

后面的步骤包括“分配”->“激活”,甚至是安装升级这里Fayson就不再演示了。

总结


1.使用Cloudera Manger安装Parcel一共有三种方式包括:默认的公网仓库,自搭本地的http仓库和直接利用CM这个节点上的/opt/cloudera/parcel-repo目录。


2.注意要手动生成一个hash校验文件后缀为sha,否则Cloudera Manger可以看到这个新的Parcel,但会报错缺少hash文件,会导致无法分配激活安装。


3.Cloudera Manger发现新的Parcel需要等待一小会时间,在/opt/cloudera/parcel-repo目录下会生成一个torrent文件。


提示:代码块部分可以左右滑动查看噢


为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。


推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

如何使用Cloudera

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操

以上是关于如何使用Cloudera Manger自定义部署Parcel包的主要内容,如果未能解决你的问题,请参考以下文章

部署Cloudera Management for centos 7

使用Cloudera部署,管理Hadoop集群

Hadoop系列之:使用Cloudera部署,管理Hadoop集群

使用 cloudera 管理器部署 hdfs core-site.xml

如何重启Cloudera Manager

如何使用 Opsworks(亚马逊)使用“自定义”层部署 python 应用程序?