Hadoop-apache版本部署以及CDH版本部署

Posted hatcher-h

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Hadoop-apache版本部署以及CDH版本部署相关的知识,希望对你有一定的参考价值。

apache版本

伪分布式

namenode和resourceManager在一台机器上

完全分布式

需要配置高可用
namenode和resourceManager在一台机器上都有两个
分布在不同的机器上
一个namenode宕机,另外一个从standBy转为active
resourceManager同理


CDH版本

编译

由于CDH的所有安装包版本都给出了对应的软件版本,一般情况下是不需要自己进行编译的,
但是由于cdh给出的hadoop的安装包没有提供带C程序访问的接口,
我们在使用本地库(本地库可以用来做压缩,以及支持C程序等等)的时候就会出问题

编译环境

1、linux环境、内存至少4G,硬盘40G以上,64位操作系统
2、关闭防火墙以及selinux
3、JDK1.7
4、maven
5、findbugs
6、
yum install autoconf automake libtool cmake
yum install ncurses-devel
yum install openssl-devel
yum install lzo-devel zlib-devel gcc gcc-c++
yum install -y  bzip2-devel
7、protobuf
8、snappy

常见编译错误

An Ant BuildException has occured: exec returned: 2
这是因为tomcat的压缩包没有下载完成,
需要自己下载一个对应版本的apache-tomcat-6.0.53.tar.gz的压缩包
放到指定路径下面去即可
这两个路径下面需要放上这个tomcat的 压缩包

CDH版本Zookeeper环境搭建

和 apache版本一样

CDH版本Hadoop环境搭建

和apache版本一样

以上是关于Hadoop-apache版本部署以及CDH版本部署的主要内容,如果未能解决你的问题,请参考以下文章

CDH5.7Hadoop集群搭建(离线版)

CDH搭建Hadoop分布式集群(超级小白)

离线部署 Cloudera Manager 5 和 CDH 5.12.1 及使用 CDH 部署 Hadoop 集群服务

CDH5部署三部曲之一:准备工作

CentOS7部署CDH6.0.1大数据平台

Cloudera CDH 6.3.3 三节点集群部署