Hadoop-apache版本部署以及CDH版本部署
Posted hatcher-h
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Hadoop-apache版本部署以及CDH版本部署相关的知识,希望对你有一定的参考价值。
apache版本
伪分布式
namenode和resourceManager在一台机器上
完全分布式
需要配置高可用
namenode和resourceManager在一台机器上都有两个
分布在不同的机器上
一个namenode宕机,另外一个从standBy转为active
resourceManager同理
CDH版本
编译
由于CDH的所有安装包版本都给出了对应的软件版本,一般情况下是不需要自己进行编译的,
但是由于cdh给出的hadoop的安装包没有提供带C程序访问的接口,
我们在使用本地库(本地库可以用来做压缩,以及支持C程序等等)的时候就会出问题
编译环境
1、linux环境、内存至少4G,硬盘40G以上,64位操作系统
2、关闭防火墙以及selinux
3、JDK1.7
4、maven
5、findbugs
6、
yum install autoconf automake libtool cmake
yum install ncurses-devel
yum install openssl-devel
yum install lzo-devel zlib-devel gcc gcc-c++
yum install -y bzip2-devel
7、protobuf
8、snappy
常见编译错误
An Ant BuildException has occured: exec returned: 2
这是因为tomcat的压缩包没有下载完成,
需要自己下载一个对应版本的apache-tomcat-6.0.53.tar.gz的压缩包
放到指定路径下面去即可
这两个路径下面需要放上这个tomcat的 压缩包
CDH版本Zookeeper环境搭建
和 apache版本一样
CDH版本Hadoop环境搭建
和apache版本一样
以上是关于Hadoop-apache版本部署以及CDH版本部署的主要内容,如果未能解决你的问题,请参考以下文章