安装Oozie4.1.0-cdh5.5.2
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了安装Oozie4.1.0-cdh5.5.2相关的知识,希望对你有一定的参考价值。
安装oozie经历了好长的时间,先是源码包,但是放弃了。。。
然后就是安装的这个CDH版本的,弄了好久,经常报各种错误。
最后整理出来这篇。
先对文件进行下载:
这里使用的是CDH版本的,免编译,看着编译的过程就够了。下载地址:
http://archive.cloudera.com/cdh5/cdh/5/oozie-4.1.0-cdh5.5.2.tar.gz
文件较大,1.6G
还需要下载ExjJS,这是扩展的javascript的UI桌面框架。
必须是2.2版本的,这是官网指定的,已经写死在oozied.sh中。下载地址:
http://download.csdn.net/download/feature_09/10015730
安装环境:
redhat5.5,64位虚拟机
hadoop2.6.0-cdh5.5.2
jdk1.8.0_11
一、解压安装oozie
[[email protected] ~]$ tar -zxvf oozie-4.1.0-cdh5.5.2.tar.gz
[[email protected] ~]$ cd oozie-4.1.0-cdh5.5.2
二、配置环境变量
[[email protected] ~]$ vim .bash_profile
export OOZIE_HOME=/home/hadoop/oozie-4.1.0-cdh5.5.2
[[email protected] ~]$ source .bash_profile
三、还需要配置一下hadoop的core-site文件。
我这里因为之前安hive的时候修改过一次这个内容了,所以没做修改。
如果修改的话,需要重新启动一下hadoop集群。
[[email protected] hadoop]$ vim core-site.xml
<property>
<name>hadoop.proxyuser.hadoop.hosts</name>
<value>*</value>
</property>
<property>
<name>hadoop.proxyuser.hadoop.groups</name>
<value>*</value>
</property>
四、创建libext目录
[[email protected] oozie-4.1.0-cdh5.5.2]$ mkdir libext
五、解压包中的hadooplibs的tar包,并把hadooplibs目录下的内容拷贝到刚刚创建的目录下
[[email protected] oozie-4.1.0-cdh5.5.2]$ tar -zxvf oozie-hadooplibs-4.1.0-cdh5.5.2.tar.gz
解压后多了一个oozie-4.1.0-cdh5.5.2,这个名字与oozie本身名称是一样的,容易混乱~~~
[[email protected] oozie-4.1.0-cdh5.5.2]$ cd oozie-4.1.0-cdh5.5.2/hadooplibs/
[[email protected] hadooplibs]$ cp hadooplib-2.6.0-cdh5.5.2.oozie-4.1.0-cdh5.5.2/* /home/hadoop/oozie-4.1.0-cdh5.5.2/libext/
[[email protected] hadooplibs]$ cp hadooplib-2.6.0-mr1-cdh5.5.2.oozie-4.1.0-cdh5.5.2/* /home/hadoop/oozie-4.1.0-cdh5.5.2/libext/
官网说了,如果用的是不同的hadoop版本,则需要拷贝hadoop的jar文件到libext/下
六、将之前下载好的ext2.2.zip同样解压到libext/目录下
[[email protected] ~]$ unzip ExtJS-2.2.zip -d /home/hadoop/oozie-4.1.0-cdh5.5.2/libext
到解压目录看看有没有。
[[email protected] ~]$ cd oozie-4.1.0-cdh5.5.2/libext/
[[email protected] libext]$ ls
七、生成war包
[[email protected] oozie-4.1.0-cdh5.5.2]$ bin/addtowar.sh -inputwar $OOZIE_HOME/oozie.war -outputwar $OOZIE_HOME/oozie-server/webapps/oozie.war -hadoop 2.6.0 $HADOOP_HOME -extjs /home/hadoop/ExtJS-2.2.zip
显示下面这样就成功了。
八、放置JDBC驱动,三个地方
将mysql的JDBC驱动,放到之前创建的libext/目录下,还有lib/目录下
下载的这个版本的:mysql-connector-java-5.1.43-bin.jar
链接:http://download.csdn.net/download/feature_09/10018454
同时还要修改下权限:
[[email protected] libext]$ chmod 777 /home/hadoop/oozie-4.1.0-cdh5.5.2/lib/mysql-connector-java-5.1.43-bin.jar
[[email protected] libext]$ chmod 777 /home/hadoop/oozie-4.1.0-cdh5.5.2/libext/mysql-connector-java-5.1.43-bin.jar
最后!还得配置一个地方!
就是这个目录下/home/hadoop/oozie-4.1.0-cdh5.5.2/oozie-server/webapps/oozie/WEB-INF/lib
[[email protected] lib]$ cd /home/hadoop/oozie-4.1.0-cdh5.5.2/lib
[[email protected] lib]$ cp mysql-connector-java-5.1.43-bin.jar /home/hadoop/oozie-4.1.0-cdh5.5.2/oozie-server/webapps/oozie/WEB-INF/lib
[[email protected] lib]$ ls |grep mysql
mysql-connector-java-5.1.43-bin.jar
九、配置conf/oozie-site.xml文件
主要是配置数据库保存源文件。
[[email protected] conf]$ vim oozie-site.xml
在文件底部添加下面这些内容:
<property>
<name>oozie.db.schema.name</name>
<value>oozie</value>
<description>
Oozie DataBase Name
</description>
</property>
<property>
<name>oozie.service.JPAService.create.db.schema</name>
<value>false</value>
<description>
Creates Oozie DB.
If set to true, it creates the DB schema if it does not exist. If the DB schema exists is a NOP.
If set to false, it does not create the DB schema. If the DB schema does not exist it fails start up.
</description>
</property>
<property>
<name>oozie.service.JPAService.jdbc.driver</name>
<value>com.mysql.jdbc.Driver</value>
<description>
JDBC driver class.
</description>
</property>
<property>
<name>oozie.service.JPAService.jdbc.url</name>
<value>jdbc:mysql://192.168.20.32:3306/oozie?createDatabaseIfNotExist=true</value>
<description>
JDBC URL.
</description>
</property>
<property>
<name>oozie.service.JPAService.jdbc.username</name>
<value>oozie</value>
<description>
DB user name.
</description>
</property>
<property>
<name>oozie.service.JPAService.jdbc.password</name>
<value>mysql</value>
<description>
DB user password.
IMPORTANT: if password is emtpy leave a 1 space string, the service trims the value,
if empty Configuration assumes it is NULL.
</description>
</property>
<property>
<name>oozie.service.HadoopAccessorService.hadoop.configurations</name>
<value>*=/home/hadoop/hadoop-2.6.0-cdh5.5.2/etc/hadoop</value>
<description>
Comma separated AUTHORITY=HADOOP_CONF_DIR, where AUTHORITY is the HOST:PORT of
the Hadoop service (JobTracker, HDFS). The wildcard ‘*‘ configuration is
used when there is no exact match for an authority. The HADOOP_CONF_DIR contains
the relevant Hadoop *-site.xml files. If the path is relative is looked within
the Oozie configuration directory; though the path can be absolute (i.e. to point
to Hadoop client conf/ directories in the local filesystem.
</description>
</property>
同时,要在MySQL中,创建好用户名和密码。
mysql> create user ‘oozie‘ identified by ‘mysql‘;
mysql> grant all privileges on *.* to ‘oozie‘@‘%‘ with grant option;
由于版本5不识别%,所以需要重新声明一下主机的地址
mysql> grant all privileges on *.* to oozie@fa01 identified by ‘mysql‘;
mysql> flush privileges;
十、在hdfs上创建包
[[email protected] oozie-4.1.0-cdh5.5.2]$ pwd
/home/hadoop/oozie-4.1.0-cdh5.5.2
[[email protected] oozie-4.1.0-cdh5.5.2]$ bin/oozie-setup.sh sharelib create -fs hdfs://192.168.20.32:9000 -locallib oozie-sharelib-4.1.0-cdh5.5.2-yarn.tar.gz
十一、给oozie-server赋予权限
[[email protected] oozie-4.1.0-cdh5.5.2]$ chmod 777 oozie-server -R
[[email protected] libext]$ chmod 777 ext-2.2 -R
十二、创建数据库脚本,并初始化数据库
[[email protected] oozie-4.1.0-cdh5.5.2]$ bin/ooziedb.sh create -sqlfile oozie.sql -run DB Connection
之后的显示:
十三、开启oozie的实例
[[email protected] oozie-4.1.0-cdh5.5.2]$ bin/oozied.sh start
十四、运行oozie
[[email protected] oozie-4.1.0-cdh5.5.2]$ bin/oozied.sh run &
十五、测试、查看
jps一下,出现Bootstrap就对了三分之一。
继续:出现NORMAL就对了三分之二。
[[email protected] oozie-4.1.0-cdh5.5.2]$ bin/oozie admin -oozie http://192.168.20.32:11000/oozie -status
System mode: NORMAL
再继续:
登录页面http://192.168.20.32:11000/oozie/,可以正常显示如下页面,就百分之百了。
参考:
http://www.cnblogs.com/zlslch/p/6118431.html
本文出自 “白话” 博客,请务必保留此出处http://feature09.blog.51cto.com/12614993/1972022
以上是关于安装Oozie4.1.0-cdh5.5.2的主要内容,如果未能解决你的问题,请参考以下文章