NUTCH2.3 hadoop2.7.1 hbase1.0.1.1 solr5.2.1部署(二)
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了NUTCH2.3 hadoop2.7.1 hbase1.0.1.1 solr5.2.1部署(二)相关的知识,希望对你有一定的参考价值。
Precondition:
hadoop 2.7.1
hbase 1.0.1.1 / hbase 0.98.13
192.168.1.106 ->master
192.168.1.105 ->slave / regionservers
hbase部署
直接下载hbase bin文件
hbase1.0.1.1 还有hbase 0.98.13 和hadoop2.7.1 / hadoop 2.5.2 配合并没有问题。
仅仅只是
Nutch2.3 似乎和hbase 0.98.13 配合比較好。
1. 配置hbase-site.xml
<configuration> <property> <name>hbase.zookeeper.quorum</name> <value>192.168.1.105,192.168.1.106</value> </property> <property> <name>hbase.master</name> <value>192.168.1.106:60000</value> </property> <property> <name>hbase.tmp.dir</name> <value>/disk2/hbase/hbase-1.0.1.1/tmp</value> </property> <property> <name>hbase.zookeeper.property.dataDir</name> <value>/disk2/hbase/hbase-1.0.1.1/zookeepertmp</value> </property> <property> <name>hbase.rootdir</name> <value>hdfs://192.168.1.106:9000/hbase</value> </property> <property> <name>hbase.cluster.distributed</name> <value>true</value> </property> </configuration>
2. 配置regionservers,仅仅把192.168.1.105作为regionservers
true > regionservers
echo 192.168.1.105 >> regionservers
3. 配置hbase-env.sh
export JAVA_HOME=/disk2/java/jdk1.8.0_45
4. 将hbases整个文件夹拷贝到其它机器中。
scp -r hbase/ 192.168.1.105:/disk2/
5. 启动
bin/start-hbase.sh(先启动hadoop)
6. 測试查看
http://192.168.1.106:60010/master-status (0.98.13)
http://192.168.1.106:16010/master-status (1.0.1.1)
7. 过程中最多的问题是HMaster 和 HRegionServer不能共存,常常当中一个就退出:
master.HMasterCommandLine: Master exiting
java.lang.RuntimeException: HMaster Aborted
解决的方法:
rm /tmp/hbase-root/ -rf
bin/hbase-cleanup.sh --cleanAll
bin/zookeepers.sh clear
以上是关于NUTCH2.3 hadoop2.7.1 hbase1.0.1.1 solr5.2.1部署(二)的主要内容,如果未能解决你的问题,请参考以下文章
Linux下Hadoop2.7.1集群环境的搭建(超详细版)
[Nutch]Nutch2.3+Hadoop+HBase+Solr在Ubuntu环境搭建
01_PC单机Spark开发环境搭建_JDK1.8+Spark2.3.1+Hadoop2.7.1
软件Nutch2.3 + HBase 0.94 + Solr 搭建网络数据采集器
无法在 Hadoop2 上运行 Nutch2(Nutch 2.x + Hadoop 2.4.0 + HBase 0.94.18 + Gora 0.5 + Avro 1.7.6)