NUTCH2.3 hadoop2.7.1 hbase1.0.1.1 solr5.2.1部署(二)

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了NUTCH2.3 hadoop2.7.1 hbase1.0.1.1 solr5.2.1部署(二)相关的知识,希望对你有一定的参考价值。

??

Precondition:
hadoop 2.7.1
hbase 1.0.1.1 / hbase 0.98.13

192.168.1.106 ->master
192.168.1.105 ->slave / regionservers


hbase部署

直接下载hbase bin文件

hbase1.0.1.1 还有hbase 0.98.13 和hadoop2.7.1 / hadoop 2.5.2 配合并没有问题。

仅仅只是

Nutch2.3 似乎和hbase 0.98.13 配合比較好。

1. 配置hbase-site.xml

<configuration>
<property>
    <name>hbase.zookeeper.quorum</name>
    <value>192.168.1.105,192.168.1.106</value>
</property>
<property>
      <name>hbase.master</name>
      <value>192.168.1.106:60000</value>
</property>
<property>
<name>hbase.tmp.dir</name>
<value>/disk2/hbase/hbase-1.0.1.1/tmp</value>
</property>
<property>
<name>hbase.zookeeper.property.dataDir</name>
<value>/disk2/hbase/hbase-1.0.1.1/zookeepertmp</value>
</property>
<property>
    <name>hbase.rootdir</name>
    <value>hdfs://192.168.1.106:9000/hbase</value>
</property>
<property>
    <name>hbase.cluster.distributed</name>
    <value>true</value>
</property>
</configuration>


2. 配置regionservers,仅仅把192.168.1.105作为regionservers

true > regionservers

echo 192.168.1.105 >> regionservers

3. 配置hbase-env.sh

export JAVA_HOME=/disk2/java/jdk1.8.0_45

4. 将hbases整个文件夹拷贝到其它机器中。
scp -r hbase/ 192.168.1.105:/disk2/

5. 启动

bin/start-hbase.sh(先启动hadoop)

6. 測试查看

http://192.168.1.106:60010/master-status (0.98.13)

http://192.168.1.106:16010/master-status (1.0.1.1)

7. 过程中最多的问题是HMaster 和 HRegionServer不能共存,常常当中一个就退出:

master.HMasterCommandLine: Master exiting
java.lang.RuntimeException: HMaster Aborted

解决的方法:

rm /tmp/hbase-root/ -rf
bin/hbase-cleanup.sh --cleanAll
bin/zookeepers.sh clear










以上是关于NUTCH2.3 hadoop2.7.1 hbase1.0.1.1 solr5.2.1部署(二)的主要内容,如果未能解决你的问题,请参考以下文章

ubuntu14.04下安装hadoop2.7.1教程

Linux下Hadoop2.7.1集群环境的搭建(超详细版)

[Nutch]Nutch2.3+Hadoop+HBase+Solr在Ubuntu环境搭建

01_PC单机Spark开发环境搭建_JDK1.8+Spark2.3.1+Hadoop2.7.1

软件Nutch2.3 + HBase 0.94 + Solr 搭建网络数据采集器

无法在 Hadoop2 上运行 Nutch2(Nutch 2.x + Hadoop 2.4.0 + HBase 0.94.18 + Gora 0.5 + Avro 1.7.6)