使用JAVA API获取hadoop集群的FileSystem

Posted 南湖公明

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用JAVA API获取hadoop集群的FileSystem相关的知识,希望对你有一定的参考价值。

所需要配置的参数:  
 Configuration conf = new Configuration();
  conf.set("fs.defaultFS", "hdfs://hadoop2cluster");
  conf.set("dfs.nameservices", "hadoop2cluster");
  conf.set("dfs.ha.namenodes.hadoop2cluster", "nn1,nn2");
  conf.set("dfs.namenode.rpc-address.hadoop2cluster.nn1", "10.0.1.165:8020");
  conf.set("dfs.namenode.rpc-address.hadoop2cluster.nn2", "10.0.1.166:8020");
  conf.set("dfs.client.failover.proxy.provider.hadoop2cluster",        "org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider");

将其中的hadoop2cluster改为自己的HA的url 就可以了
 
 

以上是关于使用JAVA API获取hadoop集群的FileSystem的主要内容,如果未能解决你的问题,请参考以下文章

使用HDFS客户端java api读取hadoop集群上的信息

我如何使用Python API Pydoop得到Hadoop集群中的实际数据(地图后减少)?

搭建hadoop集群时的一些问题

ZK集群搭建和Hadoop单机版及Java API简单操作

Java API操作HA方式下的Hadoop

idea获取不到hadoop安装路径