使用JAVA API获取hadoop集群的FileSystem
Posted 南湖公明
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用JAVA API获取hadoop集群的FileSystem相关的知识,希望对你有一定的参考价值。
所需要配置的参数:
Configuration conf =
new
Configuration();
conf.set(
"fs.defaultFS"
,
"hdfs://hadoop2cluster"
);
conf.set(
"dfs.nameservices"
,
"hadoop2cluster"
);
conf.set(
"dfs.ha.namenodes.hadoop2cluster"
,
"nn1,nn2"
);
conf.set(
"dfs.namenode.rpc-address.hadoop2cluster.nn1"
,
"10.0.1.165:8020"
);
conf.set(
"dfs.namenode.rpc-address.hadoop2cluster.nn2"
,
"10.0.1.166:8020"
);
conf.set(
"dfs.client.failover.proxy.provider.hadoop2cluster"
,
"org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider"
);
将其中的hadoop2cluster改为自己的HA的url
就可以了
以上是关于使用JAVA API获取hadoop集群的FileSystem的主要内容,如果未能解决你的问题,请参考以下文章
使用HDFS客户端java api读取hadoop集群上的信息