eclipse+hadoop环境搭建

Posted 2020-10-26 淡季的风

操作系统： windows

hadoop 2.7.4      namenode:192.168.233.135      datanode: 192.168.233.134/131

1.下载hadoop-eclipse-plugin-xxx.jar(https://github.com/winghc/hadoop2x-eclipse-plugin), 解压到eclipse的安装目录下plugins文件夹下

2. 下载hadoop， 解压到指定目录下， 设置环境变量HADOOP_HOME, 并追加至Path环境变量， 在命令行中输入hadoop， 验证hadoop是否安装正确

3. 下载hadoop.dll 和 winutils, 解压至hadoop安装目录的bin目录下

4. 重启eclipse， windows->prefrence会出现hadoop， 设置hadoop安装路径。并选择map/reduce

注意，有时会出现eclipse重启， hadoop插件未出现的情况， 是因为eclipse只记住了历史的插件记录， 而没有更新新增的插件，按以下步骤执行方可解决：

1）删除eclipse安装路径configuration目录下org.eclipse.update文件夹

2）eclipse -clean 重启eclipse

5.设置dfs location

然后就可以看到hdfs的文件了。

6， 添加用户权限， 本机windows用户为xxxx, hadoop集群上没有该用户，所以该用户属于other组， 具备权限比较下， 在hdfs创建xxx用户的家目录， 并chown， 就可以通过eclipse操作远程hadoop集群了。