第五周之Hadoop学习

Posted halone

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了第五周之Hadoop学习相关的知识,希望对你有一定的参考价值。

 

 

在上周已经完成Hadoop的Java编程环境下的配置,这周则是通过对Eclipse的环境编程对Hadoop的API进行简单的调用

参考地址:https://blog.csdn.net/u010523770/article/details/56488520

首先,日常的第一步操作,启动虚拟机中linux并且在终端中启动hadoop

技术图片

内网主机访问地址+端口号看是否正常启动。

技术图片

Hadoop经过前面的配置已经正常启动了,接着启动eclipse来进行hadoop的api调用

启动eclipse,并且新建一个项目,将之前配置好的hadoop的用户库添加到构建路径中,开始java的编程

这是上周开始的一个测试上传的功能还没测试成功,今天继续尝试上传的功能

技术图片

 

 编译过程中,出现了一个连接访问拒绝的问题,继续通过百度了解一下是什么情况

首先通过百度的这篇文章进行错误的排查:https://blog.csdn.net/s740556472/article/details/81263426

 第一步:通过服务端的telnet看是否能连通

技术图片

在第一步的时候就遇到了这个不是可运行的程序的问题

通过这篇文章:https://jingyan.baidu.com/article/3ea51489ba79e252e61bba97.html

我们来尝试解决这个问题

技术图片

打开telnet功能之后,继续刚刚测试telnet的id+端口的命令

技术图片

在这里可以看到应该是服务端出现了问题

启动telnet参考:https://blog.csdn.net/aizhiqiang2/article/details/55661780

首先查看Hadoop的配置文件

进入Hadoop的配置文件中查看

配置中:

技术图片

可以看到配置的地址是localhost,然而外界并不能识别localhost这个地址,因此这个地方改成我们外界测试的ip地址

接着测试telnet服务是不是正常开启

技术图片

可以看到并不正常,接着有以下的解决方案

进入服务中查看有没有telnet这个服务,发现并没有

这个问题又该如何解决?

通过百度得知:windows安装的telnet服务是客户端,而我们运用到的是telnet中的功能,很明显地我们将不能使用这一功能,而为了实现这一功能就要我们自己安装telnet的服务。

方案参考(还未测试):https://blog.csdn.net/qq_34264904/article/details/52003369

由于今天比较晚了,接下来如何,敬请期待下一回对该问题的分解。

未完待续。。。

 

以上是关于第五周之Hadoop学习的主要内容,如果未能解决你的问题,请参考以下文章

机器学习公开课笔记第五周之优化机器学习算法

第一周之Hadoop学习

第五周学习进度总结

第五周Java学习总结(补)

第五周学习进度

第五周学习进度