HDFS添加 NFS Gateway 角色实例启动失败问题及解决办法
Posted Hadoop足迹
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了HDFS添加 NFS Gateway 角色实例启动失败问题及解决办法相关的知识,希望对你有一定的参考价值。
1 文档编写目的
本文主要讲述HDFS添加NFS Gateway 角色实例启动失败问题及解决办法。
测试环境:
操作系统版本为Redhat7.2
CM和CDH版本为5.13.1
文章目录结构:
1. 文档编写目的
2. 问题描述
3. NFS相关介绍
3.1 NFS 概念
3.2 NFS 的优点
4. 问题解决
4.1 安装 NFS 相关的依赖包
4.2 启动 NFS 相关服务
4.3 重启 NFS Gateway 角色
4.4 相关建议
5. 总结
2 问题描述
昨天登录公司测试集群的时候,发现HDFS存在告警信息,查看详细信息,发现 NFS Gateway 进程退出,尝试重启该角色实例,执行重启操作后,报如下异常:
using as SECURE_USER using as SECURE_GROUP CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY CMF_CONF_DIR=/etc/cloudera-scm-agent unlimited Cannot connect to port 111. No portmap or rpcbind service is running on this host. Please start portmap or rpcbind service before attempting to start the NFS Gateway role on this host. Wed Feb 21 01:07:02 EST 2018 JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera using /usr/java/jdk1.7.0_67-cloudera as JAVA_HOME using 5 as CDH_VERSION using /run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY as CONF_DIR using as SECURE_USER using as SECURE_GROUP CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY CMF_CONF_DIR=/etc/cloudera-scm-agent unlimited Cannot connect to port 111. No portmap or rpcbind service is running on this host. Please start portmap or rpcbind service before attempting to start the NFS Gateway role on this host. Wed Feb 21 01:07:04 EST 2018 JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera using /usr/java/jdk1.7.0_67-cloudera as JAVA_HOME using 5 as CDH_VERSION using /run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY as CONF_DIR using as SECURE_USER using as SECURE_GROUP CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY CMF_CONF_DIR=/etc/cloudera-scm-agent unlimited Cannot connect to port 111. No portmap or rpcbind service is running on this host. Please start portmap or rpcbind service before attempting to start the NFS Gateway role on this host. Wed Feb 21 01:07:07 EST 2018 JAVA_HOME=/usr/java/jdk1.7.0_67-cloudera using /usr/java/jdk1.7.0_67-cloudera as JAVA_HOME using 5 as CDH_VERSION using /run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY as CONF_DIR using as SECURE_USER using as SECURE_GROUP CONF_DIR=/run/cloudera-scm-agent/process/1436-hdfs-NFSGATEWAY CMF_CONF_DIR=/etc/cloudera-scm-agent unlimited Cannot connect to port 111. No portmap or rpcbind service is running on this host. Please start portmap or rpcbind service before attempting to start the NFS Gateway role on this host. |
上述红色字体的异常信息大致讲的是:在部署 NFS Gateway 的主机上没有运行portmap或者rpcbind服务,在尝试启动 NFS Gateway 角色实例之前,请先启动该主机上的portmap或者rpcbind服务。
定位到问题原因了,没安装portmap或者rpcbind服务。
3 NFS相关介绍
3.1 NFS概念
NFS是网络文件系统(Network File System)的简称,是分布式计算机系统的一个组成部分,它允许网络中的计算机之间通过TCP/IP网络共享资源,可实现在异构网络上共享和装配远程文件系统。NFS由SUN公司开发,目前已成为文件服务的一种标准(RFC1904,RFC1813)。其最大的功能就是可以通过网络,让不同操作系统的计算机可以共享数据,所以也可以看作是一个文件服务器。NFS是除了SAMBA之外Windows与Linux及Unix与Linux之间通信的方法。在NFS的应用中,本地NFS的客户端应用可以透明地读写位于远端NFS服务器上的文件,就像访问本地文件一样。
NFS原理图
NFS 在文件传送或信息传送过程中依赖于RPC协议。RPC,远程过程调用 (Remote Procedure Call) 是能使客户端执行其他系统中程序的一种机制。NFS本身是没有提供信息传输的协议和功能的,但NFS却能让我们通过网络进行资料的分享,这是因为NFS使用了一些其它的传输协议。而这些传输协议用到这个RPC功能的。可以说NFS本身就是使用RPC的一个程序。或者说NFS也是一个RPC SERVER。所以只要用到NFS的地方都要启动RPC服务,不论是NFS SERVER或者NFS CLIENT。这样SERVER和CLIENT才能通过RPC来实现PROGRAM PORT的对应。可以这么理解RPC和NFS的关系:NFS是一个文件系统,而RPC是负责负责信息的传输。
注:NFS的RPC服务,在Redhat/CentOS 5.X版本中,名称为portmap;在Redhat/CentOS 6.X及以上版本中,名称为rpcbind。
3.2 NFS的优点
1. 节省本地存储空间,将常用的数据存放在一台NFS服务器上且可以通过网络访问,那么本地终端将可以减少自身存储空间的使用。
2. 用户不需要在网络中的每个机器上都建有Home目录,Home目录可以放在NFS服务器上且可以在网络上被访问使用。
3. 一些存储设备如软驱、CDROM和Zip(一种高储存密度的磁盘驱动器与磁盘)等都可以在网络上被别的机器使用。这可以减少整个网络上可移动介质设备的数量。
4 问题解决
4.1 安装NFS相关的依赖包
1、安装nfs-utils
[root@cdh1 ~]# rpm -qa |grep nfs nfs-utils-1.3.0-0.21.el7.x86_64 nfs4-acl-tools-0.3.3-14.el7.x86_64 libnfsidmap-0.25-12.el7.x86_64 |
2、安装rpcbind
[root@cdh1 ~]# rpm -qa |grep rpcbind rpcbind-0.2.0-32.el7.x86_64 |
4.2 启动NFS相关服务
1、启动rpcbind服务
[root@cdh1 ~]# systemctl start portmap Failed to start portmap.service: Unit portmap.service failed to load: No such file or directory. [root@cdh1 ~]# systemctl start rpc.bind Failed to start rpc.bind.service: Unit rpc.bind.service failed to load: No such file or directory. [root@cdh1 ~]# systemctl start rpcbind [root@cdh1 ~]# systemctl status rpcbind ● rpcbind.service - RPC bind service Loaded: loaded (/usr/lib/systemd/system/rpcbind.service; indirect; vendor preset: enabled) Active: active (running) since Wed 2018-02-21 01:24:23 EST; 7s ago Process: 2575 ExecStart=/sbin/rpcbind -w ${RPCBIND_ARGS} (code=exited, status=0/SUCCESS) Main PID: 2576 (rpcbind) CGroup: /system.slice/rpcbind.service └─2576 /sbin/rpcbind -w
Feb 21 01:24:23 cdh1.macro.com systemd[1]: Starting RPC bind service... Feb 21 01:24:23 cdh1.macro.com systemd[1]: Started RPC bind service. |
2、启动nfs服务
[root@cdh1 ~]# systemctl start nfs [root@cdh1 ~]# systemctl status nfs ● nfs-server.service - NFS server and services Loaded: loaded (/usr/lib/systemd/system/nfs-server.service; disabled; vendor preset: disabled) Active: active (exited) since Thu 2018-02-22 04:29:54 EST; 4s ago Process: 20489 ExecStart=/usr/sbin/rpc.nfsd $RPCNFSDARGS (code=exited, status=0/SUCCESS) Process: 20487 ExecStartPre=/usr/sbin/exportfs -r (code=exited, status=0/SUCCESS) Main PID: 20489 (code=exited, status=0/SUCCESS) CGroup: /system.slice/nfs-server.service
Feb 22 04:29:54 cdh1.macro.com systemd[1]: Starting NFS server and services... Feb 22 04:29:54 cdh1.macro.com rpc.nfsd[20489]: rpc.nfsd: unable to bind inet TCP socket: errno 98 (Address already in use) Feb 22 04:29:54 cdh1.macro.com systemd[1]: Started NFS server and services. |
4.3 重启NFS Gateway角色
登录CM管理界面,重启 NFS Gateway
4.4 相关建议
建议在部署NFS Gateway角色实例之前,先检查相关依赖的服务是否已启动。除此之外,建议将其依赖的服务设为开机自启,防止服务器重启后导致 NFS Gateway 启动失败。
5 总结
1、NFS 的基本原则是“容许不同的客户端及服务端通过一组RPC分享相同的文件系统”,它是独立于操作系统,容许不同硬件及操作系统的系统共同进行文件的分享。
2、NFS 在文件传送或信息传送过程中依赖于RPC协议,也就意味着,在部署 NFS Gateway 的主机上,必须安装相关的依赖包,并启动相关服务,否则,即使部署了 NFS Gateway 角色实例,也无法正常启动/使用其功能。
3、如果要查阅如何配置NFS服务器,可以查看文末的参考文章。
参考文章:
https://www.cnblogs.com/alonones/p/6105586.html
When your talent can’t support your ambition,
You should calm down and learn.
When your ability cannot realize you dreams,
You should practice with all your heart.
Ask yourself,
What kind of life you pursue.
以上是关于HDFS添加 NFS Gateway 角色实例启动失败问题及解决办法的主要内容,如果未能解决你的问题,请参考以下文章
Hadoop HDFS NFS GateWay部署深入具体解释
AWS上搭建Storage Gateway并创建SMB和NFS服务