Web集群之NFS(网络文件系统)

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Web集群之NFS(网络文件系统)相关的知识,希望对你有一定的参考价值。

1、什么是NFS
NFS(Network File System)网络文件系统
它的主要功能是通过网络(一般是局域网)让不同主机系统之间共享文件或目录
NFS客户端(应用服务器,例如web)可以挂载(mount)的方式将NFS服务器端共享的数据目录挂载到NFS客户端本地系统中(某一个挂载点下)
从客户端本地来看,NFS服务器端共享的目录就好像是客户端自己的磁盘分区或目录一样,而实际上却是远端的NFS服务器的目录

所有的Web服务器会向 NFS服务器进行数据交互

应用场景:

NFS适用于中小型企业:NFS服务器,而且默认只能有一台NFS服务器
大公司或大门户(高并发):Moosefs(MFS)、GlusterFS、FastDFS等(分布式文件系统 )

NFS在传输数据时使用的端口会随机选择。那么就需要RPC

NFS软件列表:

nfs-utils  #NFS服务的主程序
rpcbind #RPC的主程序
安装:yum install  nfs-utils rpcbind -y  (服务端必须安装,客户端强烈建议安装)
检查:rpm -aq nfs-utils rpcbind

1.1 NFS工作原理流程图:
技术分享图片
NFS服务端,首先要先启动RPC服务,在启动NFS服务,NFS服务会自动向RPC服务注册启动的端口,客户端需要通过自身的RPC服务,来向NFS服务端的RPC获取NFS的端口号,然后客户端在通过得到的端口号,单独向NFS发起TCP建立。

file:///Users/xiongminghao/Library/Mobile%20Documents/iCloud~com~coderforart~ios~MWeb/Documents/mweb_documents_library/docs/media/15413998107562/15414008422850.jpg技术分享图片

1.2 NFS共享目录
NFS共享的目录:必须是实际存在的目录,要用绝对路径,注意共享目录的本地权限,如果需要读写共享,要让本地目录可以被NFS客户端的用户(nfsnobody)读写

NFS客户端地址:为NFS服务端授权的可以访问共享目录的NFS客户端地址,可为单独的IP地址或主机名、域名等,也可以使整个网段地址,还可以用“*”来匹配所有客户端服务器,没有对账号密码,几乎都是用IP地址,这些所谓的客户端一般来说是前端的业务服务器,
权限参数:对授权的NFS客户端的访问权限

NFS服务端默认配置文件路径/etc/exports,并且内容默认为空

[[email protected] ~]# ls -ld /etc/exports
-rw-r--r--. 1 root root 0 Jun  7  2013 /etc/exports
[[email protected] ~]# cat /etc/exports

exports配置文件的规范(两种写法):

NFS共享的目录 NFS客户端地址1(参1,参2...)客户端地址2(参1,参2...)
NFS共享的目录 NFS客户端地址1(参1,参2...)

2、NFS搭建
查看系统版本

[[email protected] ~]# cat /etc/redhat-release 
CentOS Linux release 7.5.1804 (Core) 
[[email protected] ~]# uname -r
3.10.0-862.el7.x86_64
[[email protected] ~]# uname -m
x86_64

检查并安装nfs和rpc服务

[[email protected] /]#yum install  nfs-utils rpcbind -y 
[[email protected] /]# rpm -aq nfs-utils rpcbind
rpcbind-0.2.0-44.el7.x86_64
nfs-utils-1.3.0-0.54.el7.x86_64

2.1 服务端配置
启动RPC

[[email protected] /]# systemctl start rpcbind
[[email protected] /]# systemctl status rpcbind #查看rpcbind是否正常运行
● rpcbind.service - RPC bind service
   Loaded: loaded (/usr/lib/systemd/system/rpcbind.service; enabled; vendor preset: enabled)
   Active: active (running) since Mon 2018-11-05 15:03:34 CST; 1min 0s ago
  Process: 52393 ExecStart=/sbin/rpcbind -w $RPCBIND_ARGS (code=exited, status=0/SUCCESS)
 Main PID: 52394 (rpcbind)
   CGroup: /system.slice/rpcbind.service
           └─52394 /sbin/rpcbind -w

Nov 05 15:03:34 nfs systemd[1]: Starting RPC bind service...
Nov 05 15:03:34 nfs systemd[1]: Started RPC bind service.
[[email protected] /]# netstat -lntup |grep rpc 
tcp        0      0 0.0.0.0:111             0.0.0.0:*               LISTEN      52394/rpcbind       
tcp6       0      0 :::111                  :::*                    LISTEN      52394/rpcbind       
udp        0      0 0.0.0.0:841             0.0.0.0:*                           52394/rpcbind       
udp        0      0 0.0.0.0:111             0.0.0.0:*                           52394/rpcbind       
udp6       0      0 :::841                  :::*                                52394/rpcbind       
udp6       0      0 :::111                  :::*                                52394/rpcbind

[[email protected] /]#  lsof -i :111       #111为RPC程序端口号
COMMAND   PID USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
rpcbind 52394  rpc    6u  IPv4 100989      0t0  UDP *:sunrpc 
rpcbind 52394  rpc    8u  IPv4 100991      0t0  TCP *:sunrpc (LISTEN)
rpcbind 52394  rpc    9u  IPv6 100992      0t0  UDP *:sunrpc 
rpcbind 52394  rpc   11u  IPv6 100994      0t0  TCP *:sunrpc (LISTEN)

启动NFS

[[email protected] /]# systemctl start nfs
[[email protected] /]# systemctl status nfs
● nfs-server.service - NFS server and services
   Loaded: loaded (/usr/lib/systemd/system/nfs-server.service; enabled; vendor preset: disabled)
   Active: active (exited) since Mon 2018-11-05 15:08:02 CST; 3s ago
  Process: 54371 ExecStart=/usr/sbin/rpc.nfsd $RPCNFSDARGS (code=exited, status=0/SUCCESS)
  Process: 54366 ExecStartPre=/bin/sh -c /bin/kill -HUP `cat /run/gssproxy.pid` (code=exited, status=0/SUCCESS)
  Process: 54365 ExecStartPre=/usr/sbin/exportfs -r (code=exited, status=0/SUCCESS)
 Main PID: 54371 (code=exited, status=0/SUCCESS)
   CGroup: /system.slice/nfs-server.service

Nov 05 15:08:02 nfs systemd[1]: Starting NFS server and services...
Nov 05 15:08:02 nfs systemd[1]: Started NFS server and services.

再次查看RPC端口

#当NFS启动后,NFS向rpc注册端口
[[email protected] /]# netstat -lntup |grep rpc
tcp        0      0 0.0.0.0:37998           0.0.0.0:*               LISTEN      54333/rpc.statd     
tcp        0      0 0.0.0.0:111             0.0.0.0:*               LISTEN      52394/rpcbind       
tcp        0      0 0.0.0.0:20048           0.0.0.0:*               LISTEN      54363/rpc.mountd    
tcp6       0      0 :::33985                :::*                    LISTEN      54333/rpc.statd     
tcp6       0      0 :::111                  :::*                    LISTEN      52394/rpcbind       
tcp6       0      0 :::20048                :::*                    LISTEN      54363/rpc.mountd    
udp        0      0 0.0.0.0:841             0.0.0.0:*                           52394/rpcbind       
udp        0      0 0.0.0.0:20048           0.0.0.0:*                           54363/rpc.mountd    
udp        0      0 0.0.0.0:111             0.0.0.0:*                           52394/rpcbind       
udp        0      0 0.0.0.0:45174           0.0.0.0:*                           54333/rpc.statd     
udp        0      0 127.0.0.1:703           0.0.0.0:*                           54333/rpc.statd     
udp6       0      0 :::45876                :::*                                54333/rpc.statd     
udp6       0      0 :::841                  :::*                                52394/rpcbind       
udp6       0      0 :::20048                :::*                                54363/rpc.mountd    
udp6       0      0 :::111                  :::*                                52394/rpcbind  

提示:

查看nfs服务向rpc注册的端口信息
rpcinfo -p localhost

NFS常见进程讲解

[[email protected] /]#  ps -ef|egrep "rpc|nfs"
rpc       52394      1  0 15:03 ?        00:00:00 /sbin/rpcbind -w
rpcuser   54333      1  0 15:08 ?        00:00:00 /usr/sbin/rpc.statd
root      54341      2  0 15:08 ?        00:00:00 [rpciod]
root      54363      1  0 15:08 ?        00:00:00 /usr/sbin/rpc.mountd
root      54364      1  0 15:08 ?        00:00:00 /usr/sbin/rpc.idmapd
root      54373      2  0 15:08 ?        00:00:00 [nfsd4_callbacks]
root      54379      2  0 15:08 ?        00:00:00 [nfsd]
root      54380      2  0 15:08 ?        00:00:00 [nfsd]
root      54381      2  0 15:08 ?        00:00:00 [nfsd]
root      54382      2  0 15:08 ?        00:00:00 [nfsd]
root      54383      2  0 15:08 ?        00:00:00 [nfsd]
root      54384      2  0 15:08 ?        00:00:00 [nfsd]
root      54385      2  0 15:08 ?        00:00:00 [nfsd]
root      54386      2  0 15:08 ?        00:00:00 [nfsd]

nfsd(rpc.nfsd) #主进程,主要是管理客户端能否登入服务端,登入者ID判别。
mountd(rpc.mountd) #管理NFS文件系统,登入者的权限管理
rpc.lockd(非必要) #用来锁定文件,用于客户端同时写入
rpc.statd(非必要) #检查文件一致性
rpc.idmapd #名字映射后台进程

将rpcbind和nfs加入开机自启动

systemctl enable rpcbind.service
systemctl enable nfs-server.service

配置共享/data目录(编辑/etc/exports配置文件)

[[email protected] ~]# cat >>/etc/exports<<EOF
> #shared /data by jason for bingbing at 2018-08-25
> /data 172.16.1.0/24(rw,sync)
> EOF

[[email protected] ~]# cat /etc/exports 
#shared /data by oldboy for bingbing at 2018-08-25
/data 172.16.1.0/24(rw,sync)

图解上述操作的意义:
技术分享图片

提示:

必须要在NFS和RPC启动之后修改/etx/export文件

创建共享目录(客户端访问)

#创建/data目录
[[email protected] /]# mkdir /data -p
[[email protected] /]# ls -ld /data/
drwxr-xr-x 2 root root 6 Nov  5 14:31 /data/
将共享目录加入到nfs的虚拟用户和用户组
[[email protected] /]# chown -R nfsnobody.nfsnobody /data/  

#nfsnobody是nfs的虚拟用户
[[email protected] /]# id nfsnobody
uid=65534(nfsnobody) gid=65534(nfsnobody) groups=65534(nfsnobody)

上述操作完毕后,平滑重启nfs

[[email protected] /]# systemctl reload nfs

使用nfs自带的showmount,测试nfs是否共享成功

#测试NFS目录是否共享成功
#在nfs端本地测试
[[email protected] /]# showmount -e localhost
Export list for localhost:
/data 172.16.1.0/24
#可以-e指定nfs端地址
[[email protected] /]# showmount -e 172.16.1.31
Export list for 172.16.1.31:
/data 172.16.1.0/24

nfs端自己挂载自己的/data目录(可忽略)

[[email protected] /]# mount -t nfs 172.16.1.31:/data /mnt/
mount.nfs: /mnt is busy or already mounted
[[email protected] /]# df -h |grep mnt                     
172.16.1.31:/data         22G  1.7G   21G   8% /mnt #挂摘成功
[[email protected] /]# umount /mnt/ #测试完成后,记得卸载

提示:

测试nfs共享目录,使用showmount命令即可
umount /mnt -lf 可强制卸载

2.2 客户端配置
安装nfs和rpc(rpc必须安装,nfs需要使用到自带的一些工具,所以两者都装)

[[email protected] ~]# yum isntall nfs-utils rpcbind -y
[[email protected] ~]# rpm -qa nfs-utils rpcbind
nfs-utils-1.3.0-0.54.el7.x86_64
rpcbind-0.2.0-44.el7.x86_64

启动rpc,并加入开机自启动

[[email protected] ~]# systemctl start rpcbind #启动rpc
[[email protected] ~]# systemctl status rpcbind #查看rpc状态
● rpcbind.service - RPC bind service
   Loaded: loaded (/usr/lib/systemd/system/rpcbind.service; enabled; vendor preset: enabled)
   Active: active (running) since Mon 2018-11-05 15:39:55 CST; 4s ago
  Process: 17432 ExecStart=/sbin/rpcbind -w $RPCBIND_ARGS (code=exited, status=0/SUCCESS)
 Main PID: 17433 (rpcbind)
   CGroup: /system.slice/rpcbind.service
           └─17433 /sbin/rpcbind -w

Nov 05 15:39:55 web01 systemd[1]: Starting RPC bind service...
Nov 05 15:39:55 web01 systemd[1]: Started RPC bind service.
[[email protected] ~]# systemctl enable rpcbind.service #开机自启动

测试挂载

[[email protected] ~]# showmount -e 172.16.1.31
Export list for 172.16.1.31:
/data 172.16.1.0/24  #共享目录没问题
[[email protected] ~]# telnet 172.16.1.31 111 
Trying 172.16.1.31...
Connected to 172.16.1.31. #连接到对端rpc也没问题
Escape character is ‘^]‘.

将客户端的/mnt目录挂载到nfs服务端

[[email protected] ~]# mount -t nfs 172.16.1.31:/data /mnt/ 
[[email protected] ~]# df -h |grep mnt
172.16.1.31:/data         22G  1.7G   21G   8% /mnt 
#挂载完成

在挂载目录/mnt下创建文件,然后在nfs服务端查看

#客户端创建文件
[[email protected] ~]# cd /mnt/
[[email protected] mnt]# touch test.txt
[[email protected] mnt]# ll
-rw-r--r-- 1 nfsnobody nfsnobody 0 Nov  5 16:05 test.txt
#服务端查看
[[email protected] /]# cd /data/
[[email protected] data]# ll
-rw-r--r-- 1 nfsnobody nfsnobody 0 Nov  5 16:05 test.txt
注:当客户端访问/nmt的时候,相当于是在访问172.16.1.31这个NFS服务端的/data目录

实现开机自动挂载

[[email protected] /]# echo "mount -t nfs 172.16.1.31:/data /mnt/" >>/etc/rc.local 
[[email protected] /]# tail -1 /etc/rc.local 
mount -t nfs 172.16.1.31:/data /mnt/

提示:

也可以放入/etc/fatab,需要注意一些情况
NFS网络文件系统最好不要放到fstab里实现开机挂载,
但如果在开机自启动服务里设置并启动了netfs服务,放入fastb里也是可
以开机挂载的

以上是关于Web集群之NFS(网络文件系统)的主要内容,如果未能解决你的问题,请参考以下文章

NAS之NFS/CIFS

集群实战NFS网络文件共享服务

NFS(网络文件系统)

Kubernetes进阶之PersistentVolume 静态供给实现NFS网络存储

集群实战NFS服务常见故障排查和解决方法

Linux之NFS网络文件系统