MFS分布式存储系统

Posted 2020-12-28

一、MFS概述

(1)分布式原理
分布式文件系统(isributedFileSystem)是指文件系统管理的物理存储资源不一定直接连接在本地节点上，而是通过计算机网络与节点相连。简单来说，就是把一些分散的(分布在局域网内各个计算机上)共享文件夹，集合到一个文件夹内(虚拟共享文件夹)。对于用户来说，要访问这些共享文件夹时，只要打开这个虚拟共享文件夹，就可以看到所有链接到虚拟共享文件夹内的共享文件夹，用户感觉不到这些共享文件是分散于各个计算机上的。分布式文件系统的好处是集中访问、简化操作、数据容灾，以及提高文件的存取性能。
(2) MFS原理
MFS是一个具有容错性的网络分布式文件系统，它把数据分散存放在多个物理服务器上，而呈现给用户的则是一个统一的资源。

案例环境

角色	操作系统	IP地址
Master Server	centos 7	192.168.174.139
Metalogger	centos 7	192.168.174.140
Chunk1	centos 7	192.168.174.141
Chunk2	centos 7	192.168.174.142
Chunk3	centos 7	192.168.174.165
Client	centos 7	192.168.174.168

二、Master Server部署

1、下载源码包及安装准备

curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

2、安装mfsmaster安装包

yum install moosefs-master moosefs-cgi moosefs-cgiserv moosefs-cli -y

3.启动mfsmaster服务，并查看服务是否开启成功

mfsmaster start   //启动服务
open files limit has been set to: 16384
working directory: /var/lib/mfs
lockfile created and locked
initializing mfsmaster modules ...
exports file has been loaded
topology file has been loaded
loading metadata ...
metadata file has been loaded
no charts data file - initializing empty charts
master <-> metaloggers module: listen on *:9419
master <-> chunkservers module: listen on *:9420
main master server module: listen on *:9421
mfsmaster daemon initialized properly

ps -ef | grep mfs  
mfs       38561      1  1 00:42 ?        00:00:00 mfsmaster start
root      38563   3745  0 00:43 pts/0    00:00:00 grep --color=auto mfs

三、Metalogger服务器部署

1、下载源码包及安装准备

curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

2、安装mfsmetalogger安装包

yum -y install moosefs-metalogger

3、更改mfsmetalogger.cfg配置文件

vim /etc/mfs/mfsmetalogger.cfg
MASTER_HOST = 192.168.174.139  //更改master_host主机地址，并去掉注释

4、启动服务，并查看服务是否开启成功

mfsmetalogger start
open files limit has been set to: 4096
working directory: /var/lib/mfs
lockfile created and locked
initializing mfsmetalogger modules ...
mfsmetalogger daemon initialized properly

ps -ef | grep mfs
mfs       71336      1  0 00:46 ?        00:00:00 mfsmetalogger start
root      71338  45910  0 00:46 pts/1    00:00:00 grep --color=auto mfs

四、Chunk服务器部署

1、下载源码包及安装准备

url "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

2、安装chunkserver软件包

yum -y install moosefs-chunkserver

3、修改mfschunkserver.cfg配置文件

vim /etc/mfs/mfschunkserver.cfg
MASTER_HOST = 192.168.174.139

4、指定服务器分配给MFS使用的文件位置

vim /etc/mfs/mfshdd.cfg
/data  // 添加/data ,data是一个给MFS的分区，在生产环境中一般使用独立的磁盘分区挂载到此目录

4、创建/data目录，并更改所主跟所属信息

mkdir /data
chown -R mfs.mfs /data

5、开启服务并查看服务

mfschunkserver start
open files limit has been set to: 16384
working directory: /var/lib/mfs
lockfile created and locked
setting glibc malloc arena max to 4
setting glibc malloc arena test to 4
initializing mfschunkserver modules ...
hdd space manager: path to scan: /data/
hdd space manager: start background hdd scanning (searching for available chunks)
main server module: listen on *:9422
no charts data file - initializing empty charts
mfschunkserver daemon initialized properly
[[email protected] ~]# 

ps -ef | grep mfs
mfs       38952      1  2 01:07 ?        00:00:00 mfschunkserver start
root      38962   3964  0 01:07 pts/0    00:00:00 grep --color=auto mfs

其他两台chunk操作与这台操作一样，这边就不一一演示了。

五、clent服务器配置

1、下载源码包及安装准备

curl "https://ppa.moosefs.com/RPM-GPG-KEY-MooseFS" > /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS
curl "http://ppa.moosefs.com/MooseFS-3-el7.repo" > /etc/yum.repos.d/MooseFS.repo

2、安装moosefs客户端

yum -y install moosefs-client

3、创建挂载目录

mkdir -p /mfs/data

4、将挂载目录挂载到master服务器上，并查看挂载

mfsmount /mfs/data -H 192.168.174.139
df -h  //查看挂载

5、在Master Server上通过mfscgiserv命令开启mfscgiserv服务

mfscgiserv
lockfile created and locked
starting simple cgi server (host: any , port: 9425 , rootpath: /usr/share/mfscgi)

6、在client客户端浏览器测试，打开浏览器输入192.168.174.139:9425查看监控的各种信息