ceph rbd块存储挂载及文件存储建立

Posted 2021-03-14 cloud-datacenter

一、rbd块存储挂载

1 创建一个OSD pool

# ceph osd pool create rbd1 128

查询存储空间使用

# ceph df GLOBAL: SIZE AVAIL RAW USED %RAW USED 480GiB 474GiB 6.12GiB 1.28 POOLS: NAME ID USED %USED MAX AVAIL OBJECTS volumes 1 134B 0 150GiB 5 vms 2 0B 0 150GiB 0 images 3 0B 0 150GiB 0 rbd1 4 14.3MiB 0 150GiB 19 rbd 5 0B 0 150GiB 0

 

2 创建一个名为ceph-client1-rbd1、大小为1024

rbd create ceph-client1-rbd1 --size 1024 -p rdb1

要列出RBD镜像，输入下列的命令

# rbd -p rbd1 ls ceph-client1-rbd1 ceph-client1-rbd2

检看一个RBD镜像的详细信息

# rbd --image ceph-client1-rbd1 info rbd: error opening image ceph-client1-rbd1: (2) No such file or directory # rbd --image ceph-client1-rbd1 -p rbd1 info rbd image ‘ceph-client1-rbd1‘: size 1GiB in 256 objects order 22 (4MiB objects) block_name_prefix: rbd_data.5b5756b8b4567 format: 2 features: layering, exclusive-lock, object-map, fast-diff, deep-flatten flags: create_timestamp: Tue Oct 1 12:03:52 2019

 

3 客户端查看linux版本

[root@centos7 mnt]# uname -r 3.10.0-862.el7.x86_64 [root@centos7 mnt]# modprobe rbd [root@centos7 mnt]#

4 客户端安装ceph-common

# yum install –y ceph-common

5 客户端挂载rbd硬盘并使用

 

6客户端查看挂载情况

 

[root@centos7 mnt]# rbd showmapped id pool image snap device 0 rbd1 ceph-client1-rbd2 - /dev/rbd0

 

协助ceph块存储

rbd unmap /dev/rbd0

 

二、文件存储建立

 

1 检查客户端的linux内核版本：

[root@centos7 ceph]# uname -r 3.10.0-862.el7.x86_64

2 客户端创建挂载点目录：

[root@centos7 ceph]#mkdir /cephfs

跟使用块存储服务一样，客户端需要从服务器端拷贝以下2个文件到/etc/ceph/

[root@centos7 ceph]# ls ceph.client.admin.keyring ceph.conf

 

3 服务器端及客户端，修改管理员密钥（生产环境需要创建普通账号并给予权限，这里例子暂时以管理员账号测试）

vi /etc/ceph/ceph.client.admin.keyring [client.admin] key = AQC6mmJdfBzyHhAAE1GazlHqH2uD35vpL6Do1w== auid = 0 caps mds = "allow" caps mon = "allow *" caps osd = "allow *"

4 在服务器端创建cephfs OSD pool，保护数据及元数据2个pool

[root@ceph1 ceph]#ceph osd pool create cephfs_metadata 32 [root@ceph1 ceph]#ceph osd pool create cephfs_metadata 16

服务器端启动cephfs

[root@ceph1 ceph]#ceph fs new leadorfs cephfs_metadata cephfs

验证数据生成

[root@ceph1 ceph]# ceph mds stat leadorfs-1/1/1 up {0=ceph1=up:active}

 

5 客户端挂载文件存储（目标地址可以输入集群mon多个地址）

[root@ceph1 ceph]# mount -t ceph 172.16.3.61:6789:/ /cephfs -o name=admin,secret=AQC6mmJdfBzyHhAAE1GazlHqH2uD35vpL6Do1w==

6 客户端检查挂载情况

[root@centos7 ceph]# df -h 文件系统 容量 已用 可用 已用% 挂载点 /dev/mapper/centos-root 17G 1.2G 16G 7% / devtmpfs 1.9G 0 1.9G 0% /dev tmpfs 1.9G 0 1.9G 0% /dev/shm tmpfs 1.9G 12M 1.9G 1% /run tmpfs 1.9G 0 1.9G 0% /sys/fs/cgroup /dev/sda1 1014M 142M 873M 14% /boot tmpfs 378M 0 378M 0% /run/user/0 172.16.3.61:6789:/ 150G 0 150G 0% /cephfs

7 客户端在/cephfs创建文件

[root@centos7 ceph]# cd /cephfs/ [root@centos7 cephfs]# echo "Utopa 2019" > Utopa.txt [root@centos7 cephfs]# ls Utopa.txt

检查服务器端使用情况

[root@ceph1 ceph]# ceph df GLOBAL: SIZE AVAIL RAW USED %RAW USED 480GiB 474GiB 6.12GiB 1.28 POOLS: NAME ID USED %USED MAX AVAIL OBJECTS volumes 1 134B 0 150GiB 5 vms 2 0B 0 150GiB 0 images 3 0B 0 150GiB 0 rbd1 4 14.3MiB 0 150GiB 19 rbd 5 0B 0 150GiB 0 cephfs 6 11B 0 150GiB 1 cephfs_metadata 7 5.73KiB 0 150GiB 21

 

三、rdb map出錯rbd sysfs write failed

 

創建了一個rbd鏡像1

然後，在Ceph client端將該rbd鏡像映射為本地設備時出錯。

1. $ rbd map docker_test --name client.admin
3. rbd: sysfs write failed
4. RBD image feature set mismatch. You can disable features unsupported by the kernel with "rbd feature disable".
5. In some cases useful info is found in syslog - try "dmesg | tail" or so.

原因： 

rbd鏡像的一些特性，OS kernel並不支持，所以映射失敗。我們查看下該鏡像支持了哪些特性。可以看到特性feature一欄，由於我OS的kernel只支持layering，其他都不支持，所以需要把部分不支持的特性disable掉。 

方法一： 

直接diable這個rbd鏡像的不支持的特性：

$ rbd feature disable docker_test exclusive-lock object-map fast-diff deep-flatten

方法二： 

創建rbd鏡像時就指明需要的特性，如：

$ rbd create --size 4096 docker_test --image-feature layering

方法三： 

如果還想一勞永逸，那麽就在執行創建rbd鏡像命令的服務器中，修改Ceph配置文件/etc/ceph/ceph.conf，在global section下，增加

rbd_default_features = 1

再創建rdb鏡像。

$ rbd create --size 4096 docker_test

通過上述三種方法後，查看rbd鏡像的信息。

1. $ rbd info docker_test
3. rbd image ‘docker_test‘:
4. size 4096 MB in 1024 objects
5. order 22 (4096 kB objects)
6. block_name_prefix: rbd_data.43a22ae8944a
7. format: 2
8. features: layering
9. flags:

次嘗試映射rdb鏡像到本地塊設備，成功！

1. $ rbd map docker_test --name client.admin
3. /dev/rbd0