使用qemu-nbd进行rbd挂载

Posted lifei02

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用qemu-nbd进行rbd挂载相关的知识,希望对你有一定的参考价值。

1. 安装软件

apt-get install qemu-utils
apt-get install ceph-common
  • 注意: 请确保ceph-common版本与ceph服务端一致

2.部署nbd模块的配置: /etc/modprobe.d/nbd.conf

写入如下内容:

options nbd max_part=16 nbds_max=99

说明: 
- max_part:块设备支持的最大分区数,默认值为0,不修改的话部分情况会无法显示分区 
- nbds_max: nbd设备(即/dev/nbd*)的个数, 设备系统默认只有16个,请根据实际情况酌情修改,不能高于255

3.加载nbd模块

[email protected]-test:~# modprobe nbd
## 检查是否成功加载
[email protected]-test:~# ls /dev/nbd*
/dev/nbd0 /dev/nbd1 ......

4.新建rbd并映射到本地块设备

## 新建测试设备
[email protected]-test:~# qemu-img create -f raw rbd:aquarius-sas-img/test-nbd1:id=docker 100G
## 映射
## 格式为:qemu-nbd -c [nbd设备名] rbd:[pool名]/[rbd名称]:id=[连接存储使用的用户名]
[email protected]-test:~# qemu-nbd -c /dev/nbd1 rbd:aquarius-sas-img/test-nbd1:id=docker
## 添加其他参数格式如下,基本任何ceph.conf里面的参数都可以加在后面
qemu-nbd -c /dev/nbd0 rbd:aquarius-sas-img/testnbd4-aquarius-sas-img:id=network:conf=/dev/null:mon_host=10.82.255.164:key=AQASHd1aNsf5JBAA3TyMR8cBZ52W988T4YIIbQ==
## 注意:这里需要手动指定映射的nbd设备,因此需要事先去检查哪些nbd设备已经使用


## 检查是否出现这个块设备
[email protected]-test:~# lsblk
NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
nbd1 43:0 0 100G 0 disk
sda 8:0 0 278.5G 0 disk
├─sda2 8:2 0 1K 0 part
├─sda9 8:9 0 246.5G 0 part /home
├─sda7 8:7 0 8G 0 part /var
├─sda5 8:5 0 4G 0 part [SWAP]
├─sda1 8:1 0 8G 0 part /
├─sda8 8:8 0 4G 0 part /tmp
└─sda6 8:6 0 8G 0 part /usr
## 新建完成后就可以直接当做块设备来使用,分区、格式化等任何你想做的事

5.简单测试

## 分区,也可以不分区直接格式化后进行读写
[email protected]-test:~# parted -s /dev/nbd1 mktable GPT
[email protected]-test:~# parted -s /dev/nbd1 mkpart primary 1 100%
## 格式化
[email protected]-test:~# mkfs.xfs /dev/nbd1p1
meta-data=/dev/nbd1p1 isize=256 agcount=4, agsize=6553472 blks
         = sectsz=512 attr=2, projid32bit=1
         = crc=0 finobt=0
data = bsize=4096 blocks=26213888, imaxpct=25
         = sunit=0 swidth=0 blks
naming =version 2 bsize=4096 ascii-ci=0 ftype=0
log =internal log bsize=4096 blocks=12799, version=2
         = sectsz=512 sunit=0 blks, lazy-count=1
realtime =none extsz=4096 blocks=0, rtextents=0
## 挂载
[email protected]-test:~# mount /dev/nbd1p1 /mnt/
[email protected]-test:~# cd /mnt/
## 简单dd测试
[email protected]-test:~# dd if=/dev/zero of=test-dd-in-nbd bs=2M count=100
100+0 records in
100+0 records out
209715200 bytes (210 MB) copied, 0.145939 s, 1.4 GB/s

[email protected]-test:~# ls -lh
total 200M
-rw-r--r-- 1 root root 200M 5 14 17:07 test-dd-in-nbd

[email protected]-test:~# df -h|grep nbd
/dev/nbd1p1 100G 233M 100G 1% /mnt

6.解挂

## 解挂载
[email protected]-test:~# cd /
[email protected]-test:~# umount /mnt/
## 解除映射
[email protected]-test:~# qemu-nbd -d /dev/nbd1
/dev/nbd1 disconnected
## 检查块设备
[email protected]-test:~# lsblk
NAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT
sda 8:0 0 278.5G 0 disk
├─sda2 8:2 0 1K 0 part
├─sda9 8:9 0 246.5G 0 part /home
├─sda7 8:7 0 8G 0 part /var
├─sda5 8:5 0 4G 0 part [SWAP]
├─sda1 8:1 0 8G 0 part /
├─sda8 8:8 0 4G 0 part /tmp
└─sda6 8:6 0 8G 0 part /usr


以上是关于使用qemu-nbd进行rbd挂载的主要内容,如果未能解决你的问题,请参考以下文章

qemu-nbd方式挂载qcow2镜像

如何挂载qcow2格式的镜像文件

ceph 块存储rbd的使用,使用普通户创建和挂载rbd

ceph rbd块存储挂载及文件存储建立

rancher2 挂载ceph-rbd

Rancher集群启动服务挂载rbd存储报错排查