性能案例分析 | 查看哪些进程在大量读写磁盘－I/O很高问题排查

作者：布丁缘 https://www.ddkiss.com/archives/68.html

Linux 有很多运维诊断工具，有些用起来很简单，有些功能很强大用起来就有些麻烦。比如I/O等待问题，原因可能有很多种，也很难用某一种工具就能定位。特别是如何找到到底是哪个进程读写了哪个文件引起的？

最近，从监控上看总是在上午10点左右I/O负载突然就升起来了，连远程SSH都卡住。因为ECS服务器内存有限，我启用了SWAP，内存不足时不至于会崩溃，系统性能肯定有所下降。

说明：在Centos7中，top ps等是系统自带的工具，iostat iotop lsof等都是需要自行安装的。

确实系统负载上升是否由于I/O异常导致

最简单的是用top命令，比如

Tasks: 102 total,   1 running, 101 sleeping,   0 stopped,   0 zombie
%Cpu(s):  0.7 us,  0.2 sy,  0.0 ni, 0.2 id,  98.9 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem :  1016396 total,    62276 free,   891072 used,    63048 buff/cache
KiB Swap:  1048572 total,   804428 free,   244144 used.     8100 avail Mem

其中wa也就是iowait参数所表示的，有多少比例的CPU在等待I/O

找到具体读写的是哪个磁盘

最简单的是iostat命令，比如

$ iostat -x 2 5
avg-cpu: %user %nice %system %iowait %steal %idle
 3.66 0.00 47.64 48.69 0.00 0.00

Device: rrqm/s wrqm/s r/s w/s rkB/s wkB/s avgrq-sz avgqu-sz await r_await w_await svctm %util
sda 44.50 39.27 117.28 29.32 11220.94 13126.70 332.17 65.77 462.79 9.80 2274.71 7.60 111.41
dm-0 0.00 0.00 83.25 9.95 10515.18 4295.29 317.84 57.01 648.54 16.73 5935.79 11.48 107.02
dm-1 0.00 0.00 57.07 40.84 228.27 163.35 8.00 93.84 979.61 13.94 2329.08 10.93 107.02

其中-x知指明输出更加详细的信息。2 5表示间隔2秒统计一次总共输出5次。第一行结果是自系统启动以来的统计值，通常排查突发的I/O异常时可忽略。重点看%util列，表示进程使用I/O的比例。

找出引起高I/O的进程

最简单的是iotop命令，比如

Total DISK READ: 404.95 K/s | Total DISK WRITE: 9.91 M/s
  TID  PRIO  USER     DISK READ  DISK WRITE  SWAPIN     IO>    COMMAND                                                                                               
 3153 be/3 root        0.00 B/s    3.78 K/s  0.00 %  6.23 % [jbd2/sda5-8]
10287 be/4 mysql     253.57 K/s 1858.24 K/s  0.00 %  3.73 % mysqld --defaults-file=/etc/my.cnf --basedir=/opt/my~--pid-file

iotop命令确实是一个很好用的工具，但是很多Linux发行版中默认并没有安装。如果系统里没有这个命令，又不想安装时，怎么办？有没有更简单的方式？

能够实现iotop类型功能的ps命令

首先看下进程状态编码

PROCESS STATE CODES
 D uninterruptible sleep (usually IO)
 R running or runnable (on run queue)
 S interruptible sleep (waiting for an event to complete)
 T stopped, either by a job control signal or because it is being traced.
 W paging (not valid since the 2.6.xx kernel)
 X dead (should never be seen)
 Z defunct ("zombie") process, terminated but not reaped by its parent.

注意到，如果进程正在等待I/O，进行的状态码经常为D。通过这个信息，我们可以大概估算出哪些进程在I/O等待中，比如

[root@myos ~]# for x in `seq 1 1 10`; do ps -eo state,pid,cmd | grep "^D"; echo "----"; sleep 5; done
----
----
----
D 27456 php-fpm: pool www
----
----
----
----
----
----
----

这里就发现进行 27456　可能有问题。但等待I/O也不一定说明它在疯狂读写磁盘。为了确定它确实读写很多，可以用/proc目录下的信息来定位，比如

[root@myos ~]# cat /proc/27456/io
rchar: 42857442
wchar: 35657666
syscr: 44932
syscw: 9744
read_bytes: 1530859520
write_bytes: 13824000
cancelled_write_bytes: 1249280

需要注意的是，不同的线程参考值不一样。这个得具体问题具体分析。