概述
通过执行以下命令,可以在1分钟内对系统资源使用情况有个大致的了解。
- uptime
- dmesg | tail
- vmstat 1
- mpstat -P ALL 1
- pidstat 1
- iostat -xz 1
- free -m
- sar -n DEV 1
- sar -n TCP,ETCP 1
- top
其中一些命令需要安装sysstat包,有一些由procps包提供。这些命令的输出,有助于快速定位性能瓶颈,检查出所有资源(CPU、内存、磁盘IO等)的利用率(utilization)、饱和度(saturation)和错误(error)度量,也就是所谓的USE方法。
下面我们来逐一介绍下这些命令,有关这些命令更多的参数和说明,请参照命令的手册。
dmesg | tail
该命令会输出系统日志的最后10行。示例中的输出,可以看见一次内核的oom kill和一次TCP丢包。这些日志可以帮助排查性能问题。千万不要忘了这一步。
vmstat 1
$ vmstat
procs ---------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r b swpd free buff cache si so bi bo in cs us sy id wa st ^C
vmstat(8) 命令,每行会输出一些系统核心指标,这些指标可以让我们更详细的了解系统状态。后面跟的参数1,表示每秒输出一次统计信息,表头提示了每一列的含义,这几介绍一些和性能调优相关的列:
- r:等待在CPU资源的进程数。这个数据比平均负载更加能够体现CPU负载情况,数据中不包含等待IO的进程。如果这个数值大于机器CPU核数,那么机器的CPU资源已经饱和。
- free:系统可用内存数(以千字节为单位),如果剩余内存不足,也会导致系统性能问题。下文介绍到的free命令,可以更详细的了解系统内存的使用情况。
- si, so:交换区写入和读取的数量。如果这个数据不为0,说明系统已经在使用交换区(swap),机器物理内存已经不足。
- us, sy, id, wa, st:这些都代表了CPU时间的消耗,它们分别表示用户时间(user)、系统(内核)时间(sys)、空闲时间(idle)、IO等待时间(wait)和被偷走的时间(stolen,一般被其他虚拟机消耗)。
上述这些CPU时间,可以让我们很快了解CPU是否出于繁忙状态。一般情况下,如果用户时间和系统时间相加非常大,CPU出于忙于执行指令。如果IO等待时间很长,那么系统的瓶颈可能在磁盘IO。
示例命令的输出可以看见,大量CPU时间消耗在用户态,也就是用户应用程序消耗了CPU时间。这不一定是性能问题,需要结合r队列,一起分析。
mpstat -P ALL 1
$ mpstat -P ALL
Linux 3.13.--generic (titanclusters-xxxxx) // _x86_64_ ( CPU)
:: PM CPU %usr %nice %sys %iowait %irq %soft %steal %guest %gnice %idle
:: PM all 98.47 0.00 0.75 0.00 0.00 0.00 0.00 0.00 0.00 0.78
:: PM 96.04 0.00 2.97 0.00 0.00 0.00 0.00 0.00 0.00 0.99
:: PM 97.00 0.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 2.00
:: PM 98.00 0.00 1.00 0.00 0.00 0.00 0.00 0.00 0.00 1.00
:: PM 96.97 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 3.03
[...]
该命令可以显示每个CPU的占用情况,如果有一个CPU占用率特别高,那么有可能是一个单线程应用程序引起的。
pidstat 1
$ pidstat
Linux 3.13.--generic (titanclusters-xxxxx) // _x86_64_ ( CPU)
:: PM UID PID %usr %system %guest %CPU CPU Command
:: PM 0.00 0.94 0.00 0.94 rcuos/
:: PM 5.66 5.66 0.00 11.32 mesos-slave
:: PM 0.94 0.94 0.00 1.89 java
:: PM 1596.23 1.89 0.00 1598.11 java
:: PM 1571.70 7.55 0.00 1579.25 java
:: PM 0.94 4.72 0.00 5.66 pidstat
:: PM UID PID %usr %system %guest %CPU CPU Command
:: PM 6.00 2.00 0.00 8.00 mesos-slave
:: PM 1590.00 1.00 0.00 1591.00 java
:: PM 1573.00 10.00 0.00 1583.00 java
:: PM 1.00 0.00 0.00 1.00 snmp-pass
:: PM 1.00 4.00 0.00 5.00 pidstat
^C
pidstat命令输出进程的CPU占用率,该命令会持续输出,并且不会覆盖之前的数据,可以方便观察系统动态。如上的输出,可以看见两个JAVA进程占用了将近1600%的CPU时间,既消耗了大约16个CPU核心的运算资源。
iostat -xz 1
$ iostat -xz
Linux 3.13.--generic (titanclusters-xxxxx) // _x86_64_ ( CPU)
avg-cpu: %user %nice %system %iowait %steal %idle
73.96 0.00 3.73 0.03 0.06 22.21
Device: rrqm/s wrqm/s r/s w/s rkB/s wkB/s avgrq-sz avgqu-sz await r_await w_await svctm %util
xvda 0.00 0.23 0.21 0.18 4.52 2.08 34.37 0.00 9.98 13.80 5.42 2.44 0.09
xvdb 0.01 0.00 1.02 8.94 127.97 598.53 145.79 0.00 0.43 1.78 0.28 0.25 0.25
xvdc 0.01 0.00 1.02 8.86 127.79 595.94 146.50 0.00 0.45 1.82 0.30 0.27 0.26
dm- 0.00 0.00 0.69 2.32 10.47 31.69 28.01 0.01 3.23 0.71 3.98 0.13 0.04
dm- 0.00 0.00 0.00 0.94 0.01 3.78 8.00 0.33 345.84 0.04 346.81 0.01 0.00
dm- 0.00 0.00 0.09 0.07 1.35 0.36 22.50 0.00 2.55 0.23 5.62 1.78 0.03
[...]
^C
iostat命令主要用于查看机器磁盘IO情况。该命令输出的列,主要含义是:
- r/s, w/s, rkB/s, wkB/s:分别表示每秒读写次数和每秒读写数据量(千字节)。读写量过大,可能会引起性能问题。
- await:IO操作的平均等待时间,单位是毫秒。这是应用程序在和磁盘交互时,需要消耗的时间,包括IO等待和实际操作的耗时。如果这个数值过大,可能是硬件设备遇到了瓶颈或者出现故障。
- avgqu-sz:向设备发出的请求平均数量。如果这个数值大于1,可能是硬件设备已经饱和(部分前端硬件设备支持并行写入)。
- %util:设备利用率。这个数值表示设备的繁忙程度,经验值是如果超过60,可能会影响IO性能(可以参照IO操作平均等待时间)。如果到达100%,说明硬件设备已经饱和。
如果显示的是逻辑设备的数据,那么设备利用率不代表后端实际的硬件设备已经饱和。值得注意的是,即使IO性能不理想,也不一定意味这应用程序性能会不好,可以利用诸如预读取、写缓存等策略提升应用性能。
sar -n DEV 1
$ sar -n DEV
Linux 3.13.--generic (titanclusters-xxxxx) // _x86_64_ ( CPU)
:: AM IFACE rxpck/s txpck/s rxkB/s txkB/s rxcmp/s txcmp/s rxmcst/s %ifutil
:: AM eth0 18763.00 5032.00 20686.42 478.30 0.00 0.00 0.00 0.00
:: AM lo 14.00 14.00 1.36 1.36 0.00 0.00 0.00 0.00
:: AM docker0 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
:: AM IFACE rxpck/s txpck/s rxkB/s txkB/s rxcmp/s txcmp/s rxmcst/s %ifutil
:: AM eth0 19763.00 5101.00 21999.10 482.56 0.00 0.00 0.00 0.00
:: AM lo 20.00 20.00 3.25 3.25 0.00 0.00 0.00 0.00
:: AM docker0 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00
^C
sar命令在这里可以查看网络设备的吞吐率。在排查性能问题时,可以通过网络设备的吞吐量,判断网络设备是否已经饱和。如示例输出中,eth0网卡设备,吞吐率大概在22 Mbytes/s,既176 Mbits/sec,没有达到1Gbit/sec的硬件上限。
sar -n TCP,ETCP 1
$ sar -n TCP,ETCP
Linux 3.13.--generic (titanclusters-xxxxx) // _x86_64_ ( CPU)
:: AM active/s passive/s iseg/s oseg/s
:: AM 1.00 0.00 10233.00 18846.00
:: AM atmptf/s estres/s retrans/s isegerr/s orsts/s
:: AM 0.00 0.00 0.00 0.00 0.00
:: AM active/s passive/s iseg/s oseg/s
:: AM 1.00 0.00 8359.00 6039.00
:: AM atmptf/s estres/s retrans/s isegerr/s orsts/s
:: AM 0.00 0.00 0.00 0.00 0.00
^C
sar命令在这里用于查看TCP连接状态,其中包括:
- active/s:每秒本地发起的TCP连接数,既通过connect调用创建的TCP连接;
- passive/s:每秒远程发起的TCP连接数,即通过accept调用创建的TCP连接;
- retrans/s:每秒TCP重传数量;
TCP连接数可以用来判断性能问题是否由于建立了过多的连接,进一步可以判断是主动发起的连接,还是被动接受的连接。TCP重传可能是因为网络环境恶劣,或者服务器压力过大导致丢包。
free -m 显示剩余内存(MB):
free -m | grep cache | awk '/[0-9]/{ print $4" MB" }'