FIO是测试IOPS

时间:2021-07-30 16:49:32

FIO是测试IOPS的非常好的工具,用来对硬件进行压力测试和验证,支持13种不同的I/O引擎,包括:sync,mmap, libaio, posixaio, SG v3, splice, null, network, syslet, guasi, solarisaio 等等。

安装

  • 下载地址 
    wget http://brick.kernel.dk/snaps/fio-2.1.10.tar.gz
  • centos
    • yun install libaio-devel -y
  • debian
    • apt-get install libaio-dev -y
  • 编译安装 
    tar zxf fio-2.1.10.tar.gz 
    cd fio-2.1.10 
    make && make install

用法、说明

  • filename=/dev/sdb1       测试文件名称,通常选择需要测试的盘的data目录。
    direct=1 测试过程绕过机器自带的buffer。使测试结果更真实。
    rw=randwrite 测试随机写的I/O
    rw=randrw 测试随机写和读的I/O
    bs=16k 单次io的块文件大小为16k
    bsrange=512-2048 同上,提定数据块的大小范围
    size=5g 本次的测试文件大小为5g,以每次4k的io进行测试。
    numjobs=30 本次的测试线程为30.
    runtime=1000 测试时间为1000秒,如果不写则一直将5g文件分4k每次写完为止。
    ioengine=psync io引擎使用pync方式
    rwmixwrite=30 在混合读写的模式下,写占30%
    group_reporting 关于显示结果的,汇总每个进程的信息。
    此外
    lockmem=1g 只使用1g内存进行测试。
    zero_buffers 用0初始化系统buffer。
    nrfiles=8 每个进程生成文件的数量。
  • 顺序写性能 
    fio --filename=/data/test --iodepth=64 --ioengine=libaio --direct=1 --rw=write --bs=4k --size=500m --numjobs=4 --runtime=10 --group_reporting --name=test-write

  • 顺序读性能 
    fio --filename=/data/test --iodepth=64 --ioengine=libaio --direct=1 --rw=read --bs=4k --size=500m --numjobs=4 --runtime=10 --group_reporting --name=test-read

  • 随机读性能 
    fio --filename=/data/test -iodepth=64 --ioengine=libaio --direct=1 --rw=randread --bs=4k --size=500M --numjobs=64 --runtime=20 --group_reporting --name=test-rand-read

  • 随机写性能 
    fio --filename=/data/test --iodepth=64 --ioengine=libaio --direct=1 --rw=randwrite --bs=4k --size=500M --numjobs=64 --runtime=20 --group_reporting --name=test-rand-write

  • 随机读写 
    fio --filename=/data/test --iodepth=64 --ioengine=libaio --direct=1 --rw=randrw --bs=4k --size=500M --numjobs=64 --runtime=20 --group_reporting --name=test-rand-readwrite

ucloud实际测试样例

  • [root@leoieo # fio --filename=/data/test --iodepth=64 --ioengine=libaio --direct=1 --rw=randrw --bs=4k --size=500M --numjobs=64 --runtime=20 --group_reporting --name=test-rand-readwrite
    test-rand-readwrite: (g=0): rw=randrw, bs=4K-4K/4K-4K, ioengine=libaio, iodepth=64
    ...
    test-rand-readwrite: (g=0): rw=randrw, bs=4K-4K/4K-4K, ioengine=libaio, iodepth=64
    fio 2.0.7
    Starting 64 processes
    test-rand-readwrite: Laying out IO file(s) (1 file(s) / 500MB)
    Jobs: 64 (f=64):
    .....
    test-rand-readwrite: (groupid=0, jobs=64): err= 0: pid=27106
    read : io=1254.7MB, bw=63827KB/s, iops=15956 , runt= 20128msec
    slat (usec): min=2 , max=362246 , avg=1939.96, stdev=20054.83
    clat (usec): min=11 , max=822072 , avg=114432.56, stdev=116574.10
    lat (usec): min=41 , max=822081 , avg=116375.98, stdev=117044.89
    clat percentiles (usec):
    | 1.00th=[ 418], 5.00th=[ 604], 10.00th=[ 692], 20.00th=[ 828],
    | 30.00th=[ 1048], 40.00th=[ 3120], 50.00th=[98816], 60.00th=[115200],
    | 70.00th=[205824], 80.00th=[246784], 90.00th=[288768], 95.00th=[296960],
    | 99.00th=[317440], 99.50th=[411648], 99.90th=[528384], 99.95th=[577536],
    | 99.99th=[618496]
    bw (KB/s) : min= 149, max= 2782, per=1.58%, avg=1011.31, stdev=501.25
    write: io=1253.0MB, bw=63746KB/s, iops=15936 , runt= 20128msec
    slat (usec): min=3 , max=370177 , avg=1946.49, stdev=20060.74
    clat (usec): min=10 , max=822032 , avg=136414.77, stdev=118302.48
    lat (usec): min=346 , max=894660 , avg=138365.58, stdev=119001.95
    clat percentiles (usec):
    | 1.00th=[ 636], 5.00th=[ 748], 10.00th=[ 836], 20.00th=[ 1048],
    | 30.00th=[ 2864], 40.00th=[96768], 50.00th=[111104], 60.00th=[162816],
    | 70.00th=[222208], 80.00th=[276480], 90.00th=[292864], 95.00th=[301056],
    | 99.00th=[378880], 99.50th=[501760], 99.90th=[577536], 99.95th=[593920],
    | 99.99th=[692224]
    bw (KB/s) : min= 30, max= 2778, per=1.58%, avg=1007.37, stdev=499.86
    lat (usec) : 20=0.01%, 50=0.01%, 100=0.01%, 250=0.12%, 500=0.76%
    lat (usec) : 750=8.93%, 1000=13.61%
    lat (msec) : 2=10.84%, 4=1.15%, 10=0.84%, 20=0.42%, 50=0.26%
    lat (msec) : 100=9.27%, 250=31.68%, 500=21.65%, 750=0.44%, 1000=0.01%
    cpu : usr=0.17%, sys=0.62%, ctx=18901, majf=0, minf=1896
    IO depths : 1=0.1%, 2=0.1%, 4=0.1%, 8=0.1%, 16=0.2%, 32=0.3%, >=64=99.4%
    submit : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.0%, >=64=0.0%
    complete : 0=0.0%, 4=100.0%, 8=0.0%, 16=0.0%, 32=0.0%, 64=0.1%, >=64=0.0%
    issued : total=r=321176/w=320768/d=0, short=r=0/w=0/d=0 Run status group 0 (all jobs):
    READ: io=1254.7MB, aggrb=63826KB/s, minb=63826KB/s, maxb=63826KB/s, mint=20128msec, maxt=20128msec
    WRITE: io=1253.0MB, aggrb=63745KB/s, minb=63745KB/s, maxb=63745KB/s, mint=20128msec, maxt=20128msec Disk stats (read/write):
    vdb: ios=320605/320220, merge=2/27, ticks=437742/1156547, in_queue=1593987, util=98.64%

关于使用dd进行读写测试

    • 4k 10万次写 
      dd if=/dev/zero of=/data/test bs=4k count=100000 
      100000+0 records in 
      100000+0 records out 
      409600000 bytes (410 MB) copied, 0.87704 s, 467 MB/s
    • 4k 10万次读 
      dd if=/data/test of=/dev/null bs=4k count=100000 
      100000+0 records in 
      100000+0 records out 
      409600000 bytes (410 MB) copied, 0.111689 s, 3.7 GB/s
    • 4k 10万次读写 
      dd if=/data/test of=/data/test.txt bs=4k count=100000 
      100000+0 records in 
      100000+0 records out 
      409600000 bytes (410 MB) copied, 0.776348 s, 528 MB/s