sysbench 压力测试工具

时间:2021-06-15 11:43:13

 

一、sysbench压力测试工具简介:

 

sysbench是一个开源的、模块化的、跨平台的多线程性能测试工具,可以用来进行CPU、内存、磁盘I/O、线程、数据库的性能测试。目前支持的数据库有MySQL、Oracle和PostgreSQL。以下操作都将以支持MySQL数据库为例进行。

 

1.      sysbench工具安装:

默认支持<span "="">MySQL,如果需要测试<span "="">Oracle/PostgreSQL,则在<span "="">configure时需要加上<span "="">–with-oracle或者<span "="">–with-pgsql参数<span "="">.

<span "="">

1.1          安装环境

<span "="">CentOS release 6.3 (Final)

<span "="">MySQL 5.6.13 

<span "="">MySQL_HOME=/usr/local/mysql/

<span "="">Sysbench 0.4.12

1.2          下载安装包

# wget http://sourceforge.net/projects/sysbench/sysbench-0.4.12.tar.gz

 

1.3 编译安装

#  tar –zxvf sysbench-0.4.12.tar.gz

 

进入解压缩包<span "="">sysbench-0.4.12,并执行脚本<span "="">autogen.sh

 

# cd sysbench-0.4.12

# ./autogen.sh

 

关键的三步:configure && make && make install

 

首先是./configure命令,sysbench默认是支持MySQL的benchmarking的,如果不加任何选项则要求保证MySQL的安装路径都是默认的标准路径,headfile位于/usr/include目录下,libraries位于/usr/lib/目录下。因为我的MySQL是源码编译安装的,安装路径是放在/usr/local/mysql下,所以这里要添加相应的选项命令:

 

# ./configure --prefix=/usr/local/sysbench --with-mysql=/usr/local/mysql \

--with-mysql-includes=/usr/local/mysql/include/mysql/ \

--with-mysql-libs=/usr/local/mysql/lib/mysql/

 

注意:这里在编译时要将路径写到最后的include/mysql及lib/mysql,如下所示:

 

–with-mysql-includes=/usr/local/mysql/include/mysql/

--with-mysql-libs=/usr/local/mysql/lib/mysql/

 

因为网上好多资料都没有提到这一层,在编译时总是编译不过去,这里浪费了好多精力。

接下来执行如下命令:

 

# make && make install

1.4           yum安装

如果觉得源码安装麻烦,也可以采用yum安装,操作如下:

 

 

# yum install -y sysbench

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

2.      sysbench支持的功能参数

 

首先,看看sysbench都支持哪些功能参数:

[root@db-master sysbench]# sysbench --help

Usage:

  sysbench [general-options]... --test= [test-options]... command

General options:

  --num-threads=N            number of threads to use [1]

  --max-requests=N           limit for total number of requests [10000]

  --max-time=N               limit for total execution time in seconds [0]

  --forced-shutdown=STRING   amount of time to wait after --max-time before forcing shutdown [off]

  --thread-stack-size=SIZE   size of stack per thread [32K]

  --init-rng=[on|off]        initialize random number generator [off]

  --test=STRING              test to run

  --debug=[on|off]           print more debugging info [off]

  --validate=[on|off]        perform validation checks where possible [off]

  --help=[on|off]            print help and exit

  --version=[on|off]         print version and exit

Compiled-in tests:

  fileio - File I/O test

  cpu - CPU performance test

  memory - Memory functions speed test

  threads - Threads subsystem performance test

  mutex - Mutex performance test

  oltp - OLTP test

Commands: prepare run cleanup help version

See 'sysbench --test= help' for a list of options for each test.

 

 

Sysbench的测试主要包括以下几个方面:

1、磁盘io性能

2、cpu性能

3、内存分配及传输速度

4、POSIX线程性能

5、调度程序性能

6、数据库性能(OLTP基准测试).

 

 

2.1 测试fileio命令帮助:

[root@db-master ~]# sysbench --test=fileio help  

sysbench 0.4.12:  multi-threaded system evaluation benchmark

fileio options:

  --file-num=N                  number of files to create [128]

  --file-block-size=N           block size to use in all IO operations [16384]

  --file-total-size=SIZE        total size of files to create [2G]

  --file-test-mode=STRING       test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}

  --file-io-mode=STRING         file operations mode {sync,async,fastmmap,slowmmap} [sync]

  --file-async-backlog=N        number of asynchronous operatons to queue per thread [128]

  --file-extra-flags=STRING     additional flags to use on opening files {sync,dsync,direct} []

  --file-fsync-freq=N           do fsync() after this number of requests (0 - don't use fsync()) [100]

  --file-fsync-all=[on|off]     do fsync() after each write operation [off]

  --file-fsync-end=[on|off]     do fsync() at the end of test [on]

  --file-fsync-mode=STRING      which method to use for synchronization {fsync, fdatasync} [fsync]

  --file-merged-requests=N      merge at most this number of IO requests if possible (0 - don't merge) [0]

  --file-rw-ratio=N             reads/writes ratio for combined test [1.5]

 

参数详解:

--file-num=N          代表生成测试文件的数量,默认为128。

--file-block-size=N      测试时所使用文件块的大小,如果想磁盘针对innodb存储引擎进行测试,可以将其设置为16384,即innodb存储引擎页的大小。默认为16384。

--file-total-size=SIZE     创建测试文件的总大小,默认为2G大小。

--file-test-mode=STRING 文件测试模式,包含:seqwr(顺序写), seqrewr(顺序读写), seqrd(顺序读), rndrd(随机读), rndwr(随机写), rndrw(随机读写)。

--file-io-mode=STRING   文件操作的模式,sync(同步),async(异步),fastmmap(快速mmap),slowmmap(慢速mmap),默认为sync同步模式。

--file-async-backlog=N   对应每个线程队列的异步操作数,默认为128。

--file-extra-flags=STRING 打开文件时的选项,这是与API相关的参数。

--file-fsync-freq=N      执行fsync()函数的频率。fsync主要是同步磁盘文件,因为可能有系统和磁盘缓冲的关系。 0代表不使用fsync函数。默认值为100。

--file-fsync-all=[on|off]  每执行完一次写操作,就执行一次fsync。默认为off。

--file-fsync-end=[on|off] 在测试结束时执行fsync函数。默认为on。

--file-fsync-mode=STRING文件同步函数的选择,同样是和API相关的参数,由于多个操作系统对于fdatasync支持不同,因此不建议使用fdatasync。默认为fsync。

--file-merged-requests=N 大多情况下,合并可能的IO的请求数,默认为0。

--file-rw-ratio=N         测试时的读写比例,默认时为1.5,即可3:2。

 

2.2 测试cpu命令帮助:

[root@db-master ~]# sysbench --test=cpu help

sysbench 0.4.12:  multi-threaded system evaluation benchmark

cpu options:

  --cpu-max-prime=N      upper limit for primes generator [10000]

 

 

 参数详解:

  --cpu-max-prime=N      用来选项指定最大的素数,具体参数可以根据CPU的性能来设置,默认为10000

 

2.3 测试memory命令帮助:

[root@db-master ~]# sysbench  --test=memory help

sysbench 0.4.12:  multi-threaded system evaluation benchmark

memory options:

  --memory-block-size=SIZE    size of memory block for test [1K]

  --memory-total-size=SIZE    total size of data to transfer [100G]

  --memory-scope=STRING       memory access scope {global,local} [global]

  --memory-hugetlb=[on|off]   allocate memory from HugeTLB pool [off]

  --memory-oper=STRING        type of memory operations {read, write, none} [write]

  --memory-access-mode=STRING memory access mode {seq,rnd} [seq]

 

 

 

 

 

参数详解:

  --memory-block-size=SIZE      测试内存块的大小,默认为1K

  --memory-total-size=SIZE       数据传输的总大小,默认为100G

  --memory-scope=STRING       内存访问的范围,包括全局和本地范围,默认为global

  --memory-hugetlb=[on|off]     是否从HugeTLB池分配内存的开关,默认为off

  --memory-oper=STRING        内存操作的类型,包括read, write, none,默认为write

  --memory-access-mode=STRING 内存访问模式,包括seq,rnd两种模式,默认为seq

 

 

 

2.4 测试threads命令帮助: 

[root@db-master ~]# sysbench  --test=threads help

sysbench 0.4.12:  multi-threaded system evaluation benchmark

threads options:

  --thread-yields=N      number of yields to do per request [1000]

  --thread-locks=N       number of locks per thread [8]

 

参数详解: 

  --thread-yields=N      指定每个请求的压力,默认为1000

  --thread-locks=N       指定每个线程的锁数量,默认为8

 

  

2.5 测试mutex命令帮助:

[root@db-master ~]# sysbench  --test=mutex help 

sysbench 0.4.12:  multi-threaded system evaluation benchmark

mutex options:

  --mutex-num=N        total size of mutex array [4096]

  --mutex-locks=N      number of mutex locks to do per thread [50000]

  --mutex-loops=N      number of empty loops to do inside mutex lock [10000]

 

参数详解

  --mutex-num=N    数组互斥的总大小。默认是4096

  --mutex-locks=N    每个线程互斥锁的数量。默认是50000

  --mutex-loops=N    内部互斥锁的空循环数量。默认是10000

2.6 测试oltp命令帮助:  

 

[root@db-master ~]# sysbench --test=oltp help 

sysbench 0.4.12:  multi-threaded system evaluation benchmark

oltp options:

  --oltp-test-mode=STRING         test type to use {simple,complex,nontrx,sp} [complex]

  --oltp-reconnect-mode=STRING    reconnect mode {session,transaction,query,random} [session]

  --oltp-sp-name=STRING           name of store procedure to call in SP test mode []

  --oltp-read-only=[on|off]       generate only 'read' queries (do not modify database) [off]

  --oltp-skip-trx=[on|off]        skip BEGIN/COMMIT statements [off]

  --oltp-range-size=N             range size for range queries [100]

  --oltp-point-selects=N          number of point selects [10]

  --oltp-simple-ranges=N          number of simple ranges [1]

  --oltp-sum-ranges=N             number of sum ranges [1]

  --oltp-order-ranges=N           number of ordered ranges [1]

  --oltp-distinct-ranges=N        number of distinct ranges [1]

  --oltp-index-updates=N          number of index update [1]

  --oltp-non-index-updates=N      number of non-index updates [1]

  --oltp-nontrx-mode=STRING       mode for non-transactional test {select, update_key, update_nokey, insert, delete} [select]

  --oltp-auto-inc=[on|off]        whether AUTO_INCREMENT (or equivalent) should be used on id column [on]

  --oltp-connect-delay=N          time in microseconds to sleep after connection to database [10000]

  --oltp-user-delay-min=N         minimum time in microseconds to sleep after each request [0]

  --oltp-user-delay-max=N         maximum time in microseconds to sleep after each request [0]

  --oltp-table-name=STRING        name of test table [sbtest]

  --oltp-table-size=N             number of records in test table [10000]

  --oltp-dist-type=STRING         random numbers distribution {uniform,gaussian,special} [special]

  --oltp-dist-iter=N              number of iterations used for numbers generation [12]

  --oltp-dist-pct=N               percentage of values to be treated as 'special' (for special distribution) [1]

  --oltp-dist-res=N               percentage of 'special' values to use (for special distribution) [75]

General database options:

  --db-driver=STRING  specifies database driver to use ('help' to get list of available drivers)

  --db-ps-mode=STRING prepared statements usage mode {auto, disable} [auto]

 

Compiled-in database drivers:

  mysql - MySQL driver

  pgsql - PostgreSQL driver

mysql options:

  --mysql-host=[LIST,...]       MySQL server host [localhost]

  --mysql-port=N                MySQL server port [3306]

  --mysql-socket=STRING         MySQL socket

  --mysql-user=STRING           MySQL user [sbtest]

  --mysql-password=STRING       MySQL password []

  --mysql-db=STRING             MySQL database name [sbtest]

  --mysql-table-engine=STRING   storage engine to use for the test table {myisam,innodb,bdb,heap,ndbcluster,federated} [innodb]

  --mysql-engine-trx=STRING     whether storage engine used is transactional or not {yes,no,auto} [auto]

  --mysql-ssl=[on|off]          use SSL connections, if available in the client library [off]

  --myisam-max-rows=N           max-rows parameter for MyISAM tables [1000000]

  --mysql-create-options=STRING additional options passed to CREATE TABLE []

pgsql options:

  --pgsql-host=STRING     PostgreSQL server host [localhost]

  --pgsql-port=N          PostgreSQL server port [5432]

  --pgsql-user=STRING     PostgreSQL user [sbtest]

  --pgsql-password=STRING PostgreSQL password []

  --pgsql-db=STRING       PostgreSQL database name [sbtest]

 

 

参数详解:

 

  --oltp-test-mode=STRING    执行模式{simple,complex(advanced transactional),nontrx(non-transactional),sp}。默认是complex

  --oltp-reconnect-mode=STRING 重新连接模式{session(不使用重新连接。每个线程断开只在测试结束),transaction(在每次事务结束后重新连接),query(在每个SQL语句执行完重新连接),random(对于每个事务随机选择以上重新连接模式)}。默认是session

  --oltp-sp-name=STRING   存储过程的名称。默认为空

  --oltp-read-only=[on|off]  只读模式。Updatedeleteinsert语句不可执行。默认是off

  --oltp-skip-trx=[on|off]   省略begin/commit语句。默认是off

  --oltp-range-size=N      查询范围。默认是100

  --oltp-point-selects=N          number of point selects [10]

  --oltp-simple-ranges=N          number of simple ranges [1]

  --oltp-sum-ranges=N             number of sum ranges [1]

  --oltp-order-ranges=N           number of ordered ranges [1]

  --oltp-distinct-ranges=N        number of distinct ranges [1]

  --oltp-index-updates=N          number of index update [1]

  --oltp-non-index-updates=N      number of non-index updates [1]

  --oltp-nontrx-mode=STRING   查询类型对于非事务执行模式{select, update_key, update_nokey, insert, delete} [select]

  --oltp-auto-inc=[on|off]      AUTO_INCREMENT是否开启。默认是on

  --oltp-connect-delay=N     在多少微秒后连接数据库。默认是10000

  --oltp-user-delay-min=N    每个请求最短等待时间。单位是ms。默认是0

  --oltp-user-delay-max=N    每个请求最长等待时间。单位是ms。默认是0

  --oltp-table-name=STRING  测试时使用到的表名。默认是sbtest

  --oltp-table-size=N         测试表的记录数。默认是10000

  --oltp-dist-type=STRING    分布的随机数{uniform(均匀分布),Gaussian(高斯分布),special(空间分布)}。默认是special

  --oltp-dist-iter=N    产生数的迭代次数。默认是12

  --oltp-dist-pct=N    值的百分比被视为'special' (for special distribution)。默认是1

  --oltp-dist-res=N    special’的百分比值。默认是75

 

 

3.      总结:

以上就是sysbench工具的安装配置及相关选项参数的介绍,可以根据自己的需要添加对应的参数进行压力测试即可。在下一篇文档中将会对上面的几种模式进行相应的测试。

 

2.1    测试数据库服务器的硬件配置信息如下:

 

CPU:      24核心线程数,Intel(R) Xeon(R) CPU E5-2620 0 @ 2.00GHz

MEM:    64G,8*8G=64G

DISK:      15000转/秒

 

 

2.2    对磁盘IO性能的测试:

 

2.2.1 创建fileio文件

创建初始化fileio文件:

 

[root@db-master sysbench]# sysbench --test=fileio --file-num=16 --file-total-size=2G prepare

sysbench 0.4.12:  multi-threaded system evaluation benchmark

 

16 files, 131072Kb each, 2048Mb total

Creating files for the test...

sysbench 压力测试工具

2.2.1 开始fileio测试

接下来开始对这些文件进行测试,使用16个线程随机读进行测试结果如下:

 

 

[root@db-master sysbench]# sysbench --test=fileio --file-total-size=2G --file-test-mode=rndrd --max-time=180 --max-requests=100000000 --num-threads=16 --init-rng=on --file-num=16 --file-extra-flags=direct --file-fsync-freq=0 --file-block-size=16384 run

 

 

 

 

 

sysbench 压力测试工具

 

可以看到随机读取的性能为75.988Mb/sec,随机读的IOPS为4863.25 Requests/sec.说明服务器的硬件配置还不错。

 

 

 

2.2.3 测试完成执行cleanup

测试结束后,记得执行cleanup,以确保测试所产生的文件都已删除:

 

 

 

 

 

[root@db-master sysbench]# sysbench --test=fileio --file-num=16 --file-total-size=2G cleanup

 

sysbench 0.4.12:  multi-threaded system evaluation benchmark

 

Removing test files...

 

 

如果需要测试seqwr(顺序写), seqrewr(顺序读写), seqrd(顺序读), rndrd(随机读), rndwr(随机写), rndrw(随机读写)等6种模式,并且还可能需要测试不同的线程和不同的文件块下磁盘的性能表现,这时,可以使用如下脚本达到测试目的。

 

 

测试脚本内容如下:

 

#!/bin/bash

#==============================================================================

#

#          FILE: sysbench_auto.sh

#

#         USAGE: ./sysbench_auto.sh

#

#   DESCRIPTION: This file is sysbench_auto.sh 

#        AUTHOR: Kevin Lu (kevin), kevin@gmail.com

#  ORGANIZATION: cmcc

#       CREATED: 02/26/2014 17:35

#      REVISION: v1.0.1

#==============================================================================

 

for size in {8G,64G}

do

for mode in {seqwr,seqrewr,seqrd,rndrd,rndwr,rndrw}

do

for blksize in {4096,16384}

do

sysbench --test=fileio --file-num=64 --file-total-size=$size prepare

for threads in {1,4,8,16,32}

do

echo "=============testing $blksize in $threads threads"

echo PARAS $size $mode $threads $blksize > sysbench-size-$size-mode-$mode-threads-$threads-blksz-$blksize

for i in {1,2,3}

do

sysbench --test=fileio --file-total-size=$size --file-test-mode=$mode --max-time=180 --max-requests=100000 --num-threads=$threads --

init-rng=on --file-num=64 --file-extra-flags=direct --file-fsync-freq=0 --file-block-size=$blksize run|tee -a sysbench-size-$size-mo

de-$mode-threads-$threads-blksz-$blksize 2>&1

done

done

sysbench --test=fileio --file-total-size=$size cleanup

done

done

done

 

 

 

-- 脚本运行后,在当前目录下会生成如下文件:

 

sysbench 压力测试工具

 

 

 

3.1 对mysql事务型OLTP的测试:

3.1.1 prepare准备阶段

对于mysqlOLTP测试,和file一样,同样需要经历prepare,run,cleanup三个阶段。prepare阶段会在数据库中产生一张指定行数的表,默认表在sbtest架构下,表名为

sbtest(sysbench默认生成表的存储引擎为innodb),如创建一张8000万条记录的表:

 

[root@db-master sysbench]# sysbench --test=oltp --oltp-table-size=80000000 --db-driver=mysql --mysql-socket=/data/mysqlsoft3307/mysql.sock --mysql-user=dba_manager  --mysql-password='111111' --mysql-db=test prepare

 

sysbench 0.4.12:  multi-threaded system evaluation benchmark

 

Creating table 'sbtest'...

Creating 10 records in table 'sbtest'...

 

 

3.1.2 run运行测试

接下来对上面产生的表进行oltp的测试:

 

[root@db-master sysbench]# sysbench --test=oltp --oltp-table-size=80000000 --oltp-read-only=off --init-rng=on --num-threads=16 --max-requests=0 --oltp-dist-type=uniform --max-time=3600 --mysql-user=dba_manager  --mysql-password='111111' --db-driver=mysql --mysql-socket=/data/mysqlsoft3307/mysql.sock run > result.log

 

参数说明:

 --max-time=3600 指定测试时长为1小时

 --mysql-db=test 指定测试的数据库名

 

[root@db-master sysbench]# cat  result.log 

sysbench 0.4.12:  multi-threaded system evaluation benchmark

 

Running the test with following options:

Number of threads: 16

Initializing random number generator from timer.

 

 

Doing OLTP test.

Running mixed OLTP test

Using Uniform distribution

Using "BEGIN" for starting transactions

Using auto_inc on the id column

Threads started!

Time limit exceeded, exiting...

(last message repeated 15 times)

Done.

 

OLTP test statistics:

    queries performed:

        read:                            137346874

        write:                           49052449

        other:                           19620980

        total:                           206020303

    transactions:                        9810489 (2725.13 per sec.)

    deadlocks:                           2      (0.00 per sec.)

    read/write requests:                 186399323 (51777.50 per sec.)

    other operations:                    19620980 (5450.26 per sec.)

 

Test execution summary:

    total time:                          3600.0060s

    total number of events:              9810489

    total time taken by event execution: 57542.1464

    per-request statistics:

         min:                                  3.00ms

         avg:                                  5.87ms

         max:                                212.09ms

         approx.  95 percentile:               8.44ms

 

Threads fairness:

    events (avg/stddev):           613155.5625/1486.47

    execution time (avg/stddev):   3596.3842/0.01

 

 

以上测试结果显示了很多操作的详细信息,transactions代表测试结果的评判标准即TPS,上述测试结果是 2725.13 per sec.

可以对数据库进行调优后,再使用sysbenchOLTP进行测试,看看TPS是不是会有所提高。

 

注意:sysbench的测试只是基准测试,并不能代表实际企业环境下的性能指标。