如何计算系统容量

时间:2022-06-17 10:47:49

在设计互联网服务的系统时,面向的是海量的互联网用户,尤其是对于拥有良好推广渠道、不用花费太长时间进行推广的互联网产品,可能在系统上线之初就会进入大量用户。因此需要预先估计系统的容量,作为产品推广、放量的依据;并且预先知道系统的瓶颈在哪、需要优先优化的方向、硬件需求取向、扩容的时机和规模。

典型的系统架构会有三层,分别是接入层、逻辑处理层、存储层。对于接入层的机器而言,一般是不负责任何逻辑处理,也不保存业务状态,因此对内存、外存没有太高要求,CPU 采用普通档次的即可,重要的是提供高带宽的网卡。对于负责业务逻辑处理的机器,CPU、内存资源更为重要。对于存储机器,需要尽可能快的外存,并且对机器的可靠性要求较高。

对大文件存储的应用来说,主要受限于外存的顺序读写性能,一般用 MBPS 考察;对于小型的数据存取应用来说,主要首先于外存的随机读写性能,一般用 IOPS 考察。7200转的硬盘,顺序读能力不超过150MB/s,顺序写能力不超过70MB/s;随机读写能力在 100 IOps 上下。因此,硬盘的性能对于顺序读写海量数据的应用来说是足够的,但是随机访问微小数据时,硬盘的机械特性就成了很严重的问题(需要先寻道,再读写,寻道时间为ms级)。以上面假想的硬盘指标计算,每天最多可以顺序读取约13TB的数据,写入约6.5TB的数据;或者执行800多万次随机IO。类似的,现在很火的 SSD 也可以如此计算。从 SSD 的单位容量成本看来,它不适合海量存储,从性能指标看来,和机械硬盘相比顺序读写的优势也不是太大,但是随机读写能力远远超过机械硬盘。

CPU 的性能指标是 IPS,最关键的指标是 CPU 的主频,决定了每秒最多能执行的指令的数目,这样就能知道 CPU 实际能承载的上限。在实际环境中,也可以通过观察在线系统的 CPU 使用率和当前系统使用量,估计出 CPU 的容量有多大。

内存有两方面的作用,一是提供业务处理所需要的存储空间,二是作为缓存。业务执行所需要的空间是临时性的,可以很快回收复用,只要分配的速度不是太快以至于这部分空间不够用即可。

系统中的缓存会长期占用内存空间,是使用内存的大户。计算缓存的大小,要知道被缓存数据的单位大小,以及所缓存的数据总数。在 Java 中,基本类型的大小是固定的,数据需要3个引用的额外开销,对象需要两个引用的额外开销,在组成高一级的数据结构(对象)时,JVM 会将以8字节为边界单位进行数据对齐操作。有关 Java 对象大小计算的文章可以参考《HOWTO: Determine the size of a Java Object or Class》

还需要考虑业务执行时可以分配的最大线程数量。Linux 上的线程堆栈最大可以占用8MB内存空间,在 JVM 上可以通过启动参数配置线程堆栈的大小,只要不超过操作系统的限制即可。通过系统的总内存空间、缓存所需要的空间、应用运行所需要的临时空间,也就可以计算出线程数的限制。

网卡也是系统的限制之一,计算带宽可以通过以下公式:
(请求或者回应平均大小 * 请求数) / 86400s / 8bit
请求或者回应的平均大小可以在实际环境中采集得到,也可以通过业务的数据情况计算得到上限和平均值。需要注意的是,需要支持多对列的网卡和相应的 Linux kernel 才能利用多CPU/多核,否则所有的网络 IO 开销都会集中在一颗 CPU 上,使得无法足够利用网卡的带宽。

从远程接口耗时计算系统的容量是比较简单的。变量是接口的耗时,可以在实际环境上采集数据得到。
计算请求数的公式:

(1s / 请求平均耗时) * 线程数 * 86400s
需要注意的是,外部接口后面往往是另外一套复杂的系统,越复杂的东西越容器出错,而且自身系统到外部系统之间可能会经过可靠性较低的网络,数据传输过程中的失败率也会比较高,所以需要考虑在最糟糕的情况下如果处理,避免因为远程接口调用的失败率过高造成系统雪崩。

计算系统容量不是一个太容易的过程,需要开发人员对系统的软硬件都有较深入的了解,通过系统的物理限制得出程序所能提供吞吐量的上限。但是一旦掌握了计算的方法,就更容易做到对系统的能力心中有数,知道系统改进的方向,而不是盲人摸象般地开发或者重构。


http://www.patrickhe.info/programmer/?p=65