一、nginx限流模块
接入层指的是请求流量的入口,我们可以在这里做很多控制,比如:负载均衡,缓存,限流等。
nginx中针对限流有两个模块可以处理:
1)ngx_http_limit_req_module;连接数限流模块
2)ngx_http_limit_conn_module;请求限流模块
连接数限流模块是基于计数器方式实现的,请求限流模块是基于漏桶算法实现的;
关于限流算法可以参考:https://www.cnblogs.com/lay2017/p/9060497.html
除了以上两种,我们曾在分布式限流中提到nginx+lua方式来实现限流操作,只要集成一下lua模块。或者采用openresty,它自带了lua模块,可以实现复杂的限流场景。
本文不涉及lua模块的部分,只是简单使用nginx默认自带的两个模块来实现限流操作。
二、ngx_http_limit_conn_module
连接数限流模块,和一般的计数器限流是一样的思路,通过一个key来存取对应的value,value表示请求的数量。比如:限制某个IP的总请求数量,那么我们只需要改变和存取该IP对应的请求数量即可。
ngx_http_limit_conn_module限流模块使用代码如下:
http{
limit_conn_zone $binary_remote_addr zone=addr:10m;
limit_conn_log_level error;
limit_conn_status 503;
...
server{
...
location /limit{
limit_conn addr 1;
proxy_pass 'http:www.baidu.com';
}
}
}
以上代码:
1)limit_conn:配置的是要存放KEY和计数器的共享内存区域(addr),并指定KEY的最大连接树木(这里是1)
2) limit_conn_zone: 配置限流的KEY(这里是IP地址:$binary_remote_addr)、共享内存区域的大小(10m)。
3) limit_conn_status: 配置限流以后返回的状态码;
4)limit_conn_log_level: 配置限流以后的日志级别;
5)proxy_pass: 返回代理的是百度的页面;
我们通过测试工具测试1秒钟20个请求的结果: http://localhost/limit
输出结果:
有部分请求将被限流并返回结果503,而未被限流的则返回百度页面;
三、ngx_http_limit_req_module
请求限流模块实现的是漏桶算法,主要是对请求的速率进行限制。
直接看具体代码:
http {
limit_req_zone $binary_remote_addr zone=addr:10m rate=1r/s;
limit_conn_log_level error;
limit_conn_status 503;
...
server {
...
location /limit {
limit_req zone=addr burst=2 nodelay;
proxy_pass: 'http://www.baidu.com';
}
}
}
1)limit_req:配置共享内存区域、桶容量(突发容量,默认0)、是否延迟模式(默认延迟);
2)limit_req_zone:配置限流KEY、及存放KEY对应信息的共享内存区域大小、固定请求速率;此处指定的KEY是“$binary_remote_addr”表示IP地址;固定请求速率使用rate参数配置,支持10r/s和60r/m,即每秒10个请求和每分钟60个请求,不过最终都会转换为每秒的固定请求速率(10r/s为每100毫秒处理一个请求;60r/m,即每1000毫秒处理一个请求)。
3)limit_conn_status:配置被限流后返回的状态码,默认返回503;
4)limit_conn_log_level:配置记录被限流后的日志级别,默认error级别。
limit_req的主要执行过程如下所示:
1、请求进入后首先判断最后一次请求时间相对于当前时间(第一次是0)是否需要限流,如果需要限流则执行步骤2,否则执行步骤3;
2.1、如果没有配置桶容量(burst),则桶容量为0;按照固定速率处理请求;如果请求被限流,则直接返回相应的错误码(默认503);
2.2、如果配置了桶容量(burst>0)且延迟模式(没有配置nodelay);如果桶满了,则新进入的请求被限流;如果没有满则请求会以固定平均速率被处理(按照固定速率并根据需要延迟处理请求,延迟使用休眠实现);
2.3、如果配置了桶容量(burst>0)且非延迟模式(配置了nodelay);不会按照固定速率处理请求,而是允许突发处理请求;如果桶满了,则请求被限流,直接返回相应的错误码;
3、如果没有被限流,则正常处理请求;
4、Nginx会在相应时机进行选择一些(3个节点)限流KEY进行过期处理,进行内存回收。
测试工具测试结果:
配置zone\burst\nodelay的情况下,20r/1s测试结果为3个,理论上应该是2个成功,但是由于计算算法问题,首次会出现3个,不过可以忽略不计。其它则返回503错误
参考文章: