您好,我是湘王,这是我的51CTO博客。值此新春佳节,我给您拜年啦~祝您在新的一年中所求皆所愿,所行皆坦途,展宏“兔”,有钱“兔”,多喜乐,常安宁!
在Nginx中提到过通过限流算法实现对后端服务的保护,避免因服务器承载压力太大而被冲垮。大家都知道Guava是用来操作集合的,但其实Guava也可以实现限流的功能。
不说废话,直接上代码。
先引入依赖:
<dependency> <groupId>com.google.guava</groupId> <artifactId>guava</artifactId> <version>30.0-jre</version></dependency>
然后用Guava实现限流:
/**
* 用Guava漏桶实现限流
*
* @author 湘王
*/@Servicepublic class LeakyBucketService { // Guava限制每秒请求数量(漏桶的流速)
private static final RateLimiter rateLimiter = RateLimiter.create(1); // 请求编号
private volatile int count = 1; public boolean limit(HttpServletRequest request) throws InterruptedException { System.out.print("请求编号 = " + count++ + " "); // 休眠一秒,取决于机器性能
Thread.sleep(1000); if (rateLimiter.tryAcquire()) { System.out.println(">>>>>>>> 请求成功 >>>>>>>>"); return true; } System.out.println(">>>>>>>> 被限流了 >>>>>>>>"); return false; }}
创建控制器类:
/**
* 限流Controller
*
* @author 湘王
*/@RestControllerpublic class LimitBucketController { @Resource private LeakyBucketService leakyBucketService; @GetMapping("/limit") public String limit(HttpServletRequest request) throws InterruptedException { leakyBucketService.limit(request); return "SUCCESS"; }}
为了模拟大流量并发访问,需要借助apache jmeter测试工具。在apache.org下载jmeter(需要JDK8以上版本),解压至指定目录后执行下面的命令:
cd $/apache-jmeter-5.3/bin
./jmeter
如果是Windows可以在$/apache-jmeter-5.3/bin目录中直接双击jmeter图标启动。
「Test Plan」上点击鼠标右键,依次选择「Add」->「Thread」->「Thread Group」
「Thread Group」上点击鼠标右键,依次选择「Add」->「Sampler」->「HTTP Request」
「HTTP Request」界面中填入如下信息,和之前的Controller对应:
回到「Test Group」界面,填入如下信息:
启动Springboot,点击「Start」按钮,运行测试:
从测试结果可以看到,漏桶限流发挥了作用:
漏桶是为了平滑访问流量,但是如果需要允许一些突发流量呢?Guava并没有实现,但可以通过令牌桶的思路来自己搞。和漏桶相比,令牌桶其实有几个关键的不同:
1、需要一个桶来装令牌;
2、请求数量会出现突发;
3、每次消费令牌的数量固定;
先创建令牌桶服务:
/**
* 令牌桶限流
*
* @author 湘王
*/@Servicepublic class TokenBucketService extends HandlerInterceptorAdapter { // 桶的容量,可用令牌总量
private final int total = 10; // 消费速率
private final int rate = 3; public boolean limit(HttpServletRequest request) throws InterruptedException { // 休眠一秒,取决于机器性能
Thread.sleep(1000); if (tryAcquire()) { return true; } return false; } // 以固定速率消费请求,漏桶容量固定,每次用户请求都得放入桶中,桶满则拒绝请求或等待
private synchronized boolean tryAcquire() { // 网络请求数量是随机的
int requests = (int) (Math.random() * 10) + 1; System.out.print("消费速率 = " + rate + ",请求数量 = " + requests + "; "); if (total < requests + rate) { // 桶满则拒绝
System.out.println("剩余容量 = " + (total - (requests + rate)) + "; >>>>>>>> 被限流了 >>>>>>>>"); return false; } else { // 桶还未满
System.out.println("剩余容量 = " + (total - (requests + rate)) + "; >>>>>>>> 请求成功 >>>>>>>>"); return true; } }}
然后修改之前的Controller:
/**
* 桶限流Controller
*
* @author 湘王
*/@RestControllerpublic class LimitBucketController { @Resource private LeakyBucketService leakyBucketService; @Resource private TokenBucketService tokenBucketService; @GetMapping("/limit") public String limit(HttpServletRequest request) throws InterruptedException { //leakyBucketService.limit(request);
tokenBucketService.limit(request); return "SUCCESS"; }}
修改Jmeter并发线程的数量:
测试结果如当初所愿:
节日期间,您仍然可以随时咨询技术、产品、运营和管理相关问题,请关注后留言。欢迎骚扰,不胜荣幸~再次祝您兔年吉祥,万事胜意!