目录
一、服务雪崩简介及压测实践演示
高并发带来的问题
在微服务架构中,我们将业务拆分成一个个的服务,服务与服务之间可以相互调用,但是由于网络 原因或者自身的原因,服务并不能保证服务的100%可用,如果单个服务出现问题,调用这个服务就会 出现网络延迟,此时若有大量的网络涌入,会形成任务堆积,最终导致服务瘫痪。
服务雪崩效应
在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了 问题,调用这个服务就会出现线程阻塞的情况,此时若有大量的请求涌入,就会出现多条线程阻塞等 待,进而导致服务瘫痪。 由于服务与服务之间的依赖性,故障会传播,会对整个微服务系统造成灾难性的严重后果,这就是 服务故障的 “雪崩效应” 。
雪崩发生的原因多种多样,有不合理的容量设计,或者是高并发下某一个方法响应变慢,亦或是某 台机器的资源耗尽。我们无法完全杜绝雪崩源头的发生,只有做好足够的容错,保证在一个服务发生问 题,不会影响到其它服务的正常运行。也就是"雪落而不雪崩"
启动端口为8080的商品微服务、订单微服务、用户微服务
注意:启动服务前一定要启动nacos的注册中心
测试是否能正常访问页面
使用压测工具,对请求进行压力测试
下载解压后
第一步:修改配置,并启动软件
进入bin目录,修改jmeter.properties文件中的语言支持为language=zh_CN,然后点击jmeter.bat,启动软件。
用高级记事本打开
双击快捷方式
第二步:添加线程组
第三步:配置线程并发数
第四步:添加监听器
第五步:添加HTTP取样
第六步:配置取样,并启动测试
点击可以放大字体
启动,此时后台
可以看见发送了4000个请求 并且没有出错
修改配置文件中tomcat的并发数
1秒钟20个请求,最大连接数10,最大等待数10,最大线程数2,相当于一个线程1s能处理5个请求(2个处理10个请求)
server:
port: 8091
tomcat:
max-threads: 2 #最大线程数
max-connections: 10 #最大连接数
accept-count: 10 #最大线程等待数
修改shop-order中的application.yml
spring:
application:
name: shop-order
cloud:
nacos:
discovery:
server-addr: localhost:8848
server:
port: 8090
tomcat:
max-threads: 2 #最大线程数
max-connections: 10 #最大连接数
accept-count: 10 #最大线程等待数
再重新启动一下订单微服务
此时再看 出现了大量的错误
再将并发数调低一点
全部成功
二、sentinel简单模式之流控QPS案例
什么是Sentinel
Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量 为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。 Sentinel 具有以下特征:
丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景, 例如秒杀(即 突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用 应用等。
完备的实时监控:Sentinel 提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒 级数据, 甚至 500 台以下规模的集群的汇总运行情况。
广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块, 例如与 Spring Cloud、Dubbo、gRPC 的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
完善的 SPI 扩展点:Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快 速地定制逻辑。例如定制规则管理、适配动态数据源等。
Sentinel 分为两个部分:
核心库(Java 客户端)不依赖任何框架/库,能够运行于所有 Java 运行时环境,同时对 Dubbo / Spring Cloud 等框架也有较好的支持。
控制台(Dashboard)基于 Spring Boot 开发,打包后可以直接运行,不需要额外的 Tomcat 等 应用容器。
在shop-order的pom中添加Sentinel的依赖
<!--sentinel-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
pom.xml
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
<parent>
<artifactId>spcloud-shop</artifactId>
<groupId>com.cdl</groupId>
<version>1.0-SNAPSHOT</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<artifactId>shop-order</artifactId>
<dependencies>
<!--springboot-web-->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
<!--shop-common-->
<dependency>
<groupId>com.cdl</groupId>
<artifactId>shop-common</artifactId>
<version>1.0-SNAPSHOT</version>
</dependency>
<!--sentinel-->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>
</dependencies>
</project>
安装Sentinel控制台
Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。
1 下载jar包,解压到文件夹
2 启动控制台
解压后会得到一个jar包
# 直接使用jar命令启动项目(控制台本身是一个SpringBoot项目)
启动完之后就可以访问一下流控的监控平台
登录成功
修改shop-order ,在里面加入有关控制台的配置
application.yml
spring:
application:
name: shop-order
cloud:
nacos:
discovery:
server-addr: localhost:8848
sentinel:
transport:
port: 9999 #跟控制台交流的端口,随意指定一个未使用的端口即可
dashboard: localhost:8080 # 指定控制台服务的地址
web-context-unify: false
server:
port: 8090
tomcat:
max-threads: 2 #最大线程数
max-connections: 10 #最大连接数
accept-count: 10 #最大线程等待数
启动订单的微服务
设置限流
测试一下
正常点击订单微服务的页面 此时能访问
非正常点即快速的不断地刷新
可见已经受限制了,但是只要正常的再刷就还是能够访问
三、sentinel流控简单模式之并发线程数案例
将之前的流控删除
此时非正常点击刷新不会有限制
资源名:唯一名称,默认是请求路径,可自定义 针对来源:指定对哪个微服务进行限流,默认指default,意思是不区分来源,全部限制 阈值类型/单机阈值:
QPS(每秒请求数量): 当调用该接口的QPS达到阈值的时候,进行限流
线程数:当调用该接口的线程数达到阈值的时候,进行限流
是否集群:暂不需要集群 接下来我们以QPS为例来研究限流规则的配置。
此时需要用压测工具进行测试
启动压测工具 然后不断的非正常刷新页面
这是直接流控模式
直接流控模式是最简单的模式,当指定的接口达到限流条件时开启限流。上面案例使用的就是直接流控 模式。
四、sentinel流控之关联模式&链路模式
关联模式
关联流控模式指的是,当指定接口关联的接口达到限流条件时,开启对指定接口开启限流。
将刚刚的流控删除掉
OrderCtroller
package com.cdl.shoporder.Controller;
import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import javax.servlet.http.HttpServletRequest;
import java.util.concurrent.TimeUnit;
/**
* @author cdl
* @site www.cdl.com
* @create 2022-11-25 15:43
*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {
@Autowired
private ProductService productService;
@Autowired
private RestTemplate restTemplate;
@RequestMapping("/get/{uid}/{pid}")
public Order get(@PathVariable("uid") Integer uid,
@PathVariable("pid") Integer pid,
HttpServletRequest request){
User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);
Product product = productService.get(pid);
Order order = new Order();
order.setUsername(user.getUsername());
order.setUid(user.getUid());
order.setPprice(product.getPprice());
order.setPname(product.getPname());
order.setPid(product.getPid());
order.setOid(System.currentTimeMillis());
order.setNumber(product.getStock());
return order;
}
// 流控模式:关联模式
@RequestMapping("/message1")
public String message1(){
System.out.println("message1..................................");
return "message1....";
}
// sentinel中的熔断降级:平均响应时间
// 预测的结果:平均时间大于0.22s,那么会出现降级处理结果
// 如果平均时间小于0.22s,就正常响应结果
@RequestMapping("/message2")
public String message2() {
try {
// 代表当前方法至少需要执行0.22s
TimeUnit.MILLISECONDS.sleep(220);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "message2";
}
}
添加关联模式
修改压测工具
启动压测工具
非正常也不受影响
受影响
链路模式
链路流控模式指的是,当从某个接口过来的资源达到限流条件时,开启限流。它的功能有点类似于针对 来源配置项,区别在于:针对来源是针对上级微服务,而链路流控是针对上级接口,也就是说它的粒度 更细。
第1步: 编写一个service,在里面添加一个方法message
OrderServiceImpl2
package com.cdl.shoporder.service;
import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import org.springframework.stereotype.Service;
import java.util.HashMap;
import java.util.Map;
@Service
public class OrderServiceImpl2 {
@SentinelResource(value = "message", blockHandler = "failBlockHandler")
public Map message() {
Map map = new HashMap();
map.put("code","200");
map.put("msg","正常响应成功");
return map;
}
public Map failBlockHandler(BlockException be) {
Map map = new HashMap();
map.put("code","-1");
map.put("msg","接口被限流了...");
return map;
}
}
第2步: 在Controller中声明两个方法,分别调用service中的方法message
package com.cdl.shoporder.Controller;
import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.OrderServiceImpl2;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import javax.servlet.http.HttpServletRequest;
import java.util.Map;
import java.util.concurrent.TimeUnit;
/**
* @author cdl
* @site www.cdl.com
* @create 2022-11-25 15:43
*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {
@Autowired
private ProductService productService;
@Autowired
private RestTemplate restTemplate;
@RequestMapping("/get/{uid}/{pid}")
public Order get(@PathVariable("uid") Integer uid,
@PathVariable("pid") Integer pid,
HttpServletRequest request){
User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);
Product product = productService.get(pid);
Order order = new Order();
order.setUsername(user.getUsername());
order.setUid(user.getUid());
order.setPprice(product.getPprice());
order.setPname(product.getPname());
order.setPid(product.getPid());
order.setOid(System.currentTimeMillis());
order.setNumber(product.getStock());
return order;
}
// 流控模式:关联模式
@RequestMapping("/message1")
public String message1(){
System.out.println("message1..................................");
return "message1....";
}
@Autowired
private OrderServiceImpl2 orderService;
// 主要讲解 sentinel 中的 链路流控模式
@RequestMapping("/message3")
public Map message3() {
return orderService.message();
}
@RequestMapping("/message4")
public Map message4() {
return orderService.message();
}
}
删除掉之前的关联模式,重启订单的微服务
sentinel控制台
修改配置application.yml
第3步: 禁止收敛URL的入口
context 从1.6.3 版本开始,Sentinel Web filter默认收敛所有URL的入口context,因此链路限流不生效。 1.7.0 版本开始(对应SCA的2.1.1.RELEASE),官方在CommonFilter 引入了 WEB_CONTEXT_UNIFY 参数,用于控制是否收敛context。将其配置为 false 即可根据不同的 URL 进行链路限流。 SCA 2.1.1.RELEASE之后的版本,可以通过配置spring.cloud.sentinel.web-context-unify=false即 可关闭收敛
第4步: 控制台配置限流规则
注意:message3和message4调的是同一个方法
五、sentinel降级之平均响应时间&异常比例模式
降级规则
本质就是一个托底方案
降级规则就是设置当满足什么条件的时候,对服务进行降级。
在controller中增加一些代码用以证明
OrderCtroller
package com.cdl.shoporder.Controller;
import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.OrderServiceImpl2;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import javax.servlet.http.HttpServletRequest;
import java.util.Map;
import java.util.concurrent.TimeUnit;
/**
* @author cdl
* @site www.cdl.com
* @create 2022-11-25 15:43
*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {
@Autowired
private ProductService productService;
@Autowired
private RestTemplate restTemplate;
@RequestMapping("/get/{uid}/{pid}")
public Order get(@PathVariable("uid") Integer uid,
@PathVariable("pid") Integer pid,
HttpServletRequest request){
User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);
Product product = productService.get(pid);
Order order = new Order();
order.setUsername(user.getUsername());
order.setUid(user.getUid());
order.setPprice(product.getPprice());
order.setPname(product.getPname());
order.setPid(product.getPid());
order.setOid(System.currentTimeMillis());
order.setNumber(product.getStock());
return order;
}
// 流控模式:关联模式
@RequestMapping("/message1")
public String message1(){
System.out.println("message1..................................");
return "message1....";
}
// sentinel中的熔断降级:平均响应时间
// 预测的结果:平均时间大于0.22s,那么会出现降级处理结果
// 如果平均时间小于0.22s,就正常响应结果
@RequestMapping("/message2")
public String message2() {
try {
// 代表当前方法至少需要执行0.22s
TimeUnit.MILLISECONDS.sleep(220);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "message2";
}
@Autowired
private OrderServiceImpl2 orderService;
// 主要讲解 sentinel 中的 链路流控模式
@RequestMapping("/message3")
public Map message3() {
return orderService.message();
}
@RequestMapping("/message4")
public Map message4() {
return orderService.message();
}
}
点击熔断
解释这个配置: 在1秒钟发送5个请求,其中20%的请求时间是大于200ms,那么就做熔断降级处理
修改压测工具并且启动
刷新被限流
异常比例
当资源的每秒异常总数占通过量的比值超过阈值之后,资源进入降级状态,即在接下的 时间窗口(以 s 为单位)之内,对这个方法的调用都会自动地返回。异常比率的阈值范围是 [0.0, 1.0]。
在controlle中添加一定的代码
package com.cdl.shoporder.Controller;
import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.OrderServiceImpl2;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;
import javax.servlet.http.HttpServletRequest;
import java.util.Map;
import java.util.concurrent.TimeUnit;
/**
* @author cdl
* @site www.cdl.com
* @create 2022-11-25 15:43
*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {
@Autowired
private ProductService productService;
@Autowired
private RestTemplate restTemplate;
@RequestMapping("/get/{uid}/{pid}")
public Order get(@PathVariable("uid") Integer uid,
@PathVariable("pid") Integer pid,
HttpServletRequest request){
User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);
Product product = productService.get(pid);
Order order = new Order();
order.setUsername(user.getUsername());
order.setUid(user.getUid());
order.setPprice(product.getPprice());
order.setPname(product.getPname());
order.setPid(product.getPid());
order.setOid(System.currentTimeMillis());
order.setNumber(product.getStock());
return order;
}
// 流控模式:关联模式
@RequestMapping("/message1")
public String message1(){
System.out.println("message1..................................");
return "message1....";
}
// sentinel中的熔断降级:平均响应时间
// 预测的结果:平均时间大于0.22s,那么会出现降级处理结果
// 如果平均时间小于0.22s,就正常响应结果
@RequestMapping("/message2")
public String message2() {
try {
// 代表当前方法至少需要执行0.22s
TimeUnit.MILLISECONDS.sleep(220);
} catch (InterruptedException e) {
e.printStackTrace();
}
return "message2";
}
@Autowired
private OrderServiceImpl2 orderService;
// 主要讲解 sentinel 中的 链路流控模式
@RequestMapping("/message3")
public Map message3() {
return orderService.message();
}
@RequestMapping("/message4")
public Map message4() {
return orderService.message();
}
// // sentinel中的熔断降级:异常比例
int i = 0;
@RequestMapping("/message5")
public String message5() {
i++;
//异常比例为0.333
if (i % 3 == 0){
throw new RuntimeException();
}
return "message5";
}
}
新增熔断
和之前一样记得修改压测工具并且启动
当压测工具已经结束运行的时候,再点击刷新就会报页面错误
自定义异常返回
新建一个config的包 直接复制进去
import com.alibaba.csp.sentinel.adapter.spring.webmvc.callback.BlockExceptionHandler;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import com.alibaba.csp.sentinel.slots.block.degrade.DegradeException;
import com.alibaba.csp.sentinel.slots.block.flow.FlowException;
import com.alibaba.fastjson.JSON;
import lombok.AllArgsConstructor;
import lombok.Data;
import lombok.NoArgsConstructor;
import org.springframework.stereotype.Component;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.io.IOException;
//异常处理页面
@Component
public class ExceptionHandlerPage implements BlockExceptionHandler {
@Override
public void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {
response.setContentType("application/json;charset=utf-8");
ResponseData data = null;
if (e instanceof FlowException) {
data = new ResponseData(-1, "接口被限流了...");
} else if (e instanceof DegradeException) {
data = new ResponseData(-2, "接口被降级了...");
}
response.getWriter().write(JSON.toJSONString(data));
}
}
@Data
@AllArgsConstructor//全参构造
@NoArgsConstructor//无参构造
class ResponseData {
private int code;
private String message;
}
重新启动订单微服务,新增熔断,启动压测工具