Sentinel—高可用流量管理框架/服务容错组件
一.为什么要用Sentinel?
1.微服务架构中当某服务挂掉的时候常见的原因有哪些?
1.异常没处理
比如DB连接失败,文件读取失败等
2.突然的流量激增
比如:用户经常会在京东、淘宝、天猫、拼多多等平台上参与商品的秒杀、限时抢购等优惠活动,也会在节假日使用12306 抢火车票、高铁票,甚至有时候还要帮助同事、朋友为他们家小孩拉投票、刷票,这些场景都无一例外的会引起服务器流量的暴涨,导致网页无法显示、APP反应慢、功能无法正常运转,甚至会引起整个网站的崩溃(服务雪崩)。
3.被其它服务拖垮
在微服务项目中,经常存在服务A调用服务B,服务B又调用服务C等微服务级联调用的场景,当服务C出现故障,服务B和服务A都会跟着出现故障,因为它们之间存在调用链关系;有时候调用链会很长并且很复杂,比如服务A不仅调用了服务B,还调用了服务H、服务I、服务J等等,同时服务A调用链的最长链条终端有可能是从服务C、服务D一直到服务Z,这种调用复杂的调用链条一旦出现故障,有可能直接让整个微服务体系都无法提供服务,造成的影响是致命的。这种由于调用链中某一个节点出现故障而引发的级联故障,称为服务雪崩,也称为级联故障、级联失效。
2.容错机制
异常没处理,我们处理一下异常就可以,而对于另外两个原因导致的服务雪崩,我们应该怎么解决呢或者说应该怎么建立容错机制呢?
常见的容错机制有隔离、超时、限流、熔断、降级等。
隔离
超时
限流
熔断
降级
3.常见的容错组件
Hystrix
Resilience4J
Sentinel
三者对比:
二.Sentinel是什么?
1.Sentinel 定义
Sentinel 是面向分布式服务架构的轻量级流量控制产品,是高可用防护组件,主要以流量为切入点,从流量控制、熔断降级、系统负载保护等多个维度来帮助您保护服务的稳定性。
2.Sentinel的功能
2.1流量控制
流量控制在网络传输中是一个常用的概念,它用于调整网络包的发送数据。因为任意时间到来的请求往往是随机不可控的,而系统的处理能力是有限的。我们需要根据系统的处理能力对流量进行控制。Sentinel 作为一个调配器,可以根据需要把随机的请求调整成合适的形状,如下图所示:
2.2 熔断降级
1.什么是熔断降级?
除了流量控制以外,对调用链路中不稳定的资源进行熔断降级也是保障高可用的重要措施之一。一个服务常常会调用别的模块,可能是另外的一个远程服务、数据库,或者第三方 API 等。例如,支付的时候,可能需要远程调用银联提供的 API;查询某个商品的价格,可能需要进行数据库查询。然而,这个被依赖服务的稳定性是不能保证的。如果依赖的服务出现了不稳定的情况,请求的响应时间变长,那么调用服务的方法的响应时间也会变长,线程会产生堆积,最终可能耗尽业务自身的线程池,服务本身也变得不可用。
因此我们需要对不稳定的弱依赖服务调用进行熔断降级,暂时切断不稳定调用,避免局部不稳定因素导致整体的雪崩。
2.熔断降级设计理念
Sentinel采取了两种手段:
方式1:通过并发线程数进行限制:
Sentinel 通过限制资源并发线程的数量,来减少不稳定资源对其它资源的影响。当某个资源出现不稳定的情况下,例如响应时间变长,对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后,对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。
方式2:通过响应时间对资源进行降级
除了对并发线程数进行控制以外,Sentinel 还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后,所有对该资源的访问都会被直接拒绝,直到过了指定的时间窗口之后才重新恢复。
2.3 系统负载保护
Sentinel 同时对系统的维度提供保护。防止雪崩,是系统防护中重要的一环。当系统负载较高的时候,如果还持续让请求进入,可能会导致系统崩溃,无法响应。在集群环境下,网络负载均衡会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候,这个增加的流量就会导致这台机器也崩溃,最后导致整个集群不可用。
针对这个情况,Sentinel 提供了对应的保护机制,让系统的入口流量和系统的负载达到一个平衡,保证系统在能力范围之内处理最多的请求。
3.Sentinel的特点
丰富的应用场景:
Sentinel承接了阿里巴巴多年的双十一大促高流量的核心场景,例如秒杀,消息削峰填谷,实时熔断下游不可用应用等.
完备的实时监控:
Sentinel同时提供实时的监控功能,可以在控制台看到接入应用的单台机器秒级数据,甚至500台以下规模的集群的汇总运行情况。
广泛的开源生态:
Sentinel提供开箱即用的与其它开源框架的整合模块,例如与Spring Cloud,Dubbo,gRPC的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入Sentinel。
完善的SPI扩展点:
Sentinel提供简单易用,完善的SPI扩展点。可以通过实现扩展点,快速地定制逻辑。例如定制规则管理,适配数据源等。
4.Sentinel 基本概念
4.1资源
资源是 Sentinel 的关键概念。它可以是 Java 应用程序中的任何内容,例如,由应用程序提供的服务,或由应用程序调用的其它应用提供的服务,甚至可以是一段代码。在接下来的文档中,我们都会用资源来描述代码块。
只要通过 Sentinel API 定义的代码,就是资源,能够被 Sentinel 保护起来。大部分情况下,可以使用方法签名,URL,甚至服务名称作为资源名来标示资源。
4.2规则
围绕资源的实时状态设定的规则,可以包括流量控制规则、熔断降级规则以及系统保护规则。所有规则可以动态实时调整。
三.Sentinel的快速使用
1.Sentinel的组成部分
核心库(Java客户端):不依赖任何框架/库,能够运行于所有Java运行环境中,同时对SpringCloud/Dubbo等框架也有较好的支持
控制台(Dashboard):基于Spring Boot开发,打包后可以直接运行,不需要额外的Tomcat等应用容器。
2.如何启动Dashboard
2.1 查询跟当前使用的SpringCloud兼容的版本
2.2下载dashboard的jar包
地址: https://github.com/alibaba/Sentinel/releases/tag/v1.8.0
放入指定目录:比如java项目的工作空间。
2.3 启动Dashboard的两种方式
方式1:
默认端口号是8080
java -jar D:/idea_workspace/sentinel-dashboard-1.8.0.jar
方式2:
可以自己设置端口号
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080-Dproject.name=sentinel-dashboard -Dcsp.sentinel.api.port=8719 -jar D:/idea_workspace/sentinel-dashboard-1.8.0.jar
2.4 访问
默认用户名和密码都是sentinel
此时没有关联的微服务
3.微服务中集成Sentinel
3.1 添加sentinel包
在需要限流的上游服务(调用方)中加入jar包
这里在案例Users服务中添加
3.2 添加配置信息
重启服务Users
3.3 Sentinel懒加载
此时刷新Dashboard,看不到服务信息。这是因为默认情况下Sentinel 会在客户端首次调用的时候进行初始化,开始向控制台发送心跳包。也就是Sentinel设置了懒加载,解决方法有两种:
方法1:先运行一下Users服务
方法2:配置spring.cloud.sentinel.eager=true ,取消Sentinel控制台懒加载。
再次刷新,可以看到:
3.4 测试使用
我们先简单测试一下Sentinel的流控功能,在设置之前,可以任意刷新Users服务中接口次数。
假设这里设置Users服务下的goods接口1秒钟内只能刷新两次:
再次刷新Users服务中的goods接口:
当QPS超过2次以后,会出现被限流的提示:
3.5 怎么移除不需要监控的服务
文章目录