客户端设置超时时间真的很重要

时间:2022-09-13 21:47:51

概述

一条慢sql导致购物车服务无法使用的解决方案一文中,提到了客户端调用购物车服务的时候,超时了。如果当时客户端没有设置超时时间的话,会在客户端中产生级联故障。先用一张图来说明一下。

客户端设置超时时间真的很重要

聚合层除了调用购物车微服务,还调用了营销系统微服务。如果购物车服务的接口响应时间很慢,而客户端聚合层调用购物车服务时,又没有设置超时时间,那么将占有大量的连接,如果请求购物车服务的请求量比较大,瞬间就会把连接占用完,直接导致聚合层调用营销系统时,需要阻塞住等待获取连接,这样的话,整个小程序的很多功能就都用不了了。

从这里我们可以看到,最终小程序端会整体响应很慢,因为它调用了聚合层,而聚合层又调用了一个性能很差的购物车服务。产生级联故障了,小程序端和聚合层都在等待中耗尽了资源,这个是非常可怕的事情。

设置超时时间

聚合层是使用了spring cloud ribbon,我们可以设置一下ribbon的超时时间。具体的可以参看springcloud edgware.sr3版本中ribbon的timeout设置方法

ribbon:
  readtimeout: 2000
  connecttimeout: 2000

这样的话,聚合层调用购物车服务,如果两秒钟没有返回结果,则超时报错。这样做有两个好处。

  • 快速失败,释放资源;
  • 聚合层调用购物车虽然失败了,但是聚合层调用营销系统则仍然可以进行,不受影响。小程序端使用到营销系统接口的功能也能继续使用;

知识扩展

客户端保持弹性真心很重要,因此像客户端中的

  • 负载均衡模式
  • 断路器模式
  • 后备模式
  • 舱壁模式

都是需要了解的。要做一个弹性客户端,可以借助一些工具,像netflixhystrix组件就非常不错,并且已经被spring cloud集成进去了,使用起来也比较简单。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对服务器之家的支持。如果你想了解更多相关内容请查看下面相关链接

原文链接:https://blog.csdn.net/linsongbin1/article/details/83893315