java中的熔断机制_SpringCloud- 第八篇 Hystrix熔断机制(五)
1:雪崩效应概述
多个微服务之间调用的时候,假设微服务A调用微服务B和微服务C,微服务B和微服务C又调用其它的微服务,这就是所谓的“扇出”。如果扇出的链路上某个微服务的调用响应时间过长或者不可用,对微服务A的调用就会占用越来越多的系统资源,进而引起系统崩溃,所谓的“雪崩效应”
2:熔断机制概述
熔断机制是应对雪崩效应的一种微服务链路保护机制。当扇出链路的某个微服务不可用或者响应时间太长时,会进行服务的降级,进而熔断该节点微服务的调用,快速返回错误的响应信息。当检测到该节点微服务调用响应正常后,恢复调用链路。 在Spring Cloud框架里,熔断机制通过Hystrix实现。Hystrix会监控微服务间调用的状况,当失败的调用到一定阈值,缺省是5秒内20次调用失败,就会启动熔断机制。熔断机制的注解是@HystrixCommand。
3: 熔断类型
在Hystrix里面,熔断又分为三种情况:半熔断、熔断打开、熔断关闭
熔断打开:请求不再进行调用当前服务,内部设置时钟一般为MTTR(平均故障处理时间),当打开时长达到所设时钟则进入半熔断状态
半熔断: 部分请求根据规则调用当前服务,如果请求成功且符合规则则认为当前服务恢复正常,关闭熔断
熔断关闭: 熔断关闭不会对服务进行熔断
4: 断路器图解
5:断路器在什么情况下开始起作用
涉及到断路器的三个重要参数:快照时间窗、请求总数阀值、错误百分比阀值。
快照时间窗:断路器确定是否打开需要统计一些请求和错误数据,而统计的时间范围就是快照时间窗,默认为最近的10秒。
请求总数阀值:在快照时间窗内,必须满足请求总数阀值才有资格熔断。默认为20,意味着在10秒内,如果该hystrix命令的调用次数不足20次,即使所有的请求都超时或其他原因失败,断路器都不会打开。
错误百分比阀值:当请求总数在快照时间窗内超过了阀值,比如发生了30次调用,如果在这30次调用中,有15次发生了超时异常,也就是超过50%的错误百分比,在默认设定50%阀值情况下,这时候就会将断路器打开。
6:断路器开启或者关闭的条件
当满足一定的阀值的时候(默认10秒内超过20个请求次数)
当失败率达到一定的时候(默认10秒内超过50%的请求失败)
到达以上阀值,断路器将会开启
当开启的时候,所有请求都不会进行转发
一段时间之后(默认是5秒),这个时候断路器是半开状态,会让其中一个请求进行转发。如果成功,断路器会关闭,若失败,继续开启。重复4和5
7:断路器打开之后
再有请求调用的时候,将不会调用主逻辑,而是直接调用降级fallback。通过断路器,实现了自动地发现错误并将降级逻辑切换为主逻辑,减少响应延迟的效果。
原来的主逻辑要如何恢复呢?
对于这一问题,hystrix也为我们实现了自动恢复功能。
当断路器打开,对主逻辑进行熔断之后,hystrix会启动一个休眠时间窗,在这个时间窗内,降级逻辑是临时的成为主逻辑,当休眠时间窗到期,断路器将进入半开状态,释放一次请求到原来的主逻辑上,如果此次请求正常返回,那么断路器将继续闭合,主逻辑恢复,如果这次请求依然有问题,断路器继续进入打开状态,休眠时间窗重新计时。
8:线程隔离示意图
9:依赖隔离
Hystrix提供了两种隔离策略:线程池隔离和信号量隔离,默认采用线程池隔离。
线程池隔离
Hystrix使用舱壁模式来实现线程池的隔离,它会为每一个Hystrix命令创建一个独立的线程池,不同服务通过使用不同线程池,彼此间将不受影响,这样就算某个在Hystrix命令包装下的依赖服务出现延迟过高的情况,也只是对该依赖服务的调用产生影响,而不会拖慢其他的服务
这种方式需要为每个依赖的服务申请线程池,有一定的资源消耗;通过线程池大小可以控制并发量,当线程池饱和时可以提前拒绝服务,防止依赖问题扩散。建议线程池不要设置过大,否则大量堵塞线程有可能会拖慢服务器
线程池隔离的好处
1:应用自身得到完全的保护,不会受不可控的依赖服务影响。
2:可以有效的降低接入新服务的风险
3:当依赖的服务从失效恢复正常后,它的线程池会被清理并且能够马上恢复健康的服务,相比之下容器级别的清理恢复速度要慢得多。
4:当依赖的服务出现配置错误的时候,线程池会快速的反应出此问题(通过失败次数、延迟、超时、拒绝等指标的增加情况)。同时,可以在不影响应用功能的情况下通过实时的动态属性刷新来处理它。
5:当依赖的服务因实现机制调整等原因造成其性能出现很大变化的时候,此时线程池的监控指标信息会反映出这样的变化。同时,可以通过实时动态刷新自身应用对依赖服务的阈值进行调整以适应依赖方的改变。
10:信号量隔离
线程隔离会带来线程开销,有些场景(比如无网络请求场景)可能会因为用开销换隔离得不偿失,为此Hystrix提供了信号量隔离,当服务的并发数大于信号量阈值时将进入fallback。
实现方式是使用一个原子计数器(或信号量)来记录当前有多少个线程在运行,请求过来了,先判断计数器的数值,若超过设置的最大线程个数则丢弃该类型的新请求,若不超过则执行计数操作请求来计数器+1。
信号隔离与线程隔离最大不同在于执行依赖代码的线程依然是请求线程;而线程池方式下业务请求线程和执行依赖的服务的线程不是同一个线程
java中的熔断机制_SpringCloud- 第八篇 Hystrix熔断机制(五)相关推荐
- 万字图文 | 学会Java中的线程池,这一篇也许就够了!
来源:一枝花算不算浪漫 线程池原理思维导图.png 前言 Java中的线程池已经不是什么神秘的技术了,相信在看的读者在项目中也都有使用过.关于线程池的文章也是数不胜数,我们站在巨人的肩膀上来再次梳理一 ...
- 关于Java中的锁,看这一篇就够了(总结篇)
文章目录 锁的概念 锁的分类 一.什么是悲观锁? Java中的悲观锁有哪些 synchronized 基于AQS的实现类 二.什么是乐观锁? Java中的乐观锁有哪些 Valotile Java内存模 ...
- java中的基本数据类型(四类八种)
Java语言提供了八种基本类型,可以分为四类: 整数型: byte short int long. 浮点型: float double. 字符型: char. 布尔型: boolean. byte: ...
- JAVA中的垃圾回收机制以及其在android开发中的作用
http://blog.csdn.net/xieqibao/article/details/6707519 这篇文章概述了JAVA中运行时数据的结构,以及垃圾回收机制的作用.在后半部分,描述了如何检测 ...
- java中字符流和字节流的区别_java中字节流和字符流有哪些区别
java中字节流和字符流的区别有:1.定义不同:2.结尾不同:3.处理方式不同:4.缓冲区不同:5.编码方式不同.字节流默认不使用缓冲区,而字符流使用缓冲区.字节流采用ASCII编码,字符流采用uni ...
- Java中回收资源的方法
1.回收对象占用的内存 对于内存的回收,JAVA与C++不同.在C++中,对象占用的内存,其回收是明确无误的.在栈中分配的对象,当代码的运行离开对象的作用域时,系统自动调用对象的析构函数,然后回收内存 ...
- Java中多线程的性能比较
Java中有多种用于多线程的技术. 可以通过同步关键字,锁或原子变量来并行化Java中的一段代码. 这篇文章将比较使用synced关键字ReentrantLock,getAndIncrement()以 ...
- 关于Java中a++和++a的区别
关于Java中a++和++a的区别 这篇文章是给刚接触Java的人看的,高手请忽略.初学Java的同学可能会对这两者有点懵逼,搞不清楚他俩的区别,尤其在一些计算题中. 在讲这个问题之前,大家先看一个题 ...
- Java中的装箱和拆箱—这一篇全了解
Java中的拆箱装箱-这一篇全了解 一.什么是装箱?什么是拆箱? Java为每种基本数据类型都提供了对应的包装器类型,让基本类型具备对象的特征,实现更多的功能..在Java SE5之前,如果要生成一个 ...
最新文章
- Educational Codeforces Round 108(Rated for Div. 2) E - Off by One(一种一般图的边最大匹配,好题)
- 百度ACE智能交通能提升最高30%城市通行效率,刚刚拿下世界互联网大会最高荣誉...
- iOS5.1 + XCode4.5 device debug,the screen will ...
- [转]使用Yii CUploadedFile上传文件(图片)
- SpringBoot_入门-springboot-helloworld
- leetcode 355. Design Twitter | 355. 设计推特(Java)
- JDK 8中的Oracle Drops Collection文字
- json 生成html转换,根据json字符串生成Html的一种方式
- 团队开发里频繁使用 git rebase 来保持树的整洁好吗?
- 仅对 LINQ to Entities 中已排序的输入支持方法“Skip”。必须在调用“Skip”方法之前调用方法“OrderBy”
- code review平台Rietveld应用指南
- c语言iec 103协议程序,IEC103通信流程详解.doc
- tiledmap 图块属性_TiledMap详解
- VUE实现SQL在线编辑器,SQL分析器,SQL代码关键字提示
- VMware ESXi下载和安装
- Django查询关键字
- 电脑不允许被PING的解决办法
- Xmind中图标的导入和导出
- 卡贴机卡贴设置又失效再次折腾
- 计算机中的栈的模板,栈类模板实现含界面.doc