文章目录

  • API 网关
    • 壹 — 相关简介
      • 一、RESTful 框架
      • 二、微服务
      • 三、API网关
        • 网关和代理
        • 优缺点
    • 贰 — Spring Cloud 框架下的 API 网关实现
      • Eureka:服务发现框架
      • Open Feign:服务远程访问
      • Ribbon:运行在客户端的负载均衡
      • Hystrix:熔断和降级
      • Zuul:微服务网关和智能路由

API 网关

壹 — 相关简介

一、RESTful 框架

二、微服务

本质上就是一种用于构造应用的架构方案,这种架构不同于传统的单体式架构将各种模块功能放置在一个应用里面,然后将应用的实例部署在多个服务器上,通过一个负载均衡的代理服务器将请求分发到各个服务器上,而是:

  • 将一个应用细分为多个服务,即 API 接口,每个服务都可以独立运行。通过细分成为各种这样的 “微服务”,使得我们可以对每个服务进行单独的构建和部署。
  • 同时,当我们希望扩展新的功能,仅仅只需要扩展一个新的微服务,并提供新的一个 API接口,具有非常强大的可扩展性
  • 并且,还可以通过对现有的服务进行集成,非常高效的构建新的应用

这样,对一个前端应用来说,每一个页面,甚至是页面里面的一个元素,都可能对应一个服务,而前端只需要专注于业务逻辑的实现,调用对应的服务即可。因此,微服务架构具有非常高的可扩展性和代码利用率。

不过,尽管这样的架构看起来非常理想,但是在实际应用上依然存在很多问题,例如:

  • 当前端的业务发生变化,一些功能需要进行拆分的时候,这时后台的微服务也必须同样进行相应的拆分
  • 当业务较为复杂时,这时前端可能会面对数十甚至上百个微服务的接口域名,这将使得客户端的代码变得难以维护
  • 另外对于API 的鉴权和限流这些逻辑来说,每个微服务的接口都需要重复进行判断,而事实上这些可以放在一个统一的入口来做。这就是 API 网关

三、API网关

网关和代理

另外一个与网关类似的东西——代理。

网关与代理的区别:代理是纯粹的数据透传,协议不会发生变化;网关在数据透传的背景下,还会设计协议的转换,比如上图中用户请求传输到网关的协议是HTTP,通过网关透传到下游则可能已经转换成企业内部的RPC了(比如JSF、Dubbo等企业自研的RPC框架)。

优缺点

通过 API 网关,不仅可以在不受协议限制的情况下进行API请求的转发(routing),还可以针对所有的API接入进行统一的鉴权,并且还可以根据接入的流量进行流量限制以及流量的监控和相关告警等。这样,不仅可以将每个网关在鉴权,权限等一些通用的逻辑剥离出来,统一到网关上完成,还可以让前端更加专注于业务逻辑上判断,所有请求都发送到一个统一的入口,而不需要与每个微服务都进行通信,具体接入的API由 API 网关路由确定。

显然,这样带来的另外一个问题就是:当所有流量都往 API 网关汇聚时,API 网关自然将会成为限制访问流量的瓶颈,并且当面对突发的大量访问必须保证 API 网关的稳定性和高可用性,否则这个单点的故障很有可能导致后续的微服务将不可用。另外,单个微服务的故障,也可能拖累整个 API 网关导致相应的功能受限。

贰 — Spring Cloud 框架下的 API 网关实现

Eureka:服务发现框架

Eureka 事实上也是一个服务,这是一个在 AWS 提供服务定位功能的服务,以实现负载均衡和服务器故障转移,即服务的高可用保障,通常我们称之为这是一个 Eureka 服务器,即 Eureka Server。此外,Eureka 还包含一个客户端,Eureka Client,用于和企业内部或者是外部的业务服务进行更加高效的交互,而且,在这个客户端中还包含了一个负载均衡器,执行基本的循环负载平衡。

所以,Eureka 就是一个服务发现的框架,Eureka Server 即整个 AWS 的服务注册中心,由一个去中心化的服务器集群组成,每个节点同步服务注册信息,然后扮演 服务提供者 的微服务依靠 Eureka Client 和服务注册中心进行交互,提供地址以及端口等元数据作为注册信息,相应的服务,从而实现 服务注册(Register)

并且服务注册中心为了保证对外提供的服务一直处于可用的状态,因此客户端必须定时在注册中心更新自己的信息,表示自己依然处于可用状态,这就是 Eureka 框架中的 服务续约(Renew)。默认情况下,注册中心要求客户端每隔 30 s 发送心跳在注册中心更新一次自己的信息,而当注册中心经过 90 s ,即三个 续约周期 没有接收到客户端的心跳信息时,注册中心将会认为这个服务已经停用或者处于不可用的状态,删除对应的注册信息,并更新到每个 Eureka Server 集群的节点上,这就是 服务剔除(Eviction)

另外,每个客户端还会定期向注册中心获取可用的服务列表并缓存在本地内存中,从而通过相应的服务信息(即前面所讲到的IP地址,端口等元数据信息)实现对其他微服务的远程调用。通常客户端每隔 30 s 获取服务端的服务列表信息,客户端自动对信息进行处理,并更新本地缓存的服务信息。而当因为特殊情况客户端发现注册信息不匹配或者不可用时,客户端将会重新拉取整个列表并进行更新。默认情况下服务端的注册中心和客户端通过压缩的 JSON 格式数据来进行通讯,获取注册信息,这就是 获取注册列表信息(Fetch Registry)

当然,客户端也可以主动向服务端发送请求进行服务下线,即在客户端进行程序关闭的时候,向服务端发送注册取消请求。服务端接收到取消请求之后,即将客户端实例从注册列表中剔除。下线请求不会自动完成,需要调用相应的函数实现。

Eureka 框架基本,活动图如下:

#mermaid-svg-BjtRzWTJePC0bcfP .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-BjtRzWTJePC0bcfP .label text{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .node rect,#mermaid-svg-BjtRzWTJePC0bcfP .node circle,#mermaid-svg-BjtRzWTJePC0bcfP .node ellipse,#mermaid-svg-BjtRzWTJePC0bcfP .node polygon,#mermaid-svg-BjtRzWTJePC0bcfP .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-BjtRzWTJePC0bcfP .node .label{text-align:center;fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .node.clickable{cursor:pointer}#mermaid-svg-BjtRzWTJePC0bcfP .arrowheadPath{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-BjtRzWTJePC0bcfP .flowchart-link{stroke:#333;fill:none}#mermaid-svg-BjtRzWTJePC0bcfP .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-BjtRzWTJePC0bcfP .edgeLabel rect{opacity:0.9}#mermaid-svg-BjtRzWTJePC0bcfP .edgeLabel span{color:#333}#mermaid-svg-BjtRzWTJePC0bcfP .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-BjtRzWTJePC0bcfP .cluster text{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-BjtRzWTJePC0bcfP .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-BjtRzWTJePC0bcfP text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-BjtRzWTJePC0bcfP .actor-line{stroke:grey}#mermaid-svg-BjtRzWTJePC0bcfP .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-BjtRzWTJePC0bcfP .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-BjtRzWTJePC0bcfP #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-BjtRzWTJePC0bcfP .sequenceNumber{fill:#fff}#mermaid-svg-BjtRzWTJePC0bcfP #sequencenumber{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP #crosshead path{fill:#333;stroke:#333}#mermaid-svg-BjtRzWTJePC0bcfP .messageText{fill:#333;stroke:#333}#mermaid-svg-BjtRzWTJePC0bcfP .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-BjtRzWTJePC0bcfP .labelText,#mermaid-svg-BjtRzWTJePC0bcfP .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-BjtRzWTJePC0bcfP .loopText,#mermaid-svg-BjtRzWTJePC0bcfP .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-BjtRzWTJePC0bcfP .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-BjtRzWTJePC0bcfP .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-BjtRzWTJePC0bcfP .noteText,#mermaid-svg-BjtRzWTJePC0bcfP .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-BjtRzWTJePC0bcfP .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-BjtRzWTJePC0bcfP .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-BjtRzWTJePC0bcfP .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-BjtRzWTJePC0bcfP .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .section{stroke:none;opacity:0.2}#mermaid-svg-BjtRzWTJePC0bcfP .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-BjtRzWTJePC0bcfP .section2{fill:#fff400}#mermaid-svg-BjtRzWTJePC0bcfP .section1,#mermaid-svg-BjtRzWTJePC0bcfP .section3{fill:#fff;opacity:0.2}#mermaid-svg-BjtRzWTJePC0bcfP .sectionTitle0{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .sectionTitle1{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .sectionTitle2{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .sectionTitle3{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-BjtRzWTJePC0bcfP .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .grid path{stroke-width:0}#mermaid-svg-BjtRzWTJePC0bcfP .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-BjtRzWTJePC0bcfP .task{stroke-width:2}#mermaid-svg-BjtRzWTJePC0bcfP .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .taskText:not([font-size]){font-size:11px}#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-BjtRzWTJePC0bcfP .task.clickable{cursor:pointer}#mermaid-svg-BjtRzWTJePC0bcfP .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-BjtRzWTJePC0bcfP .taskText0,#mermaid-svg-BjtRzWTJePC0bcfP .taskText1,#mermaid-svg-BjtRzWTJePC0bcfP .taskText2,#mermaid-svg-BjtRzWTJePC0bcfP .taskText3{fill:#fff}#mermaid-svg-BjtRzWTJePC0bcfP .task0,#mermaid-svg-BjtRzWTJePC0bcfP .task1,#mermaid-svg-BjtRzWTJePC0bcfP .task2,#mermaid-svg-BjtRzWTJePC0bcfP .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutside0,#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutside2{fill:#000}#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutside1,#mermaid-svg-BjtRzWTJePC0bcfP .taskTextOutside3{fill:#000}#mermaid-svg-BjtRzWTJePC0bcfP .active0,#mermaid-svg-BjtRzWTJePC0bcfP .active1,#mermaid-svg-BjtRzWTJePC0bcfP .active2,#mermaid-svg-BjtRzWTJePC0bcfP .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-BjtRzWTJePC0bcfP .activeText0,#mermaid-svg-BjtRzWTJePC0bcfP .activeText1,#mermaid-svg-BjtRzWTJePC0bcfP .activeText2,#mermaid-svg-BjtRzWTJePC0bcfP .activeText3{fill:#000 !important}#mermaid-svg-BjtRzWTJePC0bcfP .done0,#mermaid-svg-BjtRzWTJePC0bcfP .done1,#mermaid-svg-BjtRzWTJePC0bcfP .done2,#mermaid-svg-BjtRzWTJePC0bcfP .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-BjtRzWTJePC0bcfP .doneText0,#mermaid-svg-BjtRzWTJePC0bcfP .doneText1,#mermaid-svg-BjtRzWTJePC0bcfP .doneText2,#mermaid-svg-BjtRzWTJePC0bcfP .doneText3{fill:#000 !important}#mermaid-svg-BjtRzWTJePC0bcfP .crit0,#mermaid-svg-BjtRzWTJePC0bcfP .crit1,#mermaid-svg-BjtRzWTJePC0bcfP .crit2,#mermaid-svg-BjtRzWTJePC0bcfP .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-BjtRzWTJePC0bcfP .activeCrit0,#mermaid-svg-BjtRzWTJePC0bcfP .activeCrit1,#mermaid-svg-BjtRzWTJePC0bcfP .activeCrit2,#mermaid-svg-BjtRzWTJePC0bcfP .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-BjtRzWTJePC0bcfP .doneCrit0,#mermaid-svg-BjtRzWTJePC0bcfP .doneCrit1,#mermaid-svg-BjtRzWTJePC0bcfP .doneCrit2,#mermaid-svg-BjtRzWTJePC0bcfP .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-BjtRzWTJePC0bcfP .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-BjtRzWTJePC0bcfP .milestoneText{font-style:italic}#mermaid-svg-BjtRzWTJePC0bcfP .doneCritText0,#mermaid-svg-BjtRzWTJePC0bcfP .doneCritText1,#mermaid-svg-BjtRzWTJePC0bcfP .doneCritText2,#mermaid-svg-BjtRzWTJePC0bcfP .doneCritText3{fill:#000 !important}#mermaid-svg-BjtRzWTJePC0bcfP .activeCritText0,#mermaid-svg-BjtRzWTJePC0bcfP .activeCritText1,#mermaid-svg-BjtRzWTJePC0bcfP .activeCritText2,#mermaid-svg-BjtRzWTJePC0bcfP .activeCritText3{fill:#000 !important}#mermaid-svg-BjtRzWTJePC0bcfP .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-BjtRzWTJePC0bcfP g.classGroup text .title{font-weight:bolder}#mermaid-svg-BjtRzWTJePC0bcfP g.clickable{cursor:pointer}#mermaid-svg-BjtRzWTJePC0bcfP g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-BjtRzWTJePC0bcfP g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-BjtRzWTJePC0bcfP .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-BjtRzWTJePC0bcfP .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-BjtRzWTJePC0bcfP .dashed-line{stroke-dasharray:3}#mermaid-svg-BjtRzWTJePC0bcfP #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP .commit-id,#mermaid-svg-BjtRzWTJePC0bcfP .commit-msg,#mermaid-svg-BjtRzWTJePC0bcfP .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-BjtRzWTJePC0bcfP g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-BjtRzWTJePC0bcfP g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-BjtRzWTJePC0bcfP g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-BjtRzWTJePC0bcfP .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-BjtRzWTJePC0bcfP .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-BjtRzWTJePC0bcfP .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-BjtRzWTJePC0bcfP .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-BjtRzWTJePC0bcfP .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-BjtRzWTJePC0bcfP .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-BjtRzWTJePC0bcfP .edgeLabel text{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-BjtRzWTJePC0bcfP .node circle.state-start{fill:black;stroke:black}#mermaid-svg-BjtRzWTJePC0bcfP .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-BjtRzWTJePC0bcfP #statediagram-barbEnd{fill:#9370db}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-state .divider{stroke:#9370db}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-BjtRzWTJePC0bcfP .note-edge{stroke-dasharray:5}#mermaid-svg-BjtRzWTJePC0bcfP .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-BjtRzWTJePC0bcfP .error-icon{fill:#522}#mermaid-svg-BjtRzWTJePC0bcfP .error-text{fill:#522;stroke:#522}#mermaid-svg-BjtRzWTJePC0bcfP .edge-thickness-normal{stroke-width:2px}#mermaid-svg-BjtRzWTJePC0bcfP .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-BjtRzWTJePC0bcfP .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-BjtRzWTJePC0bcfP .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-BjtRzWTJePC0bcfP .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-BjtRzWTJePC0bcfP .marker{fill:#333}#mermaid-svg-BjtRzWTJePC0bcfP .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;} #mermaid-svg-BjtRzWTJePC0bcfP {color: rgba(0, 0, 0, 0.75);font: ;} Eureka Server Eureka Client Reigster send IP, port and other information 1 Renew send heartbeat/30s 2 Update information from heartbeat 3 Eviction remove registry 4 alt [has heartbeat] [silent over 90s] loop [listen] ask for registry 5 registry list 6 par [Renew] [fetch Registry] Eureka Server Eureka Client

图 2-1 Eureka Server 服务注册,更新,订阅

通过 Eureka 这样的一个服务注册框架,不仅使得外部的的请求能够顺利获得所需的每一个微服务的位置,而且每一个服务之间也可以通过从服务注册中心拉取服务信息注册列表并缓存在本地内存中,从而根据其他服务的注册信息借助远程服务调用工具实现不同微服务之间的互相调用。

Open Feign:服务远程访问

对于微服务框架来说,每个微服务除了需要通过在注册中心进行注册从而实现 ”被发现“ 之外,对于一个微服务自己本身来说,有时候还需要调用其他服务来实现一些关于业务上的功能,这就涉及到了服务与服务之间的相互调用,往往需要对一个服务针对目标服务设计相对应的请求以及响应等相关处理,设计相应的接口,从而在每次调用特定的服务的时候,在服务调用前后进行其他相关服务的调用。

事实上这样子的机制就是一种 服务代理 ,简单的服务代理往往可以通过 静态代理 来实现服务通信。但是静态代理存在一个致命的缺点:开发人员在对每一个服务进行服务代理的设计时,都需要添加几乎相同的静态代理,而这些逻辑的相关代码几乎是完全相同的。不管从工作量的角度,还是代码设计的角度来看,都不是一种理想的解决方法。

这时我们就需要用到 动态代理,不再需要对于每种服务都需要进行相应的代理设置,并创建相应的代理类,而是在运行的时候动态的创建代理类,并通过 Java 的反射机制将这个代理类动态的加载到内存当中,从而实现动态代理。

Feign 就是建立在动态代理的基础上的一个服务之间的远程调用框架,本质上是 java 的反射原理,即:反射+动态加载+代理 的一种机制,针对一个服务到另外一个服务之间的一系列行为的复杂代码进行了封装,从而可以非常简单的完成服务到服务的请求,请求处理,响应以及响应处理等机制的实现。

Ribbon:运行在客户端的负载均衡

Open Feign 虽然可以顺利的解决服务之间的访问问题,但是,有一些服务往往需要部署在多台主机上,例如一些高可用的分布式服务,而 Feign 本身并没有机制可以决定自己应该访问那一台主机上面的服务。而如果此时大量的服务都请求到一台主机上面,导致主机崩溃,而事实上另外几台服务器一直都处于可用的状态,这样对于集群服务的高可用等优越性将完全没有发挥任何作用。

因此,对于集群服务的访问来说,负载均衡 至关重要,比如 Nginx 在服务器端这边通过一个负载均衡器,将发送到这台服务器上的所有请求集中进行负载均衡,从而使得请求均匀分配到每台服务器上,保证了集群服务的高可用性。

#mermaid-svg-zggm6UDORcztD53v .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-zggm6UDORcztD53v .label text{fill:#333}#mermaid-svg-zggm6UDORcztD53v .node rect,#mermaid-svg-zggm6UDORcztD53v .node circle,#mermaid-svg-zggm6UDORcztD53v .node ellipse,#mermaid-svg-zggm6UDORcztD53v .node polygon,#mermaid-svg-zggm6UDORcztD53v .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-zggm6UDORcztD53v .node .label{text-align:center;fill:#333}#mermaid-svg-zggm6UDORcztD53v .node.clickable{cursor:pointer}#mermaid-svg-zggm6UDORcztD53v .arrowheadPath{fill:#333}#mermaid-svg-zggm6UDORcztD53v .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-zggm6UDORcztD53v .flowchart-link{stroke:#333;fill:none}#mermaid-svg-zggm6UDORcztD53v .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-zggm6UDORcztD53v .edgeLabel rect{opacity:0.9}#mermaid-svg-zggm6UDORcztD53v .edgeLabel span{color:#333}#mermaid-svg-zggm6UDORcztD53v .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-zggm6UDORcztD53v .cluster text{fill:#333}#mermaid-svg-zggm6UDORcztD53v div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-zggm6UDORcztD53v .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-zggm6UDORcztD53v text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-zggm6UDORcztD53v .actor-line{stroke:grey}#mermaid-svg-zggm6UDORcztD53v .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-zggm6UDORcztD53v .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-zggm6UDORcztD53v #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-zggm6UDORcztD53v .sequenceNumber{fill:#fff}#mermaid-svg-zggm6UDORcztD53v #sequencenumber{fill:#333}#mermaid-svg-zggm6UDORcztD53v #crosshead path{fill:#333;stroke:#333}#mermaid-svg-zggm6UDORcztD53v .messageText{fill:#333;stroke:#333}#mermaid-svg-zggm6UDORcztD53v .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-zggm6UDORcztD53v .labelText,#mermaid-svg-zggm6UDORcztD53v .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-zggm6UDORcztD53v .loopText,#mermaid-svg-zggm6UDORcztD53v .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-zggm6UDORcztD53v .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-zggm6UDORcztD53v .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-zggm6UDORcztD53v .noteText,#mermaid-svg-zggm6UDORcztD53v .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-zggm6UDORcztD53v .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-zggm6UDORcztD53v .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-zggm6UDORcztD53v .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-zggm6UDORcztD53v .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .section{stroke:none;opacity:0.2}#mermaid-svg-zggm6UDORcztD53v .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-zggm6UDORcztD53v .section2{fill:#fff400}#mermaid-svg-zggm6UDORcztD53v .section1,#mermaid-svg-zggm6UDORcztD53v .section3{fill:#fff;opacity:0.2}#mermaid-svg-zggm6UDORcztD53v .sectionTitle0{fill:#333}#mermaid-svg-zggm6UDORcztD53v .sectionTitle1{fill:#333}#mermaid-svg-zggm6UDORcztD53v .sectionTitle2{fill:#333}#mermaid-svg-zggm6UDORcztD53v .sectionTitle3{fill:#333}#mermaid-svg-zggm6UDORcztD53v .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-zggm6UDORcztD53v .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .grid path{stroke-width:0}#mermaid-svg-zggm6UDORcztD53v .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-zggm6UDORcztD53v .task{stroke-width:2}#mermaid-svg-zggm6UDORcztD53v .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .taskText:not([font-size]){font-size:11px}#mermaid-svg-zggm6UDORcztD53v .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-zggm6UDORcztD53v .task.clickable{cursor:pointer}#mermaid-svg-zggm6UDORcztD53v .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-zggm6UDORcztD53v .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-zggm6UDORcztD53v .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-zggm6UDORcztD53v .taskText0,#mermaid-svg-zggm6UDORcztD53v .taskText1,#mermaid-svg-zggm6UDORcztD53v .taskText2,#mermaid-svg-zggm6UDORcztD53v .taskText3{fill:#fff}#mermaid-svg-zggm6UDORcztD53v .task0,#mermaid-svg-zggm6UDORcztD53v .task1,#mermaid-svg-zggm6UDORcztD53v .task2,#mermaid-svg-zggm6UDORcztD53v .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-zggm6UDORcztD53v .taskTextOutside0,#mermaid-svg-zggm6UDORcztD53v .taskTextOutside2{fill:#000}#mermaid-svg-zggm6UDORcztD53v .taskTextOutside1,#mermaid-svg-zggm6UDORcztD53v .taskTextOutside3{fill:#000}#mermaid-svg-zggm6UDORcztD53v .active0,#mermaid-svg-zggm6UDORcztD53v .active1,#mermaid-svg-zggm6UDORcztD53v .active2,#mermaid-svg-zggm6UDORcztD53v .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-zggm6UDORcztD53v .activeText0,#mermaid-svg-zggm6UDORcztD53v .activeText1,#mermaid-svg-zggm6UDORcztD53v .activeText2,#mermaid-svg-zggm6UDORcztD53v .activeText3{fill:#000 !important}#mermaid-svg-zggm6UDORcztD53v .done0,#mermaid-svg-zggm6UDORcztD53v .done1,#mermaid-svg-zggm6UDORcztD53v .done2,#mermaid-svg-zggm6UDORcztD53v .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-zggm6UDORcztD53v .doneText0,#mermaid-svg-zggm6UDORcztD53v .doneText1,#mermaid-svg-zggm6UDORcztD53v .doneText2,#mermaid-svg-zggm6UDORcztD53v .doneText3{fill:#000 !important}#mermaid-svg-zggm6UDORcztD53v .crit0,#mermaid-svg-zggm6UDORcztD53v .crit1,#mermaid-svg-zggm6UDORcztD53v .crit2,#mermaid-svg-zggm6UDORcztD53v .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-zggm6UDORcztD53v .activeCrit0,#mermaid-svg-zggm6UDORcztD53v .activeCrit1,#mermaid-svg-zggm6UDORcztD53v .activeCrit2,#mermaid-svg-zggm6UDORcztD53v .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-zggm6UDORcztD53v .doneCrit0,#mermaid-svg-zggm6UDORcztD53v .doneCrit1,#mermaid-svg-zggm6UDORcztD53v .doneCrit2,#mermaid-svg-zggm6UDORcztD53v .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-zggm6UDORcztD53v .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-zggm6UDORcztD53v .milestoneText{font-style:italic}#mermaid-svg-zggm6UDORcztD53v .doneCritText0,#mermaid-svg-zggm6UDORcztD53v .doneCritText1,#mermaid-svg-zggm6UDORcztD53v .doneCritText2,#mermaid-svg-zggm6UDORcztD53v .doneCritText3{fill:#000 !important}#mermaid-svg-zggm6UDORcztD53v .activeCritText0,#mermaid-svg-zggm6UDORcztD53v .activeCritText1,#mermaid-svg-zggm6UDORcztD53v .activeCritText2,#mermaid-svg-zggm6UDORcztD53v .activeCritText3{fill:#000 !important}#mermaid-svg-zggm6UDORcztD53v .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-zggm6UDORcztD53v g.classGroup text .title{font-weight:bolder}#mermaid-svg-zggm6UDORcztD53v g.clickable{cursor:pointer}#mermaid-svg-zggm6UDORcztD53v g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-zggm6UDORcztD53v g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-zggm6UDORcztD53v .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-zggm6UDORcztD53v .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-zggm6UDORcztD53v .dashed-line{stroke-dasharray:3}#mermaid-svg-zggm6UDORcztD53v #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v .commit-id,#mermaid-svg-zggm6UDORcztD53v .commit-msg,#mermaid-svg-zggm6UDORcztD53v .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-zggm6UDORcztD53v g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-zggm6UDORcztD53v g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-zggm6UDORcztD53v g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-zggm6UDORcztD53v g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-zggm6UDORcztD53v .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-zggm6UDORcztD53v .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-zggm6UDORcztD53v .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-zggm6UDORcztD53v .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-zggm6UDORcztD53v .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-zggm6UDORcztD53v .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-zggm6UDORcztD53v .edgeLabel text{fill:#333}#mermaid-svg-zggm6UDORcztD53v .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-zggm6UDORcztD53v .node circle.state-start{fill:black;stroke:black}#mermaid-svg-zggm6UDORcztD53v .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-zggm6UDORcztD53v #statediagram-barbEnd{fill:#9370db}#mermaid-svg-zggm6UDORcztD53v .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-zggm6UDORcztD53v .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-zggm6UDORcztD53v .statediagram-state .divider{stroke:#9370db}#mermaid-svg-zggm6UDORcztD53v .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-zggm6UDORcztD53v .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-zggm6UDORcztD53v .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-zggm6UDORcztD53v .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-zggm6UDORcztD53v .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-zggm6UDORcztD53v .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-zggm6UDORcztD53v .note-edge{stroke-dasharray:5}#mermaid-svg-zggm6UDORcztD53v .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-zggm6UDORcztD53v .error-icon{fill:#522}#mermaid-svg-zggm6UDORcztD53v .error-text{fill:#522;stroke:#522}#mermaid-svg-zggm6UDORcztD53v .edge-thickness-normal{stroke-width:2px}#mermaid-svg-zggm6UDORcztD53v .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-zggm6UDORcztD53v .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-zggm6UDORcztD53v .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-zggm6UDORcztD53v .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-zggm6UDORcztD53v .marker{fill:#333}#mermaid-svg-zggm6UDORcztD53v .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;} #mermaid-svg-zggm6UDORcztD53v {color: rgba(0, 0, 0, 0.75);font: ;}

request
request
request
request
request
request
client1
Nginx
client2
client3
service instance1
service instance2
service instance3

图 2-2 Nginx 负载均衡

而 Ribbon 本质上是一个运行在客户端的负载均衡器,通过类似 Round Robin(轮询)或者是其他的负载均衡算法,将当前业务线程的请求分配到目标服务的每一台主机上,从而既保证了对集群服务的有效访问,同时也保证了集群服务高可用性的有效利用。

#mermaid-svg-jLw7KkxIJkNq07bT .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-jLw7KkxIJkNq07bT .label text{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .node rect,#mermaid-svg-jLw7KkxIJkNq07bT .node circle,#mermaid-svg-jLw7KkxIJkNq07bT .node ellipse,#mermaid-svg-jLw7KkxIJkNq07bT .node polygon,#mermaid-svg-jLw7KkxIJkNq07bT .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-jLw7KkxIJkNq07bT .node .label{text-align:center;fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .node.clickable{cursor:pointer}#mermaid-svg-jLw7KkxIJkNq07bT .arrowheadPath{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-jLw7KkxIJkNq07bT .flowchart-link{stroke:#333;fill:none}#mermaid-svg-jLw7KkxIJkNq07bT .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-jLw7KkxIJkNq07bT .edgeLabel rect{opacity:0.9}#mermaid-svg-jLw7KkxIJkNq07bT .edgeLabel span{color:#333}#mermaid-svg-jLw7KkxIJkNq07bT .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-jLw7KkxIJkNq07bT .cluster text{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-jLw7KkxIJkNq07bT .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-jLw7KkxIJkNq07bT text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-jLw7KkxIJkNq07bT .actor-line{stroke:grey}#mermaid-svg-jLw7KkxIJkNq07bT .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-jLw7KkxIJkNq07bT .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-jLw7KkxIJkNq07bT #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-jLw7KkxIJkNq07bT .sequenceNumber{fill:#fff}#mermaid-svg-jLw7KkxIJkNq07bT #sequencenumber{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT #crosshead path{fill:#333;stroke:#333}#mermaid-svg-jLw7KkxIJkNq07bT .messageText{fill:#333;stroke:#333}#mermaid-svg-jLw7KkxIJkNq07bT .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-jLw7KkxIJkNq07bT .labelText,#mermaid-svg-jLw7KkxIJkNq07bT .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-jLw7KkxIJkNq07bT .loopText,#mermaid-svg-jLw7KkxIJkNq07bT .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-jLw7KkxIJkNq07bT .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-jLw7KkxIJkNq07bT .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-jLw7KkxIJkNq07bT .noteText,#mermaid-svg-jLw7KkxIJkNq07bT .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-jLw7KkxIJkNq07bT .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-jLw7KkxIJkNq07bT .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-jLw7KkxIJkNq07bT .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-jLw7KkxIJkNq07bT .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .section{stroke:none;opacity:0.2}#mermaid-svg-jLw7KkxIJkNq07bT .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-jLw7KkxIJkNq07bT .section2{fill:#fff400}#mermaid-svg-jLw7KkxIJkNq07bT .section1,#mermaid-svg-jLw7KkxIJkNq07bT .section3{fill:#fff;opacity:0.2}#mermaid-svg-jLw7KkxIJkNq07bT .sectionTitle0{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .sectionTitle1{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .sectionTitle2{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .sectionTitle3{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-jLw7KkxIJkNq07bT .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .grid path{stroke-width:0}#mermaid-svg-jLw7KkxIJkNq07bT .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-jLw7KkxIJkNq07bT .task{stroke-width:2}#mermaid-svg-jLw7KkxIJkNq07bT .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .taskText:not([font-size]){font-size:11px}#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-jLw7KkxIJkNq07bT .task.clickable{cursor:pointer}#mermaid-svg-jLw7KkxIJkNq07bT .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-jLw7KkxIJkNq07bT .taskText0,#mermaid-svg-jLw7KkxIJkNq07bT .taskText1,#mermaid-svg-jLw7KkxIJkNq07bT .taskText2,#mermaid-svg-jLw7KkxIJkNq07bT .taskText3{fill:#fff}#mermaid-svg-jLw7KkxIJkNq07bT .task0,#mermaid-svg-jLw7KkxIJkNq07bT .task1,#mermaid-svg-jLw7KkxIJkNq07bT .task2,#mermaid-svg-jLw7KkxIJkNq07bT .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutside0,#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutside2{fill:#000}#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutside1,#mermaid-svg-jLw7KkxIJkNq07bT .taskTextOutside3{fill:#000}#mermaid-svg-jLw7KkxIJkNq07bT .active0,#mermaid-svg-jLw7KkxIJkNq07bT .active1,#mermaid-svg-jLw7KkxIJkNq07bT .active2,#mermaid-svg-jLw7KkxIJkNq07bT .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-jLw7KkxIJkNq07bT .activeText0,#mermaid-svg-jLw7KkxIJkNq07bT .activeText1,#mermaid-svg-jLw7KkxIJkNq07bT .activeText2,#mermaid-svg-jLw7KkxIJkNq07bT .activeText3{fill:#000 !important}#mermaid-svg-jLw7KkxIJkNq07bT .done0,#mermaid-svg-jLw7KkxIJkNq07bT .done1,#mermaid-svg-jLw7KkxIJkNq07bT .done2,#mermaid-svg-jLw7KkxIJkNq07bT .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-jLw7KkxIJkNq07bT .doneText0,#mermaid-svg-jLw7KkxIJkNq07bT .doneText1,#mermaid-svg-jLw7KkxIJkNq07bT .doneText2,#mermaid-svg-jLw7KkxIJkNq07bT .doneText3{fill:#000 !important}#mermaid-svg-jLw7KkxIJkNq07bT .crit0,#mermaid-svg-jLw7KkxIJkNq07bT .crit1,#mermaid-svg-jLw7KkxIJkNq07bT .crit2,#mermaid-svg-jLw7KkxIJkNq07bT .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-jLw7KkxIJkNq07bT .activeCrit0,#mermaid-svg-jLw7KkxIJkNq07bT .activeCrit1,#mermaid-svg-jLw7KkxIJkNq07bT .activeCrit2,#mermaid-svg-jLw7KkxIJkNq07bT .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-jLw7KkxIJkNq07bT .doneCrit0,#mermaid-svg-jLw7KkxIJkNq07bT .doneCrit1,#mermaid-svg-jLw7KkxIJkNq07bT .doneCrit2,#mermaid-svg-jLw7KkxIJkNq07bT .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-jLw7KkxIJkNq07bT .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-jLw7KkxIJkNq07bT .milestoneText{font-style:italic}#mermaid-svg-jLw7KkxIJkNq07bT .doneCritText0,#mermaid-svg-jLw7KkxIJkNq07bT .doneCritText1,#mermaid-svg-jLw7KkxIJkNq07bT .doneCritText2,#mermaid-svg-jLw7KkxIJkNq07bT .doneCritText3{fill:#000 !important}#mermaid-svg-jLw7KkxIJkNq07bT .activeCritText0,#mermaid-svg-jLw7KkxIJkNq07bT .activeCritText1,#mermaid-svg-jLw7KkxIJkNq07bT .activeCritText2,#mermaid-svg-jLw7KkxIJkNq07bT .activeCritText3{fill:#000 !important}#mermaid-svg-jLw7KkxIJkNq07bT .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-jLw7KkxIJkNq07bT g.classGroup text .title{font-weight:bolder}#mermaid-svg-jLw7KkxIJkNq07bT g.clickable{cursor:pointer}#mermaid-svg-jLw7KkxIJkNq07bT g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-jLw7KkxIJkNq07bT g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-jLw7KkxIJkNq07bT .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-jLw7KkxIJkNq07bT .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-jLw7KkxIJkNq07bT .dashed-line{stroke-dasharray:3}#mermaid-svg-jLw7KkxIJkNq07bT #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT .commit-id,#mermaid-svg-jLw7KkxIJkNq07bT .commit-msg,#mermaid-svg-jLw7KkxIJkNq07bT .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-jLw7KkxIJkNq07bT g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-jLw7KkxIJkNq07bT g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-jLw7KkxIJkNq07bT g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-jLw7KkxIJkNq07bT .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-jLw7KkxIJkNq07bT .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-jLw7KkxIJkNq07bT .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-jLw7KkxIJkNq07bT .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-jLw7KkxIJkNq07bT .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-jLw7KkxIJkNq07bT .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-jLw7KkxIJkNq07bT .edgeLabel text{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-jLw7KkxIJkNq07bT .node circle.state-start{fill:black;stroke:black}#mermaid-svg-jLw7KkxIJkNq07bT .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-jLw7KkxIJkNq07bT #statediagram-barbEnd{fill:#9370db}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-state .divider{stroke:#9370db}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-jLw7KkxIJkNq07bT .note-edge{stroke-dasharray:5}#mermaid-svg-jLw7KkxIJkNq07bT .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-jLw7KkxIJkNq07bT .error-icon{fill:#522}#mermaid-svg-jLw7KkxIJkNq07bT .error-text{fill:#522;stroke:#522}#mermaid-svg-jLw7KkxIJkNq07bT .edge-thickness-normal{stroke-width:2px}#mermaid-svg-jLw7KkxIJkNq07bT .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-jLw7KkxIJkNq07bT .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-jLw7KkxIJkNq07bT .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-jLw7KkxIJkNq07bT .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-jLw7KkxIJkNq07bT .marker{fill:#333}#mermaid-svg-jLw7KkxIJkNq07bT .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;} #mermaid-svg-jLw7KkxIJkNq07bT {color: rgba(0, 0, 0, 0.75);font: ;}

requests
request1
request2
request3
client
Robbin
service instance1
service instance2
service instance3

图 2-3 Robbin 客户端上的负载均衡

Hystrix:熔断和降级

当一个微服务因为某种原因出现故障的时候,这时来自外部的请求虽然可以通过 Eureka 的服务注册中心发现并访问这个微服务,但是由于故障影响将会导致所有相关的请求都会被阻隔在这个微服务上,对于用户的客户端来说将会一直处于未响应的状态,这时该服务需要处理的请求线程数量不断增加最终达到上限,这将使得上游的服务,例如需要调用到这个微服务的其他微服务,都将会在这里阻塞,无法响应。这就是微服务框架中最为严重的 服务雪崩 问题。

例如,一个业务 1,这个业务主要分为两个服务 a 和 b,而对用户来说,有的用户并不总是需要同时使用这两种服务,而只需要借助其中一个服务就可以完成自己的业务需求。但是如果这个时候,服务 b 出现了问题,这时所有和服务 b 相关的用户请求都将因为服务 b 的故障问题使得其业务的相关线程处于阻塞状态;此外,对于每个业务来说,其对应的线程池中分配的线程数量显然是有限的,因为阻塞问题,线程数量必然不断增加,最终导致整个线程池中的线程都被阻塞线程占满。这时问题就非常明显了:此时已经没有线程可以为使用服务 a 的用户正常提供服务了,而事实上服务 a 始终都处于可用的状态。如下图所示,可以看到最后步骤 9 时,服务 a 即因线程池可用线程被占满导致不可用:

#mermaid-svg-ixlMGGnnd3rptsrw .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-ixlMGGnnd3rptsrw .label text{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .node rect,#mermaid-svg-ixlMGGnnd3rptsrw .node circle,#mermaid-svg-ixlMGGnnd3rptsrw .node ellipse,#mermaid-svg-ixlMGGnnd3rptsrw .node polygon,#mermaid-svg-ixlMGGnnd3rptsrw .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-ixlMGGnnd3rptsrw .node .label{text-align:center;fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .node.clickable{cursor:pointer}#mermaid-svg-ixlMGGnnd3rptsrw .arrowheadPath{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-ixlMGGnnd3rptsrw .flowchart-link{stroke:#333;fill:none}#mermaid-svg-ixlMGGnnd3rptsrw .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-ixlMGGnnd3rptsrw .edgeLabel rect{opacity:0.9}#mermaid-svg-ixlMGGnnd3rptsrw .edgeLabel span{color:#333}#mermaid-svg-ixlMGGnnd3rptsrw .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-ixlMGGnnd3rptsrw .cluster text{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-ixlMGGnnd3rptsrw .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-ixlMGGnnd3rptsrw text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-ixlMGGnnd3rptsrw .actor-line{stroke:grey}#mermaid-svg-ixlMGGnnd3rptsrw .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-ixlMGGnnd3rptsrw .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-ixlMGGnnd3rptsrw #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-ixlMGGnnd3rptsrw .sequenceNumber{fill:#fff}#mermaid-svg-ixlMGGnnd3rptsrw #sequencenumber{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw #crosshead path{fill:#333;stroke:#333}#mermaid-svg-ixlMGGnnd3rptsrw .messageText{fill:#333;stroke:#333}#mermaid-svg-ixlMGGnnd3rptsrw .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-ixlMGGnnd3rptsrw .labelText,#mermaid-svg-ixlMGGnnd3rptsrw .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-ixlMGGnnd3rptsrw .loopText,#mermaid-svg-ixlMGGnnd3rptsrw .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-ixlMGGnnd3rptsrw .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-ixlMGGnnd3rptsrw .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-ixlMGGnnd3rptsrw .noteText,#mermaid-svg-ixlMGGnnd3rptsrw .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-ixlMGGnnd3rptsrw .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-ixlMGGnnd3rptsrw .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-ixlMGGnnd3rptsrw .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-ixlMGGnnd3rptsrw .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .section{stroke:none;opacity:0.2}#mermaid-svg-ixlMGGnnd3rptsrw .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-ixlMGGnnd3rptsrw .section2{fill:#fff400}#mermaid-svg-ixlMGGnnd3rptsrw .section1,#mermaid-svg-ixlMGGnnd3rptsrw .section3{fill:#fff;opacity:0.2}#mermaid-svg-ixlMGGnnd3rptsrw .sectionTitle0{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .sectionTitle1{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .sectionTitle2{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .sectionTitle3{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-ixlMGGnnd3rptsrw .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .grid path{stroke-width:0}#mermaid-svg-ixlMGGnnd3rptsrw .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-ixlMGGnnd3rptsrw .task{stroke-width:2}#mermaid-svg-ixlMGGnnd3rptsrw .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .taskText:not([font-size]){font-size:11px}#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-ixlMGGnnd3rptsrw .task.clickable{cursor:pointer}#mermaid-svg-ixlMGGnnd3rptsrw .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-ixlMGGnnd3rptsrw .taskText0,#mermaid-svg-ixlMGGnnd3rptsrw .taskText1,#mermaid-svg-ixlMGGnnd3rptsrw .taskText2,#mermaid-svg-ixlMGGnnd3rptsrw .taskText3{fill:#fff}#mermaid-svg-ixlMGGnnd3rptsrw .task0,#mermaid-svg-ixlMGGnnd3rptsrw .task1,#mermaid-svg-ixlMGGnnd3rptsrw .task2,#mermaid-svg-ixlMGGnnd3rptsrw .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutside0,#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutside2{fill:#000}#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutside1,#mermaid-svg-ixlMGGnnd3rptsrw .taskTextOutside3{fill:#000}#mermaid-svg-ixlMGGnnd3rptsrw .active0,#mermaid-svg-ixlMGGnnd3rptsrw .active1,#mermaid-svg-ixlMGGnnd3rptsrw .active2,#mermaid-svg-ixlMGGnnd3rptsrw .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-ixlMGGnnd3rptsrw .activeText0,#mermaid-svg-ixlMGGnnd3rptsrw .activeText1,#mermaid-svg-ixlMGGnnd3rptsrw .activeText2,#mermaid-svg-ixlMGGnnd3rptsrw .activeText3{fill:#000 !important}#mermaid-svg-ixlMGGnnd3rptsrw .done0,#mermaid-svg-ixlMGGnnd3rptsrw .done1,#mermaid-svg-ixlMGGnnd3rptsrw .done2,#mermaid-svg-ixlMGGnnd3rptsrw .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-ixlMGGnnd3rptsrw .doneText0,#mermaid-svg-ixlMGGnnd3rptsrw .doneText1,#mermaid-svg-ixlMGGnnd3rptsrw .doneText2,#mermaid-svg-ixlMGGnnd3rptsrw .doneText3{fill:#000 !important}#mermaid-svg-ixlMGGnnd3rptsrw .crit0,#mermaid-svg-ixlMGGnnd3rptsrw .crit1,#mermaid-svg-ixlMGGnnd3rptsrw .crit2,#mermaid-svg-ixlMGGnnd3rptsrw .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-ixlMGGnnd3rptsrw .activeCrit0,#mermaid-svg-ixlMGGnnd3rptsrw .activeCrit1,#mermaid-svg-ixlMGGnnd3rptsrw .activeCrit2,#mermaid-svg-ixlMGGnnd3rptsrw .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-ixlMGGnnd3rptsrw .doneCrit0,#mermaid-svg-ixlMGGnnd3rptsrw .doneCrit1,#mermaid-svg-ixlMGGnnd3rptsrw .doneCrit2,#mermaid-svg-ixlMGGnnd3rptsrw .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-ixlMGGnnd3rptsrw .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-ixlMGGnnd3rptsrw .milestoneText{font-style:italic}#mermaid-svg-ixlMGGnnd3rptsrw .doneCritText0,#mermaid-svg-ixlMGGnnd3rptsrw .doneCritText1,#mermaid-svg-ixlMGGnnd3rptsrw .doneCritText2,#mermaid-svg-ixlMGGnnd3rptsrw .doneCritText3{fill:#000 !important}#mermaid-svg-ixlMGGnnd3rptsrw .activeCritText0,#mermaid-svg-ixlMGGnnd3rptsrw .activeCritText1,#mermaid-svg-ixlMGGnnd3rptsrw .activeCritText2,#mermaid-svg-ixlMGGnnd3rptsrw .activeCritText3{fill:#000 !important}#mermaid-svg-ixlMGGnnd3rptsrw .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-ixlMGGnnd3rptsrw g.classGroup text .title{font-weight:bolder}#mermaid-svg-ixlMGGnnd3rptsrw g.clickable{cursor:pointer}#mermaid-svg-ixlMGGnnd3rptsrw g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-ixlMGGnnd3rptsrw g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-ixlMGGnnd3rptsrw .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-ixlMGGnnd3rptsrw .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-ixlMGGnnd3rptsrw .dashed-line{stroke-dasharray:3}#mermaid-svg-ixlMGGnnd3rptsrw #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw .commit-id,#mermaid-svg-ixlMGGnnd3rptsrw .commit-msg,#mermaid-svg-ixlMGGnnd3rptsrw .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-ixlMGGnnd3rptsrw g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-ixlMGGnnd3rptsrw g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-ixlMGGnnd3rptsrw g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-ixlMGGnnd3rptsrw .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-ixlMGGnnd3rptsrw .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-ixlMGGnnd3rptsrw .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-ixlMGGnnd3rptsrw .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-ixlMGGnnd3rptsrw .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-ixlMGGnnd3rptsrw .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-ixlMGGnnd3rptsrw .edgeLabel text{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-ixlMGGnnd3rptsrw .node circle.state-start{fill:black;stroke:black}#mermaid-svg-ixlMGGnnd3rptsrw .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-ixlMGGnnd3rptsrw #statediagram-barbEnd{fill:#9370db}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-state .divider{stroke:#9370db}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-ixlMGGnnd3rptsrw .note-edge{stroke-dasharray:5}#mermaid-svg-ixlMGGnnd3rptsrw .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-ixlMGGnnd3rptsrw .error-icon{fill:#522}#mermaid-svg-ixlMGGnnd3rptsrw .error-text{fill:#522;stroke:#522}#mermaid-svg-ixlMGGnnd3rptsrw .edge-thickness-normal{stroke-width:2px}#mermaid-svg-ixlMGGnnd3rptsrw .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-ixlMGGnnd3rptsrw .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-ixlMGGnnd3rptsrw .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-ixlMGGnnd3rptsrw .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-ixlMGGnnd3rptsrw .marker{fill:#333}#mermaid-svg-ixlMGGnnd3rptsrw .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;} #mermaid-svg-ixlMGGnnd3rptsrw {color: rgba(0, 0, 0, 0.75);font: ;} clients 业务 1 服务 b 服务 a 线程池容量:100 注册服务,启动服务 接口调用 1 正常响应 2 服务故障 访问业务1 服务b 3 业务1线程1 接口调用 4 接口调用失败 访问业务1 服务b 5 业务1线程2 接口调用 6 ... 访问业务1 服务b 7 业务1线程100 接口调用 8 线程占满,业务不可用 访问业务1 服务a 9 服务访问失败 clients 业务 1 服务 b 服务 a

图 2-4 服务雪崩 例

而从用户的角度上来看,显然每个用户更希望请求的相关业务能够得到尽可能快的响应,并且自己的需求可以得到满足即可,而不是因为一些额外的服务导致自己需要办理的核心业务反而一直处于未响应的状态,这显然是不合理的。所以这个时候,对于这个故障服务来说,更加有效的做法是直接告诉后续到来的请求,目前当前服务不可用,直接向客户端返回一个包含对应信息的结果,这样,客户端就可以继续正常完成业务的后续操作,保证了核心业务正常运行。

这就是 “熔断” 机制,即当,当前服务出现问题的时候,线程只需要直接对后续的请求直接返回相应的信息即可,而不是持续等待故障服务恢复导致线程阻塞最终线程池中所有线程被用满:

#mermaid-svg-3i6WgB68mMrxidf1 .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-3i6WgB68mMrxidf1 .label text{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .node rect,#mermaid-svg-3i6WgB68mMrxidf1 .node circle,#mermaid-svg-3i6WgB68mMrxidf1 .node ellipse,#mermaid-svg-3i6WgB68mMrxidf1 .node polygon,#mermaid-svg-3i6WgB68mMrxidf1 .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-3i6WgB68mMrxidf1 .node .label{text-align:center;fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .node.clickable{cursor:pointer}#mermaid-svg-3i6WgB68mMrxidf1 .arrowheadPath{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-3i6WgB68mMrxidf1 .flowchart-link{stroke:#333;fill:none}#mermaid-svg-3i6WgB68mMrxidf1 .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-3i6WgB68mMrxidf1 .edgeLabel rect{opacity:0.9}#mermaid-svg-3i6WgB68mMrxidf1 .edgeLabel span{color:#333}#mermaid-svg-3i6WgB68mMrxidf1 .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-3i6WgB68mMrxidf1 .cluster text{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-3i6WgB68mMrxidf1 .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-3i6WgB68mMrxidf1 text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-3i6WgB68mMrxidf1 .actor-line{stroke:grey}#mermaid-svg-3i6WgB68mMrxidf1 .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-3i6WgB68mMrxidf1 .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-3i6WgB68mMrxidf1 #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-3i6WgB68mMrxidf1 .sequenceNumber{fill:#fff}#mermaid-svg-3i6WgB68mMrxidf1 #sequencenumber{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 #crosshead path{fill:#333;stroke:#333}#mermaid-svg-3i6WgB68mMrxidf1 .messageText{fill:#333;stroke:#333}#mermaid-svg-3i6WgB68mMrxidf1 .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-3i6WgB68mMrxidf1 .labelText,#mermaid-svg-3i6WgB68mMrxidf1 .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-3i6WgB68mMrxidf1 .loopText,#mermaid-svg-3i6WgB68mMrxidf1 .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-3i6WgB68mMrxidf1 .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-3i6WgB68mMrxidf1 .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-3i6WgB68mMrxidf1 .noteText,#mermaid-svg-3i6WgB68mMrxidf1 .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-3i6WgB68mMrxidf1 .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-3i6WgB68mMrxidf1 .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-3i6WgB68mMrxidf1 .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-3i6WgB68mMrxidf1 .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .section{stroke:none;opacity:0.2}#mermaid-svg-3i6WgB68mMrxidf1 .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-3i6WgB68mMrxidf1 .section2{fill:#fff400}#mermaid-svg-3i6WgB68mMrxidf1 .section1,#mermaid-svg-3i6WgB68mMrxidf1 .section3{fill:#fff;opacity:0.2}#mermaid-svg-3i6WgB68mMrxidf1 .sectionTitle0{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .sectionTitle1{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .sectionTitle2{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .sectionTitle3{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-3i6WgB68mMrxidf1 .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .grid path{stroke-width:0}#mermaid-svg-3i6WgB68mMrxidf1 .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-3i6WgB68mMrxidf1 .task{stroke-width:2}#mermaid-svg-3i6WgB68mMrxidf1 .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .taskText:not([font-size]){font-size:11px}#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-3i6WgB68mMrxidf1 .task.clickable{cursor:pointer}#mermaid-svg-3i6WgB68mMrxidf1 .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-3i6WgB68mMrxidf1 .taskText0,#mermaid-svg-3i6WgB68mMrxidf1 .taskText1,#mermaid-svg-3i6WgB68mMrxidf1 .taskText2,#mermaid-svg-3i6WgB68mMrxidf1 .taskText3{fill:#fff}#mermaid-svg-3i6WgB68mMrxidf1 .task0,#mermaid-svg-3i6WgB68mMrxidf1 .task1,#mermaid-svg-3i6WgB68mMrxidf1 .task2,#mermaid-svg-3i6WgB68mMrxidf1 .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutside0,#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutside2{fill:#000}#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutside1,#mermaid-svg-3i6WgB68mMrxidf1 .taskTextOutside3{fill:#000}#mermaid-svg-3i6WgB68mMrxidf1 .active0,#mermaid-svg-3i6WgB68mMrxidf1 .active1,#mermaid-svg-3i6WgB68mMrxidf1 .active2,#mermaid-svg-3i6WgB68mMrxidf1 .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-3i6WgB68mMrxidf1 .activeText0,#mermaid-svg-3i6WgB68mMrxidf1 .activeText1,#mermaid-svg-3i6WgB68mMrxidf1 .activeText2,#mermaid-svg-3i6WgB68mMrxidf1 .activeText3{fill:#000 !important}#mermaid-svg-3i6WgB68mMrxidf1 .done0,#mermaid-svg-3i6WgB68mMrxidf1 .done1,#mermaid-svg-3i6WgB68mMrxidf1 .done2,#mermaid-svg-3i6WgB68mMrxidf1 .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-3i6WgB68mMrxidf1 .doneText0,#mermaid-svg-3i6WgB68mMrxidf1 .doneText1,#mermaid-svg-3i6WgB68mMrxidf1 .doneText2,#mermaid-svg-3i6WgB68mMrxidf1 .doneText3{fill:#000 !important}#mermaid-svg-3i6WgB68mMrxidf1 .crit0,#mermaid-svg-3i6WgB68mMrxidf1 .crit1,#mermaid-svg-3i6WgB68mMrxidf1 .crit2,#mermaid-svg-3i6WgB68mMrxidf1 .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-3i6WgB68mMrxidf1 .activeCrit0,#mermaid-svg-3i6WgB68mMrxidf1 .activeCrit1,#mermaid-svg-3i6WgB68mMrxidf1 .activeCrit2,#mermaid-svg-3i6WgB68mMrxidf1 .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-3i6WgB68mMrxidf1 .doneCrit0,#mermaid-svg-3i6WgB68mMrxidf1 .doneCrit1,#mermaid-svg-3i6WgB68mMrxidf1 .doneCrit2,#mermaid-svg-3i6WgB68mMrxidf1 .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-3i6WgB68mMrxidf1 .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-3i6WgB68mMrxidf1 .milestoneText{font-style:italic}#mermaid-svg-3i6WgB68mMrxidf1 .doneCritText0,#mermaid-svg-3i6WgB68mMrxidf1 .doneCritText1,#mermaid-svg-3i6WgB68mMrxidf1 .doneCritText2,#mermaid-svg-3i6WgB68mMrxidf1 .doneCritText3{fill:#000 !important}#mermaid-svg-3i6WgB68mMrxidf1 .activeCritText0,#mermaid-svg-3i6WgB68mMrxidf1 .activeCritText1,#mermaid-svg-3i6WgB68mMrxidf1 .activeCritText2,#mermaid-svg-3i6WgB68mMrxidf1 .activeCritText3{fill:#000 !important}#mermaid-svg-3i6WgB68mMrxidf1 .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-3i6WgB68mMrxidf1 g.classGroup text .title{font-weight:bolder}#mermaid-svg-3i6WgB68mMrxidf1 g.clickable{cursor:pointer}#mermaid-svg-3i6WgB68mMrxidf1 g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-3i6WgB68mMrxidf1 g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-3i6WgB68mMrxidf1 .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-3i6WgB68mMrxidf1 .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-3i6WgB68mMrxidf1 .dashed-line{stroke-dasharray:3}#mermaid-svg-3i6WgB68mMrxidf1 #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 .commit-id,#mermaid-svg-3i6WgB68mMrxidf1 .commit-msg,#mermaid-svg-3i6WgB68mMrxidf1 .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-3i6WgB68mMrxidf1 g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-3i6WgB68mMrxidf1 g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-3i6WgB68mMrxidf1 g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-3i6WgB68mMrxidf1 .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-3i6WgB68mMrxidf1 .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-3i6WgB68mMrxidf1 .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-3i6WgB68mMrxidf1 .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-3i6WgB68mMrxidf1 .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-3i6WgB68mMrxidf1 .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-3i6WgB68mMrxidf1 .edgeLabel text{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-3i6WgB68mMrxidf1 .node circle.state-start{fill:black;stroke:black}#mermaid-svg-3i6WgB68mMrxidf1 .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-3i6WgB68mMrxidf1 #statediagram-barbEnd{fill:#9370db}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-state .divider{stroke:#9370db}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-3i6WgB68mMrxidf1 .note-edge{stroke-dasharray:5}#mermaid-svg-3i6WgB68mMrxidf1 .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-3i6WgB68mMrxidf1 .error-icon{fill:#522}#mermaid-svg-3i6WgB68mMrxidf1 .error-text{fill:#522;stroke:#522}#mermaid-svg-3i6WgB68mMrxidf1 .edge-thickness-normal{stroke-width:2px}#mermaid-svg-3i6WgB68mMrxidf1 .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-3i6WgB68mMrxidf1 .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-3i6WgB68mMrxidf1 .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-3i6WgB68mMrxidf1 .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-3i6WgB68mMrxidf1 .marker{fill:#333}#mermaid-svg-3i6WgB68mMrxidf1 .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;} #mermaid-svg-3i6WgB68mMrxidf1 {color: rgba(0, 0, 0, 0.75);font: ;} clients 业务 熔断器 Hystric 服务 b 线程池 线程池容量:100 注册服务,启动服务 接口调用 1 正常响应 2 服务故障 访问业务1 服务b 3 业务线程1 接口调用 4 接口调用失败 调用失败记录 5 启用熔断器 访问业务1 服务b 6 业务线程2 接口调用 7 直接向前端返回结果 8 业务正常操作 clients 业务 熔断器 Hystric 服务 b 线程池

图 2-5 熔断

但是这样依然存在另外的一个问题,虽然前端的业务通过熔断避开了故障接口,顺利的完成了操作,但是微服务的故障问题还是没有得到有效的解决,这显然不是一个完备的解决方法,因为微服务所作的操作以及相关的结果无法得到有效的保存,即使在微服务的故障得到顺利修复之后,也无法对故障期间跳过的请求的相应操作和结果进行有效的恢复。这时就需要用到 服务降级,此时服务依然处于不可用的状态,但是线程将会临时对客户端的操作进行记录,缓存相应的结果,并对客户端进行正常响应,直到微服务的故障得到有效修复,服务重新启动之后,再根据服务降级期间的记录进行数据恢复,这样,服务就依然可以在故障期间保证数据和操作的同步,可以从而使得服务在熔断期间保证前端业务正常运转的同时,故障服务的基本功能也可以得到有效保障。

#mermaid-svg-w5ej9suQN8GJt7F9 .label{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);fill:#333;color:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .label text{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .node rect,#mermaid-svg-w5ej9suQN8GJt7F9 .node circle,#mermaid-svg-w5ej9suQN8GJt7F9 .node ellipse,#mermaid-svg-w5ej9suQN8GJt7F9 .node polygon,#mermaid-svg-w5ej9suQN8GJt7F9 .node path{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-w5ej9suQN8GJt7F9 .node .label{text-align:center;fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .node.clickable{cursor:pointer}#mermaid-svg-w5ej9suQN8GJt7F9 .arrowheadPath{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .edgePath .path{stroke:#333;stroke-width:1.5px}#mermaid-svg-w5ej9suQN8GJt7F9 .flowchart-link{stroke:#333;fill:none}#mermaid-svg-w5ej9suQN8GJt7F9 .edgeLabel{background-color:#e8e8e8;text-align:center}#mermaid-svg-w5ej9suQN8GJt7F9 .edgeLabel rect{opacity:0.9}#mermaid-svg-w5ej9suQN8GJt7F9 .edgeLabel span{color:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .cluster rect{fill:#ffffde;stroke:#aa3;stroke-width:1px}#mermaid-svg-w5ej9suQN8GJt7F9 .cluster text{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:12px;background:#ffffde;border:1px solid #aa3;border-radius:2px;pointer-events:none;z-index:100}#mermaid-svg-w5ej9suQN8GJt7F9 .actor{stroke:#ccf;fill:#ECECFF}#mermaid-svg-w5ej9suQN8GJt7F9 text.actor>tspan{fill:#000;stroke:none}#mermaid-svg-w5ej9suQN8GJt7F9 .actor-line{stroke:grey}#mermaid-svg-w5ej9suQN8GJt7F9 .messageLine0{stroke-width:1.5;stroke-dasharray:none;stroke:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .messageLine1{stroke-width:1.5;stroke-dasharray:2, 2;stroke:#333}#mermaid-svg-w5ej9suQN8GJt7F9 #arrowhead path{fill:#333;stroke:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .sequenceNumber{fill:#fff}#mermaid-svg-w5ej9suQN8GJt7F9 #sequencenumber{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 #crosshead path{fill:#333;stroke:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .messageText{fill:#333;stroke:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .labelBox{stroke:#ccf;fill:#ECECFF}#mermaid-svg-w5ej9suQN8GJt7F9 .labelText,#mermaid-svg-w5ej9suQN8GJt7F9 .labelText>tspan{fill:#000;stroke:none}#mermaid-svg-w5ej9suQN8GJt7F9 .loopText,#mermaid-svg-w5ej9suQN8GJt7F9 .loopText>tspan{fill:#000;stroke:none}#mermaid-svg-w5ej9suQN8GJt7F9 .loopLine{stroke-width:2px;stroke-dasharray:2, 2;stroke:#ccf;fill:#ccf}#mermaid-svg-w5ej9suQN8GJt7F9 .note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-w5ej9suQN8GJt7F9 .noteText,#mermaid-svg-w5ej9suQN8GJt7F9 .noteText>tspan{fill:#000;stroke:none}#mermaid-svg-w5ej9suQN8GJt7F9 .activation0{fill:#f4f4f4;stroke:#666}#mermaid-svg-w5ej9suQN8GJt7F9 .activation1{fill:#f4f4f4;stroke:#666}#mermaid-svg-w5ej9suQN8GJt7F9 .activation2{fill:#f4f4f4;stroke:#666}#mermaid-svg-w5ej9suQN8GJt7F9 .mermaid-main-font{font-family:"trebuchet ms", verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .section{stroke:none;opacity:0.2}#mermaid-svg-w5ej9suQN8GJt7F9 .section0{fill:rgba(102,102,255,0.49)}#mermaid-svg-w5ej9suQN8GJt7F9 .section2{fill:#fff400}#mermaid-svg-w5ej9suQN8GJt7F9 .section1,#mermaid-svg-w5ej9suQN8GJt7F9 .section3{fill:#fff;opacity:0.2}#mermaid-svg-w5ej9suQN8GJt7F9 .sectionTitle0{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .sectionTitle1{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .sectionTitle2{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .sectionTitle3{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .sectionTitle{text-anchor:start;font-size:11px;text-height:14px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .grid .tick{stroke:#d3d3d3;opacity:0.8;shape-rendering:crispEdges}#mermaid-svg-w5ej9suQN8GJt7F9 .grid .tick text{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .grid path{stroke-width:0}#mermaid-svg-w5ej9suQN8GJt7F9 .today{fill:none;stroke:red;stroke-width:2px}#mermaid-svg-w5ej9suQN8GJt7F9 .task{stroke-width:2}#mermaid-svg-w5ej9suQN8GJt7F9 .taskText{text-anchor:middle;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .taskText:not([font-size]){font-size:11px}#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutsideRight{fill:#000;text-anchor:start;font-size:11px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutsideLeft{fill:#000;text-anchor:end;font-size:11px}#mermaid-svg-w5ej9suQN8GJt7F9 .task.clickable{cursor:pointer}#mermaid-svg-w5ej9suQN8GJt7F9 .taskText.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutsideLeft.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutsideRight.clickable{cursor:pointer;fill:#003163 !important;font-weight:bold}#mermaid-svg-w5ej9suQN8GJt7F9 .taskText0,#mermaid-svg-w5ej9suQN8GJt7F9 .taskText1,#mermaid-svg-w5ej9suQN8GJt7F9 .taskText2,#mermaid-svg-w5ej9suQN8GJt7F9 .taskText3{fill:#fff}#mermaid-svg-w5ej9suQN8GJt7F9 .task0,#mermaid-svg-w5ej9suQN8GJt7F9 .task1,#mermaid-svg-w5ej9suQN8GJt7F9 .task2,#mermaid-svg-w5ej9suQN8GJt7F9 .task3{fill:#8a90dd;stroke:#534fbc}#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutside0,#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutside2{fill:#000}#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutside1,#mermaid-svg-w5ej9suQN8GJt7F9 .taskTextOutside3{fill:#000}#mermaid-svg-w5ej9suQN8GJt7F9 .active0,#mermaid-svg-w5ej9suQN8GJt7F9 .active1,#mermaid-svg-w5ej9suQN8GJt7F9 .active2,#mermaid-svg-w5ej9suQN8GJt7F9 .active3{fill:#bfc7ff;stroke:#534fbc}#mermaid-svg-w5ej9suQN8GJt7F9 .activeText0,#mermaid-svg-w5ej9suQN8GJt7F9 .activeText1,#mermaid-svg-w5ej9suQN8GJt7F9 .activeText2,#mermaid-svg-w5ej9suQN8GJt7F9 .activeText3{fill:#000 !important}#mermaid-svg-w5ej9suQN8GJt7F9 .done0,#mermaid-svg-w5ej9suQN8GJt7F9 .done1,#mermaid-svg-w5ej9suQN8GJt7F9 .done2,#mermaid-svg-w5ej9suQN8GJt7F9 .done3{stroke:grey;fill:#d3d3d3;stroke-width:2}#mermaid-svg-w5ej9suQN8GJt7F9 .doneText0,#mermaid-svg-w5ej9suQN8GJt7F9 .doneText1,#mermaid-svg-w5ej9suQN8GJt7F9 .doneText2,#mermaid-svg-w5ej9suQN8GJt7F9 .doneText3{fill:#000 !important}#mermaid-svg-w5ej9suQN8GJt7F9 .crit0,#mermaid-svg-w5ej9suQN8GJt7F9 .crit1,#mermaid-svg-w5ej9suQN8GJt7F9 .crit2,#mermaid-svg-w5ej9suQN8GJt7F9 .crit3{stroke:#f88;fill:red;stroke-width:2}#mermaid-svg-w5ej9suQN8GJt7F9 .activeCrit0,#mermaid-svg-w5ej9suQN8GJt7F9 .activeCrit1,#mermaid-svg-w5ej9suQN8GJt7F9 .activeCrit2,#mermaid-svg-w5ej9suQN8GJt7F9 .activeCrit3{stroke:#f88;fill:#bfc7ff;stroke-width:2}#mermaid-svg-w5ej9suQN8GJt7F9 .doneCrit0,#mermaid-svg-w5ej9suQN8GJt7F9 .doneCrit1,#mermaid-svg-w5ej9suQN8GJt7F9 .doneCrit2,#mermaid-svg-w5ej9suQN8GJt7F9 .doneCrit3{stroke:#f88;fill:#d3d3d3;stroke-width:2;cursor:pointer;shape-rendering:crispEdges}#mermaid-svg-w5ej9suQN8GJt7F9 .milestone{transform:rotate(45deg) scale(0.8, 0.8)}#mermaid-svg-w5ej9suQN8GJt7F9 .milestoneText{font-style:italic}#mermaid-svg-w5ej9suQN8GJt7F9 .doneCritText0,#mermaid-svg-w5ej9suQN8GJt7F9 .doneCritText1,#mermaid-svg-w5ej9suQN8GJt7F9 .doneCritText2,#mermaid-svg-w5ej9suQN8GJt7F9 .doneCritText3{fill:#000 !important}#mermaid-svg-w5ej9suQN8GJt7F9 .activeCritText0,#mermaid-svg-w5ej9suQN8GJt7F9 .activeCritText1,#mermaid-svg-w5ej9suQN8GJt7F9 .activeCritText2,#mermaid-svg-w5ej9suQN8GJt7F9 .activeCritText3{fill:#000 !important}#mermaid-svg-w5ej9suQN8GJt7F9 .titleText{text-anchor:middle;font-size:18px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 g.classGroup text{fill:#9370db;stroke:none;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family);font-size:10px}#mermaid-svg-w5ej9suQN8GJt7F9 g.classGroup text .title{font-weight:bolder}#mermaid-svg-w5ej9suQN8GJt7F9 g.clickable{cursor:pointer}#mermaid-svg-w5ej9suQN8GJt7F9 g.classGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-w5ej9suQN8GJt7F9 g.classGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 .classLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.5}#mermaid-svg-w5ej9suQN8GJt7F9 .classLabel .label{fill:#9370db;font-size:10px}#mermaid-svg-w5ej9suQN8GJt7F9 .relation{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-w5ej9suQN8GJt7F9 .dashed-line{stroke-dasharray:3}#mermaid-svg-w5ej9suQN8GJt7F9 #compositionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #compositionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #aggregationStart{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #aggregationEnd{fill:#ECECFF;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #dependencyStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #dependencyEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #extensionStart{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 #extensionEnd{fill:#9370db;stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 .commit-id,#mermaid-svg-w5ej9suQN8GJt7F9 .commit-msg,#mermaid-svg-w5ej9suQN8GJt7F9 .branch-label{fill:lightgrey;color:lightgrey;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .pieTitleText{text-anchor:middle;font-size:25px;fill:#000;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .slice{font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 g.stateGroup text{fill:#9370db;stroke:none;font-size:10px;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 g.stateGroup text{fill:#9370db;fill:#333;stroke:none;font-size:10px}#mermaid-svg-w5ej9suQN8GJt7F9 g.statediagram-cluster .cluster-label text{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 g.stateGroup .state-title{font-weight:bolder;fill:#000}#mermaid-svg-w5ej9suQN8GJt7F9 g.stateGroup rect{fill:#ECECFF;stroke:#9370db}#mermaid-svg-w5ej9suQN8GJt7F9 g.stateGroup line{stroke:#9370db;stroke-width:1}#mermaid-svg-w5ej9suQN8GJt7F9 .transition{stroke:#9370db;stroke-width:1;fill:none}#mermaid-svg-w5ej9suQN8GJt7F9 .stateGroup .composit{fill:white;border-bottom:1px}#mermaid-svg-w5ej9suQN8GJt7F9 .stateGroup .alt-composit{fill:#e0e0e0;border-bottom:1px}#mermaid-svg-w5ej9suQN8GJt7F9 .state-note{stroke:#aa3;fill:#fff5ad}#mermaid-svg-w5ej9suQN8GJt7F9 .state-note text{fill:black;stroke:none;font-size:10px}#mermaid-svg-w5ej9suQN8GJt7F9 .stateLabel .box{stroke:none;stroke-width:0;fill:#ECECFF;opacity:0.7}#mermaid-svg-w5ej9suQN8GJt7F9 .edgeLabel text{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .stateLabel text{fill:#000;font-size:10px;font-weight:bold;font-family:'trebuchet ms', verdana, arial;font-family:var(--mermaid-font-family)}#mermaid-svg-w5ej9suQN8GJt7F9 .node circle.state-start{fill:black;stroke:black}#mermaid-svg-w5ej9suQN8GJt7F9 .node circle.state-end{fill:black;stroke:white;stroke-width:1.5}#mermaid-svg-w5ej9suQN8GJt7F9 #statediagram-barbEnd{fill:#9370db}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-cluster rect{fill:#ECECFF;stroke:#9370db;stroke-width:1px}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-cluster rect.outer{rx:5px;ry:5px}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-state .divider{stroke:#9370db}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-state .title-state{rx:5px;ry:5px}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-cluster.statediagram-cluster .inner{fill:white}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-cluster.statediagram-cluster-alt .inner{fill:#e0e0e0}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-cluster .inner{rx:0;ry:0}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-state rect.basic{rx:5px;ry:5px}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-state rect.divider{stroke-dasharray:10,10;fill:#efefef}#mermaid-svg-w5ej9suQN8GJt7F9 .note-edge{stroke-dasharray:5}#mermaid-svg-w5ej9suQN8GJt7F9 .statediagram-note rect{fill:#fff5ad;stroke:#aa3;stroke-width:1px;rx:0;ry:0}:root{--mermaid-font-family: '"trebuchet ms", verdana, arial';--mermaid-font-family: "Comic Sans MS", "Comic Sans", cursive}#mermaid-svg-w5ej9suQN8GJt7F9 .error-icon{fill:#522}#mermaid-svg-w5ej9suQN8GJt7F9 .error-text{fill:#522;stroke:#522}#mermaid-svg-w5ej9suQN8GJt7F9 .edge-thickness-normal{stroke-width:2px}#mermaid-svg-w5ej9suQN8GJt7F9 .edge-thickness-thick{stroke-width:3.5px}#mermaid-svg-w5ej9suQN8GJt7F9 .edge-pattern-solid{stroke-dasharray:0}#mermaid-svg-w5ej9suQN8GJt7F9 .edge-pattern-dashed{stroke-dasharray:3}#mermaid-svg-w5ej9suQN8GJt7F9 .edge-pattern-dotted{stroke-dasharray:2}#mermaid-svg-w5ej9suQN8GJt7F9 .marker{fill:#333}#mermaid-svg-w5ej9suQN8GJt7F9 .marker.cross{stroke:#333}:root { --mermaid-font-family: "trebuchet ms", verdana, arial;} #mermaid-svg-w5ej9suQN8GJt7F9 {color: rgba(0, 0, 0, 0.75);font: ;} clients 业务 熔断器 降级策略 故障启用 启用降级策略 1 访问业务1 服务b 2 业务线程2 接口调用 3 调用 4 操作记录,写入数据 5 返回结果 6 业务正常操作 clients 业务 熔断器 降级策略

图 2-6 降级

这就是 Hystrix 的核心机制,Hystrix 通过一个 Hystrix 线程池对每个业务线程进行管理,每个服务请求的线程只能和该特定服务进行通信,当外部对于某个微服务的请求的失败率达到某个阈值的时候, Hystrix 将会开启对应的熔断器,并启用特定的降级方法进行服务降级,从而既保证了前端业务的正常运转,又保证了微服务的数据和操作同步。

Ribbon 常用的负载均衡策略如下:

  • RoundRobbinRule:轮询策略,默认采用的策略,如果经过 10 轮轮询没有找到可用的服务 provider ,则返回空值
  • RamdonRule:随机选择
  • RetryRule:即 RoundRobinRule 的重试策略,在获取 provider 失败之后在指定时间限制内重试,默认为 500 毫秒

Zuul:微服务网关和智能路由

Zuul 在 Netflix 的官网定义就是:Router and Filter,即路由和过滤的功能,这就是 Zuul 的主要功能,也是 API 网关概念的关键技术部分,通过向外界请求提供一个统一的入口,使得请求客户端不需要关注微服务架构中包含的具体服务细节,记录每一个服务对应的地址和接口,而只需要和统一的微服务网关入口进行对接即可。

因此,Zuul 需要做的第一件事情就是,在 Eureka 的服务注册中心中进行注册,通过同样注册成为一项服务,这样 Zuul 就可以通过服务订阅得到所有相关微服务的 IP,端口等接口调用信息,从而进行路由映射实现接口的统一调度。

API 网关和微服务介绍相关推荐

  1. API 网关在微服务中的应用

    目录 一.什么是 API 网关? 二.微服务架构对 API 网关的需求 三.API 网关在微服务架构中的工作 四.API网关的实现--问题和解决方案 可扩展性和性能 反应式编程模型 服务调用 服务发现 ...

  2. c++突破网关屏蔽_通过API网关实现微服务管控-限流,熔断和降级

    今天准备谈下基于API网关来实现微服务治理管控中的服务限流,熔断和降级方面的内容.在前面谈微服务架构的时候也谈到过类似通过Hystrix,Sentinel来是服务限流熔断.包括也不断地在谈去中心化架构 ...

  3. API网关在微服务中的应用(1),膜拜大佬

    生产图: 网关优点 通过上图中API网关做为系统统一入口,实现了对各个微服务间的整合,同时又做到了对客户端友好,屏蔽系统的复杂性和差异性.对比之前无API网关模式,API网关具有几个比较重要的优点: ...

  4. 阿里大佬分享API网关在微服务架构中的应用

    点击上方"方志朋",选择"设为星标" 做积极的人,而不是积极废人 来自:未知的瞬间 案例背景介绍: 在实践微服务架构时,我们经常会面对以下需求:如何隔离外部和内 ...

  5. 阿里大神分享API网关在微服务架构中的应用!

    来自:未知的瞬间公众号 案例背景介绍:解决思路/成功要点:成果: 长按订阅更多精彩▼ 如有收获,点个在看,诚挚感谢

  6. python 微服务 网关_微服务中的 API 网关(API Gateway)

    我们知道在微服务架构风格中,一个大应用被拆分成为了多个小的服务系统提供出来,这些小的系统他们可以自成体系,也就是说这些小系统可以拥有自己的数据库,框架甚至语言等,这些小系统通常以提供 Rest Api ...

  7. 万字长文解析:分布式架构、SOA、微服务架构、API网关、ESB服务总线架构之间的关联及演进

    1架构演进 架构十五年:改变的是形态,不变的是目的 业务驱动架构形态变化 过去十几年,随着互联网发展以及业务的多样化,系统的架构也在不断发生变化,总体上来说大体经历了从单体应用架构-垂直应用架构-分布 ...

  8. 微服务架构-服务网关(Gateway)-服务网关在微服务中的应用

    服务网关在微服务中的应用 我们将目光转向Spring Cloud应用的外围,讨论微服务架构下的各个模块如何对外提供服务. 1.对外服务的难题 微服务架构下的应用系统体系很庞大,光是需要独立部零的基础组 ...

  9. 关于微服务,这些你都了解吗-微服务介绍

    文章目录 一 认识微服务 1.1 什么是微服务 1.2 微服务的特点 1.3 微服务诞生背景 1.4 微服务架构的优势 二 微服务生态 1.1 硬件层 1.2 通信层 1.3 应用平台层 1.4 微服 ...

最新文章

  1. 2018年6月2号(线段树(2))
  2. 财经法规税收征收管理法律制度练习题二
  3. Leaflet中使用Leaflet-MiniMap插件实现小地图效果
  4. python2.0_day19_后台数据库设计思路
  5. 乐播投延迟很高_定投基金有变化
  6. Eclipse打JAR包的使用
  7. php写入word文档内容,如何在PHP中读取和写入WORD文档
  8. SpringBoot2注解配置定时任务和异步执行任务
  9. SQL 怎么创建一个只有查询数据库用户权限呢
  10. mac 编译mysql 源码_Mac上编译MySQL源码与安装
  11. VS Code 创建HTML页面教程
  12. python安装教程
  13. Redis 源码简洁剖析 - SDS 字符串
  14. 用了几个月Macnbsp;OSnbsp;X,发现很多东西…
  15. c语言考试考点,C语言考点精选
  16. 解决VMware的虚拟网络编辑器中没有VMnet0的情况
  17. 如何解决浏览器无法打开网页问题
  18. xcode SVN 上传代码只能用SVN client 或者SVN 命令行
  19. 一文让你搞懂什么是Redis集群
  20. arcgis 界线外 遮盖_ArcGIS制图——不同种类、等级界线叠加只显示优先界线的方法...

热门文章

  1. 500G 史上最全的JAVA全套教学视频网盘
  2. MixIO平台初体验
  3. 数组——洛谷#P1427 小鱼的数字游戏(Python实现)
  4. 文丘里洗涤除尘器理论应用实训教学QY-HJGC04
  5. 以太网UDP数据协议
  6. 概率论 | 联合熵、条件熵、互信息之间的表示、关系及大小
  7. 液晶面板里面有些什么配件_液晶电视的主要部件包括哪些?
  8. ArcPy - 入门学习
  9. 删除字符串某一指定子字符串
  10. 卷积层运算详解与im2col实现