第12节:Sentinel入门安装+限流规则
1、什么是Sentinel
雪崩问题:
当服务A依赖的服务B出现故障,服务A中的请求一直等待,导致服务A中的连接数变高,最终可能导致服务A也出现问题,然后依赖服务A的服务也出现问题,导致整个微服务集群出现问题。
解决方法:
- 添加超时时间,不会一直等待
- 舱壁模式:限定每个业务使用的线程数,避免某个服务耗尽所有资源。不过会造成资源浪费
- 熔断降级:由断路器统计业务执行的异常比例,如果超出阈值就会熔断该业务,拦截访问该业务的一切请求。
- 流量控制:限制业务访问的QPS,避免服务因为流量的突增而故障。
Sentinel主要实现的就是舱壁模式、熔断降级和限流。
2、技术对比
** ** | Sentinel | Hystrix |
---|---|---|
隔离策略 | 信号量隔离 | 线程池隔离/信号量隔离 |
熔断降级策略 | 基于慢调用比例或异常比例 | 基于失败比率 |
实时指标实现 | 滑动窗口 | 滑动窗口(基于 RxJava) |
规则配置 | 支持多种数据源 | 支持多种数据源 |
扩展性 | 多个扩展点 | 插件的形式 |
基于注解的支持 | 支持 | 支持 |
限流 | 基于 QPS,支持基于调用关系的限流 | 有限的支持 |
流量整形 | 支持慢启动、匀速排队模式 | 不支持 |
系统自适应保护 | 支持 | 不支持 |
控制台 | 开箱即用,可配置规则、查看秒级监控、机器发现等 | 不完善 |
常见框架的适配 | Servlet、Spring Cloud、Dubbo、gRPC 等 | Servlet、Spring Cloud Netflix |
线程池隔离:每个服务都有一个线程池
信号量隔离:一个线程池,统计每个业务使用的线程数量。
3、认识Sentinel
Sentinel是阿里巴巴开源的一款微服务流量控制组件。官网地址:https://sentinelguard.io/zh-cn/index.html
Sentinel 具有以下特征:
- 丰富的应用场景:Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景,例如秒杀(即突发流量控制在系统容量可以承受的范围)、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。
- 完备的实时监控:Sentinel 同时提供实时的监控功能。您可以在控制台中看到接入应用的单台机器秒级数据,甚至 500 台以下规模的集群的汇总运行情况。
- 广泛的开源生态:Sentinel 提供开箱即用的与其它开源框架/库的整合模块,例如与 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。
- 完善的 SPI 扩展点:Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。
4、安装Sentinel
sentinel官方提供了UI控制台,方便我们对系统做限流设置。大家可以在GitHub下载。https://github.com/alibaba/Sentinel/releases
4.1 获取 Sentinel 控制台
您可以从 release 页面 下载最新版本的控制台 jar 包。
您也可以从最新版本的源码自行构建 Sentinel 控制台:
- 下载 控制台 工程
- 使用以下命令将代码打包成一个 fat jar:
mvn clean package
4.2 启动
注意:启动 Sentinel 控制台需要 JDK 版本为 1.8 及以上版本。
使用如下命令启动控制台:
java -Dserver.port=8080 -Dcsp.sentinel.dashboard.server=localhost:8080 -Dproject.name=sentinel-dashboard -jar sentinel-dashboard.jar
其中 -Dserver.port=8080
用于指定 Sentinel 控制台端口为 8080
。
从 Sentinel 1.6.0 起,Sentinel 控制台引入基本的登录功能,默认用户名和密码都是 sentinel
。可以参考 鉴权模块文档 配置用户名和密码。
注:若您的应用为 Spring Boot 或 Spring Cloud 应用,您可以通过 Spring 配置文件来指定配置,详情请参考 Spring Cloud Alibaba Sentinel 文档。
配置项 | 默认值 | 说明 |
---|---|---|
server.port | 8080 | 服务端口 |
sentinel.dashboard.auth.username | sentinel | 默认用户名 |
sentinel.dashboard.auth.password | sentinel | 默认密码 |
5 客户端接入控制台
控制台启动后,客户端需要按照以下步骤接入到控制台。
客户端需要引入 Transport 模块来与 Sentinel 控制台进行通信。您可以通过 pom.xml
引入 JAR 包:
<dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId></dependency>
添加配置:
spring:cloud:sentinel:transport:dashboard: 192.168.0.105:9999
访问微服务的任意端点,触发sentinel监控
6、限流规则
6.1、簇点链路
就是项目内的调用链路,链路中被监控的每个接口就是一个资源。默认情况下sentinel会监控SpringMVC的每一个端点(Endpoint),因此SpringMVC的每一个端点(Endpoint)就是调用链路中的一个资源。
流控、熔断等都是针对簇点链路中的资源来设置的,因此我们可以点击对应资源后面的按钮来设置规则:
击资源/order/{orderId}后面的流控按钮,就可以弹出表单。表单中可以添加流控规则,如下图所示:
来源:default对于所有的请求生效
其含义是限制 /order/{orderId}这个资源的单机QPS为xx,即每秒只允许n次请求,超出的请求会被拦截并报错。
6.2、流控模式
在添加限流规则时,点击高级选项,可以选择三种流控模式:
- 直接:统计当前资源的请求,触发阈值时对当前资源直接限流,也是默认的模式
- 关联:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
- 链路:统计从指定链路访问到本资源的请求,触发阈值时,对指定链路限流
6.3、流控模式-关联
关联模式:统计与当前资源相关的另一个资源,触发阈值时,对当前资源限流
使用场景:比如用户支付时需要修改订单状态,同时用户要查询订单。查询和修改操作会争抢数据库锁,产生竞争。业务需求是优先支付和更新订单的业务,因此当修改订单业务触发阈值时,需要对查询订单业务限流。
1、ordercontroller新增2个资源
@GetMapping("query")public String queryOrder(){return "查询订单成功";}@GetMapping("update")public String updateOrder(){return "update ok";}
2、query请求设置,当关联资源update超过5的时候,给query限流
3、使用Jemeter工具对order/update每秒发起10次调用,然后访问order/query。可以发现请求失败。
6.4、流控模式-链路
只针对从指定链路访问到本资源的请求做统计,判断是否超过阈值。
需求:有查询订单和创建订单业务,两者都需要查询商品。针对从查询订单进入到查询商品的请求统计,并设置限流。
步骤:
- 在OrderService中添加一个queryGoods方法,不用实现业务
- 在OrderController中,改造/order/query端点,调用OrderService中的queryGoods方法
- 在OrderController中添加一个/order/save的端点,调用OrderService的queryGoods方法
- 给queryGoods设置限流规则,从/order/query进入queryGoods的方法限制QPS必须小于2
@GetMapping("query")public String queryOrder(){orderService.queryGoods();log.info("查询订单");return "查询订单成功";}@GetMapping("save")public String saveOrder(){orderService.queryGoods();log.info("新增订单");return "save ok";}//servicepublic void queryGoods(){System.out.println("查询商品");}
Sentinel默认只标记Controller中的方法为资源,如果要标记其它方法,需要利用@SentinelResource注解,示例:
@SentinelResource("goods")public void queryGoods(){System.out.println("查询商品");}
Sentinel默认会将Controller方法做context整合,同一个controller作为同一个链路,导致链路模式的流控失效,需要修改application.yml,添加配置:
spring:cloud:sentinel:transport:dashboard: 192.168.0.105:9999web-context-unify: false #关闭context整合
给goods添加流控,限制query来源的qps为2
6.4、流控效果
流控效果是指请求达到流控阈值时应该采取的措施,包括三种:
- 快速失败:达到阈值后,新的请求会被立即拒绝并抛出FlowException异常。是默认的处理方式。
- warm up:预热模式,对超出阈值的请求同样是拒绝并抛出异常。但这种模式阈值会动态变化,从一个较小值逐渐增加到最大阈值。
- 排队等待:让所有的请求按照先后次序排队执行,两个请求的间隔不能小于指定时长
warm up
warm up也叫预热模式,是应对服务冷启动的一种方案。请求阈值初始值是 threshold / coldFactor,持续指定时长后,逐渐提高到threshold值。而coldFactor的默认值是3.
例如,我设置QPS的threshold为10,预热时间为5秒,那么初始阈值就是 10 / 3 ,也就是3,然后在5秒后逐渐增长到10.
排队等待
当请求超过QPS阈值时,快速失败和warm up 会拒绝新的请求并抛出异常。而排队等待则是让所有请求进入一个队列中,然后按照阈值允许的时间间隔依次执行。后来的请求必须等待前面执行完成,如果请求预期的等待时间超出最大时长,则会被拒绝。
例如:QPS = 5,意味着每200ms处理一个队列中的请求;timeout = 2000,意味着预期等待超过2000ms的请求会被拒绝并抛出异常
6.5、热点参数限流
之前的限流是统计访问某个资源的所有请求,判断是否超过QPS阈值。而热点参数限流是分别统计参数值相同的请求,判断是否超过QPS阈值。
热点参数限流对默认的SpringMVC资源无效
1、设置热点资源
@SentinelResource("hot")@GetMapping("{orderId}")public Order queryOrderByUserId(@PathVariable("orderId") Long orderId,@RequestHeader(value = "X-Request-other", required = false) String other) {log.info("header is:{}", other);// 根据id查询订单并返回return orderService.queryOrderById(orderId);}
2、重启服务后添加配置
第12节:Sentinel入门安装+限流规则相关推荐
- Sentinel控制台设置限流规则
完整目录清单页面(必看) 之前我们通过硬编码方式,设置限流规则,这种方式缺点是不方便修改维护规则,不建议使用: 我们以后用Sentinel控制台里设置规则的方式来操作: 点击流控规则菜单 点击新增流控 ...
- Sentinel限流规则
流量控制 雪崩问题虽然有四种方案,但是限流是避免服务因突发的流量而发生故障,是对微服务雪崩问题的预防.我们先学习这种模式. 簇点链路 当请求进入微服务时,首先会访问DispatcherServlet, ...
- Spring Cloud入门-Sentinel实现服务限流、熔断与降级(Hoxton版本)
文章目录 Spring Cloud入门系列汇总 摘要 Sentinel简介 安装Sentinel控制台 创建sentinel-service模块 限流功能 创建RateLimitController类 ...
- Sentinel 集群限流设计原理
本节目录 1.集群限流使用场景 2.集群限流与单机限流的异同思考 3.探究集群限流实现原理 3.1 ClusterBuilderSlot 详解 3.2 集群限流模式实现原理 3.2.1 Default ...
- Spring Cloud Alibaba基础教程:使用Sentinel实现接口限流
点击蓝色"程序猿DD"关注我哟 加个"星标",不忘签到哦 最近管点闲事浪费了不少时间,感谢网友们的留言提醒. 及时纠正路线,继续跟大家一起学习Spring Cl ...
- 快速体验 Sentinel 集群限流功能,只需简单几步
️ Pic by Alibaba Tech on Facebook 集群限流 可以限制某个资源调用在集群内的总 QPS,并且可以解决单机流量不均导致总的流控效果不佳的问题,是保障服务稳定性的利器. S ...
- Gateway配合sentinel自定义限流_你知道如何使用阿里Sentinel实现接口限流吗?
Nacos作为注册中心和配置中心的基础教程,到这里先告一段落,后续与其他结合的内容等讲到的时候再一起拿出来说,不然内容会有点跳跃.接下来我们就来一起学习一下Spring Cloud Alibaba下的 ...
- Sentinel限流规则使用总结
文章目录 一.Sentinel限流/熔断规则 二.网关限流原理 三.自问自答QA 四.总结 一.Sentinel限流/熔断规则 目前Sentinel支持以下五种限流/熔断规则:基于资源限流(FlowR ...
- Sentinel:服务限流
文章目录 创建工程测试工程 流控 熔断 热点 授权规则 系统规则 @SentinelResource 配置持久化 执行流程 创建工程测试工程 1.导入依赖 <parent><grou ...
最新文章
- teamviewer 可用设备上限_2020推荐香河气压罐专业供水设备
- python的变量和简单的数据类型
- c语言socket原理,Socket底层原理
- Java Review - 并发编程_并发List_CopyOnWriteArrayList源码剖析
- 程序员应当学会“偷懒”
- OpenCV_02 图像的基本操作:图像IO+绘制图形+像素点+属性+图像通道+色彩空间的改变
- Bootstrap 堆叠式导航
- leetcode 476. 数字的补数(Number Complement)
- codeblocks调试问题--单步调试遇到breakpoint不停---不能单步调试--运行按钮是灰色但是没有dos窗口...
- 《程序设计技术》第六章例程
- Parallels Desktop 15 for Mac(pd虚拟机)特别版
- 【夯实基础】Spring在ssh中的作用
- php正弦函数图像,Go语言输出正弦函数(Sin)图像
- CSS 实现文字头像(圆角头像文字内容)
- 从CentOS官网下载系统镜像详细教程
- 打破次元壁球体相互碰撞_打破软件的第四壁
- 数据结构——循环队列
- php接口链接浏览器打开很快php很慢,php不管curl还是file_get_contents请求接口都很慢,但直接在浏览器里访问就很快,这是说明情况?...
- OmniPlan 3 Pro for Mac 3.14.4项目管理工具
- java中大数值_Java大数值转换
热门文章
- 大数据开发是干什么的?
- c#的输入数字自动转为人民币大写的方法
- python语法(判断语法和循环语法)
- Hololens 开发笔记(2)——MRTK
- 科视Christie RGB纯激光投影机点亮日本2025年大阪世界博览会主展馆
- 笔记本电脑java版下载教程_Java面向对象编程笔记本 PDF 下载
- Android实训案例(三)——实现时间轴效果的ListView,加入本地存储,实现恋爱日记的效果!
- ERROR: Conflicting configuration : ‘arm64-v8a‘ in ndk abiFilters cannot be present when split...
- 铁道部12306官网如何体现了互联网思维?
- 分数构造方法java,Java--构造方法