发布稳定性-优雅下线
背景
最近负责的项目已经到达10万 QPS的大关了,这么高的QPS,对系统的稳定性要求也更高了。之前QPS小的时候,系统更新部署很简单,现在不行了,一部署起来,上游应用方就找过来了,说你这应用咋回事,怎么突然抖动厉害了。。。
所以准备写一下关于发布稳定性的经验文章,今天先来说说优雅下线。
为什么需要优雅下线
对于线上应用,特别是高并发的应用来说,在服务更新部署发布过程中保证客户端无感知是开发者必须要解决的问题,即从应用停止到重启恢复服务这个阶段不能影响正常的业务请求。
传统的解决方式是手工摘流量、停止应用、更新重启服务三个步骤,但是人工操作太繁琐且不适用大规模系统。
所以服务需要自动化机制,自动摘流量并确保处理完已经到达的请求,这也就是优雅下线。
适用场景
- JVM主动关闭(
System.exit(int)
) - 应用程序接受
SIGTERM
或SIGINT
信号退出
Dubbo服务优雅下线
Dubbo服务的优雅下线是默认开启的,停机等待时间10秒
# Dubbo优雅下线等待时间,默认10秒,这里配置20秒
dubbo.service.shutdown.wait=20000
服务端和客户端下线步骤如图所示:
实现原理
翻一翻Dubbo的源码查询下线过程
1.在服务启动加载类org.apache.dubbo.config.AbstractConfig
时,就会调用DubboShutdownHook.getDubboShutdownHook().register()
将ShutdownHook钩子注册上去
/*** Register the ShutdownHook*/public void register() {if (!registered.get() && registered.compareAndSet(false, true)) {Runtime.getRuntime().addShutdownHook(getDubboShutdownHook());}}
2.每个ShutdownHook都是一个单独线程,接受到关闭应用kill
信号量时,触发执行DubboShutdownHook
中的run方法,接着执行doDestroy
方法销毁所有注册服务和协议。
@Overridepublic void run() {if (logger.isInfoEnabled()) {logger.info("Run shutdown hook now.");}doDestroy();}/*** Destroy all the resources, including registries and protocols.*/public void doDestroy() {if (!destroyed.compareAndSet(false, true)) {return;}// destroy all the registriesAbstractRegistryFactory.destroyAll();// destroy all the protocolsdestroyProtocols();}
这一步过程:
- 从注册中心销毁所有已发布服务,取消订阅,断开与注册中心的连接
- 执行Protocol的destroy()方法,销毁所有Invoker和Exporter,关闭Server
- 关闭JVM
实际测试
实际测试Dubbo的优雅下线功能,如上面的图,设置Nacos注册中心、Dubbo服务方和消费方,消费方一直调用一个接口,服务方执行System.exit(-1)
方法,查看执行过程,打印日志如下,从日志看,优雅下线是生效的。
企业级优雅下线
上面那种下线方式还是有一定问题的,开源Dubbo可以通过shutdownHook和QoS实现优雅下线,但是有一定的开发工作量,而且对Dubbo有版本要求,还有一些遗留问题,最终影响正常使用。
阿里云MSE有提供无损上下线的功能,当然可能是收费的啊,但是接入简单,适用于大型系统
MSE配置无损下线
总结
这篇文章介绍了无损下线,主要目的是防止应用发布部署过程中产生脏数据问题,下篇文章讲无损上线
发布稳定性-优雅下线相关推荐
- Spring Cloud 优雅下线以及灰度发布
文章目录 前言 优雅下线 常见的下线方式 优雅的下线方式 灰度发布 蓝绿部署 滚动部署 金丝雀部署 前言 在生产环境中,如何保证在服务升级的时候,不影响用户的体验,这个是一个非常重要的问题.如果在我们 ...
- SpringCloud 优雅下线+灰度发布
点击上方"程序猿技术大咖",关注并选择"设为星标" 回复"加群"获取入群讨论资格! 前言 在生产环境中,如何保证在服务升级的时候,不影响用户 ...
- Spring Cloud 优雅下线+灰度发布
前言 在生产环境中,如何保证在服务升级的时候,不影响用户的体验,这个是一个非常重要的问题.如果在我们升级服务的时候,会造成一段时间内的服务不可用,这就是不够优雅的.那什么是优雅的呢?主要就是指在服务升 ...
- Spring Cloud应用的优雅下线与灰度发布
前言 在生产环境中,如何保证在服务升级的时候,不影响用户的体验,这个是一个非常重要的问题.如果在我们升级服务的时候,会造成一段时间内的服务不可用,这就是不够优雅的.那什么是优雅的呢?主要就是指在服务升 ...
- 【305期】Spring Cloud 优雅下线+灰度发布
点击上方"Java精选",选择"设为星标" 别问别人为什么,多问自己凭什么! 下方有惊喜,留言必回,有问必答! 每一天进步一点点,是成功的开始... 文章目录 ...
- SpringCloud 应用在 Kubernetes 上的最佳实践 — 线上发布(优雅上下线)
作者 | 骄龙 导读:本篇是<SpringCloud 应用在 Kubernetes 上的最佳实践>系列文章的第八篇,主要介绍了如何做到流量的无损上/下线.更多相关文章阅读可查看文末. 前言 ...
- Serverless 架构下的服务优雅下线实践
作者 | 行松 阿里巴巴云原生团队 应用发布.服务升级一直是一个让开发和运维同学既兴奋又担心的事情. 兴奋的是有新功能上线,自己的产品可以对用户提供更多的能力和价值:担心的是上线的过程会不会出现意外情 ...
- 服务下线通知_Serverless 架构下的服务优雅下线实践
简介:在应用发布和服务升级时,线上问题出现的可能性更高,本文我们将结合 Serverless 应用引擎(以下简称 SAE)就 Serverless 架构下,讨论如何保障上线过程中服务的优雅下线. 作者 ...
- springcloud实现优雅下线
在生产环境中,如何保证在服务升级的时候,不影响用户的体验,这个是一个非常重要的问题.如果在我们升级服务的时候,会造成一段时间内的服务不可用,这就是不够优雅的.那什么是优雅的呢?主要就是指在服务升级的时 ...
最新文章
- 程序员面试题精选100题(10)-排序数组中和为给定值的两个数字[算法]
- EC2上的ElasticSearch不到60秒
- xshell监听端口_监听端口修改_笨办法学Linux 远程访问 (原理、实践、记录与排错)-视频课程_Linux视频-51CTO学院...
- css清除浮动的几种方法_CSS 分享几种传统布局方法[上]
- Android官方开发文档Training系列课程中文版:高效显示位图之在UI中展示位图
- java界面布局都有什么_java入門教程-10.5Java圖形界面之布局設計
- Spring Security:基于内存的角色授权
- 没事做贴个代码,判断是否素数,顺便打个素数表(非原创)。
- Samba的安装步骤
- Halcon算法矫正镜头畸变
- 交通灯控制系统的设计
- python根据关键词实现信息检索推荐(使用深度学习算法)
- 基于XPDL2.0的过程定义
- 常见出血性疾病的实验诊断题库【1】
- Echarts折线图X轴Y轴图例位置调整
- win10安装GPU版tensorflow
- linux abs函数怎么用,Linux输入子系统详解
- 【Android Studio】小游戏 | 实现两个小动物随手指移动
- Weka软件使用教程(入门级)
- YOLOv3目标检测全过程记录