第三方服务挂了,如何保证服务不受影响?
上周有个朋友问我说:
沈老师,我们有很多服务依赖第三方接口,他们的接口不稳定,从而影响我们的服务,有没有什么方法避免?
今天和大家聊一聊这个问题。
首先,可以将第三方接口,收口到一个服务内。
这样,可以避免每个调用方都依赖于第三方服务:
(1)解除调用方与第三方接口的耦合;
(2)当第三方的接口变动时,只有服务需要修改,而不是所有调用方均修改;
此时,接口调用流程是什么样的呢?
如上图1-4所述:
(1)业务调用方调用内部service;
(2)内部service跨公网调用第三方接口;
(3)第三方接口返回结果给内部service;
(4)内部service返回结果给业务调用方;
封装了服务之后,还存在什么潜在的问题呢?
内部服务可能对上游业务提供了很多服务接口,当有一个接口跨公网第三方调用超时时,可能导致所有接口都不可用,即使大部分接口不依赖于跨公网第三方调用。
为什么会出现“一个第三方接口超时,所有接口都不可用”的情况呢?
内部服务对业务方提供的N个接口,会共用服务容器内的工作线程(假设有100个工作线程)。
假设这N个接口的某个接口跨公网依赖于第三方的接口,发生了网络抖动,或者接口超时(不妨设超时时间为5秒)。
潜台词是,这个工作线程会被占用5秒钟,然后超时返回业务调用方。
假设这个请求的吞吐量为20qps,言下之意,很短的时间内,所有的100个工作线程都会被卡在这个第三方超时等待上,而其他N-1个原本没有问题的接口,也得不到工作线程处理。
如何来进行优化呢?
常见的方案有三种:
(1)增大工作线程数(不根本解决问题);
(2)降低超时时间(不根本解决问题);
(3)垂直拆分,N个接口拆分成若干个服务,使得在出问题时,被牵连的接口尽可能少(依旧不根本解决问题,难道一个服务只提供一个接口吗?);
还能如何优化呢?
异步代理法,是一种很常见的架构实践。
业务场景:通过OpenID实时获取微信用户基本信息。
解决方案:增加一个代理,向服务屏蔽究竟是“本地实时”还是“异步远程”去获取返回结果。
本地实时流程如上图1-5:
(1)业务调用方调用内部service;
(2)内部service调用异步代理service;
(3)异步代理service通过OpenID在本地拿取数据;
(4)异步代理service将数据返回内部service;
(5)内部service返回结果给业务调用方;
远程异步流程如上图6-8粗箭头的部分:
(6)异步代理service定期跨公网调用微信服务;
(7)微信服务返回数据;
(8)刷新本地数据;
这种方案有什么优缺点呢?
优点:公网抖动,第三方接口超时,不影响内部接口调用。
缺点:本地返回的不是最新数据(很多业务可以接受数据延时)。
画外音:有时候,内部service和异步代理service可以合成一个service。
还有其他的方法吗?
第三方接口备份与切换,也是一种常见的实践。
业务场景:调用第三方短信网关,或者电子合同等。
解决方案:同时使用(或者备份)多个第三方服务。
流程如上图1-4:
(1)业务调用方调用内部service;
(2)内部service调用第一个三方接口;
(3)超时后,调用第二个备份服务,未来都直接调用备份服务,直到超时的服务恢复;
(4)内部service返回结果给业务调用方;
这种方案有什么优缺点呢?
优点:公网抖动,第三方接口超时,不影响内部接口调用(初期少数几个请求会超时)。
缺点:不是所有公网调用都能够像短息网关,电子合同服务一样有备份接口的,像微信、支付宝等就只此一家。
还有其他的方法吗?
异步调用法,也是一种实践。
业务场景:本地结果,同步第三方服务,例如用户在58到家平台下单,58到家平台需要通知平台商家为用户提供服务。
解决方案:本地调用成功就返回成功,异步调用第三方接口同步数据(和异步代理有微小差别)。
本地流程如上图1-3:
(1)业务调用方调用内部service;
(2)内部service写本地数据;
(3)内部service返回结果给业务调用方成功;
异步流程如上图4-5粗箭头的部分:
(4)异步service定期将本地数据取出(或者通知也行,实时性好);
(5)异步调用第三方接口同步数据;
这种方案有什么优缺点呢?
优点:公网抖动,第三方接口超时,不影响内部接口调用。
缺点:不是所有业务场景都可以异步同步数据。
总结
跨公网调用第三方,可能存在的问题:
(1)公网抖动,第三方服务不稳定,影响自身服务;
(2)一个接口超时,占住工作线程,影响其他接口;
降低影响的优化方案有:
(1)增大工作线程数;
(2)降低超时时间;
(3)服务垂直拆分;
任何脱离业务的架构方案都是耍流氓,可以结合业务实施方案:
(1)业务能接受旧数据:读取本地数据,异步代理定期更新数据;
(2)有多个第三方服务提供商:多个第三方互备;
(3)向第三方同步数据:本地写成功就算成功,异步向第三方同步数据;
希望第三方的服务挂掉,不再影响大家的服务。
第三方服务挂了,如何保证服务不受影响?相关推荐
- SpringCloud系列七:Hystrix 熔断机制(Hystrix基本配置、服务降级、HystrixDashboard服务监控、Turbine聚合监控)...
声明:本文来源于MLDN培训视频的课堂笔记,写在这里只是为了方便查阅. 1.概念:Hystrix 熔断机制 2.具体内容 所谓的熔断机制和日常生活中见到电路保险丝是非常相似的,当出现了问题之后,保险丝 ...
- SpringCloud:Hystrix 熔断机制(基本配置、服务降级、HystrixDashboard服务监控、Turbine聚合监控)
所谓的熔断机制和日常生活中见到电路保险丝是非常相似的,当出现了问题之后,保险丝会自动烧断,以保护我们的电器, 那么如果换到了程序之中呢?当现在服务的提供方出现了问题之后整个的程序将出现错误的信息显示, ...
- 代码重新发布后docker服务会不会受影响_分享点经验 | 浅谈微服务架构
点击蓝字关注我们 AMP 背景简介 在最原始的系统设计中,我们通常使用单体架构.单体架构把所有的业务逻辑都写在一起,没有对业务场景进行划分.在规模比较小的情况下工作情况良好,但是随着系统规模的扩大,它 ...
- 第三方邮件、短信服务
我们还用到了第三方邮件推送服务和短信服务.邮件服务这个对于很多网站来讲是非常重要的.如果自己架设域名的服务器发送的邮件,很容易进到用户垃圾邮箱中.而使用企业邮箱,每天发送量会受到限制.但第三方邮件发送 ...
- 服务安全:如何保证服务器不断电数据不丢失?
服务安全最重要的是数据安全,大多数灾备都是保证服务高可用和数据安全性. 目录 异地多活灾备 两地容灾切换方案 多城异地多活 单元城市级故障 中心城市级故障 UPS UPS组成 UPS服务商 务不断电方 ...
- 不懂优雅停机,搞挂了线上服务该咋办?
作者丨陈树义 来源丨公众号:陈树义(ID:gh_b6f5025d4a8d) 公司项目是用 consul 进行注册的,在发布微服务的时候,总是会导致调用方出现一定几率的调用失败.一开始百思不得其解,后来 ...
- 不懂优雅停机,搞挂了线上服务,咋办?
公司项目是用 consul 进行注册的,在发布微服务的时候,总是会导致调用方出现一定几率的调用失败.一开始百思不得其解,后来咨询了资深的同事才知道:原来是服务下线的时候没有优雅停机,没有去 consu ...
- 一文讲透微服务下如何保证事务的一致性
点击上方"朱小厮的博客",选择"设为星标" 后台回复"加群"获取公众号专属群聊入口 随着业务的快速发展.业务复杂度越来越高,传统单体应用逐渐 ...
- 微服务架构如何保证安全性?
网络安全已成为每个企业都面临的关键问题.几乎每天都有关于黑客如何窃取公司数据的头条新闻. 为了开发安全的软件并远离头条新闻,企业需要解决各种安全问题,包括硬件的物理安全性.传输和静态数据加密.身份验证 ...
- SpringCloud(第 025 篇)Zuul 路由后面的微服务挂了后,Zuul 提供了一种回退机制来应对熔断处理...
2019独角兽企业重金招聘Python工程师标准>>> SpringCloud(第 025 篇)Zuul 路由后面的微服务挂了后,Zuul 提供了一种回退机制来应对熔断处理 一.大致 ...
最新文章
- 玩转Mixly – 5、Arduino AVR编程 之 逻辑
- 互联网技术架构的启示
- ubuntu 20.04 设置网关_如何把Ubuntu升级到Ubuntu 20.04 LTS 最新版本
- 为游戏开发者总结的20个 Unity 建议和技巧
- 计算机要怎么设置才能谈音乐,解读:如何设置要插入计算机的U盘以自动播放歌曲...
- [蓝桥杯][2013年第四届真题]买不到的数目-模拟,数论
- java源码导入eclipse_spring framework源码下载并导入eclipse
- 第一季8:mpp的部署、sample的编译和测试、完整版根文件(包含mpp)制作
- applicationproperties不是小叶子_为何“砂糖桔”是带着叶子出售?原来其中有着“猫腻”,涨知识了...
- 苹果计算机 win10,图文教程!苹果电脑和WIN10的完美融合井井有条的美
- 2019年通信工程考研初试经验帖(366分)
- EasyCamera轻松集成Camera拍照
- ANSYS 有限元分析 修改与编辑
- A - Multiplication Dilemma (思维)( 2018 ACM ICPC Arabella Collegiate Programming Contest)
- 51nod 1830
- eNSP内部网络访问外部网络实验
- 通过分解和增强学习恢复微光图像(CVPR2020)
- 舍弃是成功之母:花总刘韧聊《知识英雄》
- Android中的文件读写操作
- WebUploader组件的使用