【20211114】在技术上是如何实现分布式事务_V4(本地消息可靠消息)
时间:2021年11月14日
作者:小蒋聊技术
大家好,欢迎来到小蒋聊技术。小蒋准备和大家一起聊聊技术的那些事。
如何实现分布式事务这个话题,想必大家已经都不陌生了。小蒋和大家已经聊了3种不同的实现方法了。这些不同的实现方法都有各自的特点和不足,没有哪种方法是十全十美的。
架构师,必须根据具体的项目情况,选择出哪种方案是最棒的。最棒,并不意味着方案会给项目带来什么巨大的优势,也有可能是选择出一个对项目影响最小的方案。
架构师,要选择出一个最“合适”的方案。这样说或许更贴切一些。
今天小蒋带来的分布式实现方案,应该是目前行业里比较主流的一种实现方案,使用场景也是比较多的:“本地消息表 & 可靠消息”
本地消息表 & 可靠消息
有人不禁会问,为什么是两个方案?
因为,“本地消息表” 和 “可靠消息”,他们实现分布式事务的思路其实是一样的,只是实现技术上的差异。
小蒋个人理解,“可靠消息”这个方案,它实际上是对“本地消息表”的一种封装。
咱闲言少叙,先一起来看看“本地消息表”这个方案,它最初是由ebay架构师Dan Pritchett在2008年发布一篇文章中提出的。(In partitioned databases, trading some consistency for availability can lead to dramatic improvements in scalability)
此方案的核心是将需要分布式处理的任务通过消息日志的方式来异步执行。消息日志可以存储到本地文本、数据库或消息队列,再通过业务规则自动或人工发起重试。人工重试更多的是应用于支付场景,通过对账系统对事后问题的处理。
小蒋的理解是,其核心就是通过中间件(本地文本、数据库、消息队列)把“大事务”转变为多个“小事务”。
咱们还是拿“抖音平台提现到支付宝平台”这个例子,来看看究竟它是如何实现的:
通过真实的案例,我们看到“本地消息”是如何实现分布式事务的了。“写本地消息”和“业务操作”放在了一个事务里,保证了“业务”和“发送消息”的原子性,他们要么全部成功,要么全部失败。
异常处理&容错机制:
- “扣减余额事务”失败时,事务直接回滚,无后续步骤。
- “轮询生产/消费消息”失败 or “增加余额事务”失败,都会进行重试。
- “增加余额事务”重试达到上限后仍“未成功”,需要通过消息队列向“抖音平台”发起“事务回滚”操作或“人工”进行干预。
“本地消息表”特点:
- “大事务”可以被分拆成多个“小事务”,方便业务实现。
- 生产者需要额外的创建消息表。
- 每个本地消息表都需要进行轮询。
- 消费者的逻辑如果达到重试次数仍“未成功”,需要更多的容错机制,来保证回滚操作。
总结:
“本地消息表方案”遵循BASE理论,采用的是 “最终一致性”。比较适用于可异步执行的业务,且后续操作无需回滚的业务。
因为“异常处理”和“容错机制”需要“重试”,所以在接口实现上需要支持“幂等”。
小蒋个人认为“本地消息表方案”是目前这几种方案里面比较适合实际业务场景的,它不会出现“两阶段提交”那样复杂的实现(当调用链很长的时候,“两阶段提交”的可用性比较低),也不会像TCC那样,可能出现“无法确认”或者“无法回滚”的情况。
在支付场景,使用“本地消息表方案”,通常会有“人工重试”机制。一般是由“对账系统”事后来进行触发,通过“对账系统”保证账务精准和安全。
可靠消息
了解了“本地消息表方案”,我们再来看“可靠消息方案”就容易理解的多。
有些第三方MQ是支持事务消息的,比如RocketMQ,他支持事务消息的方式也是类似于采用的二阶段提交。但是,主流的MQ都是不支持事务消息的,如RabbitMQ和Kafka。
大致流程如下:
- 抖音平台先向mq发送一条prepare消息,如果prepare消息发送失败,则直接取消操作。
- 如果消息发送成功,则执行本地事务。
- 如果本地事务执行成功,则向mq发送一条confirm消息。如果失败,则发送回滚消息。
- 支付宝平台定期消费mq中的confirm消息,执行本地事务,并发送ack消息。如果支付宝平台中本地事务失败,会一直不断重试,如果是业务失败,会向抖音平台发起回滚请求。
- mq会定期轮询所有prepared消息调用抖音平台提供的接口查询消息处理情况,如果该prepared消息本地事务处理成功,则重新发送confirm消息,否则直接回滚该消息。
接下来,小蒋将带着大家一起看看,投递方式不同,业务将会出现怎样不同的异常结果。
消息投递过程:方式一
- 开启本地事务
- 扣减100余额
- 投递消息到MQ
- 提交本地事务
这种方式是将发消息放在了事务提交之前。
可能存在的问题:
第3步发生异常:导致第四步失败,转账业务失败。
第4步发生异常,其他步成功:“抖音平台”转账业务失败,消息投递成功,“支付宝”转账业务成功。
消息投递过程:方式二
下面我们换一种方式,将发送消息放到事务之后进行。
- 开启本地事务
- 扣减100余额
- 提交本地事务
- 投递消息到MQ
可能存在的问题:
第4步发生异常,其他步成功:导致“抖音平台”转账业务成功,投递消息失败,“支付宝平台”未收到转账消息。
以上这两种方式是比较常见的做法,在没有健全容错机制的情况下,也是最容易出错的。所以,即时使用“可靠消息”方案,也必须要考虑“异常处理”和“容错机制”。
“本地消息表” VS “可靠消息”
接下来,小蒋来和大家一起对比一下两种方案。
“可靠消息”方案也是采用的“最终一致性”。
对比“本地消息表”方案,“可靠消息”方案不需要建立消息表,不用依赖本地数据库事务,适用于高并发的场景。
“异常处理”与“容错机制”两种方案基本一致。
目前市场上面实现该方案的只有阿里的RocketMQ,RocketMQ事务消息部分的代码目前也未开源。
以上,是今天“小蒋聊技术”技术部分的全部内容。
“靠谱”方案的重要性
如果你现在是一名工程师,将来想要成为一名架构师。或者你已经是一名架构师了,还想再进一步提升。接下来,小蒋准备为大家分享一些自己工作中的心得和体会。
上周,小蒋参加了公司的内部培训。取得了小组第一的成绩,但是,小蒋一点都不开心,因为是倒数第一。
上周公司组织了一场模拟经营的培训,初始资金是530万。10分钟为一个周期,每个周期的经营费用为20万,其中包括员工工资,场地,税费,等一些列经营费用。
模拟经营,一共22个周期,加上经营前的各种准备活动,一共4个小时左右。
模拟经营中,有公司总经理、销售经理、生产经理、采购经理、财务经理,5个角色,小蒋担任的是财务经理。
模拟经营开始后,每个人都忙得不亦乐乎,中间连喝水大家都是用跑来完成的,可见时间的宝贵。
但是,整个经营活动结束后,小蒋作为财务经理,一盘点不但没有任何盈利,反而还亏损了260万,我滴天啊!
看着销售经理往回不停的拿销售单,销售经理那可以说是一脸的兴奋,这些销售单可都是销售提成啊!
但是,因为原料短缺,生产效率低等问题,这些销售单无法按时交货,公司不停的被罚款,生产经理漏出的是满脸的无奈。
最后,因为自由现金流不足,为了不让公司倒闭破产,不得不找银行进行了借贷,公司才勉强撑住了。
钱到哪里去了?
小蒋后来做盘点的时候,算了一笔账。如果我们团队拿着530启动资金,什么都不干,就在那等着。
530启动资金 – (20万管理费/周 * 22周) = 90万
但是,我们每个人忙得不亦乐乎,连喝水的时间都没有,结果却是不但没有剩下钱,还欠了下了260万负债。
销售经理,兴高采烈的拿着销售单,以为是盈利。结果未来等着他的却是无法按时交货而导致得罚款。你以为的,根本就不是你以为的。
一个靠谱的方案,有多重要!
架构师,你就是那个出方案的人。如果你在做方案的时候,不想着自己团队的具体情况,不考虑现在公司资源的情况,那你做的那个方案根本就“不靠谱”。
看着全是新feature,欢天喜地的。结果却是方案根本无法“落地”,还把团队拉进了鬼门关。
所以,小蒋作为一名架构师,通过公司的这次培训,深深的感受到了方案“靠谱”的重要性。
写在最后
方向和目标一定要正确,如果方向和目标错了,你越努力错的就越多!
年龄的增长不可怕,可怕的是从未成长!
感谢大家支持小蒋,小蒋希望和大家共同成长,谢谢。
音频版本:【20211114】在技术上是如何实现分布式事务_V4https://www.ximalaya.com/keji/51588599/472325594
【20211114】在技术上是如何实现分布式事务_V4(本地消息可靠消息)相关推荐
- 【20211106】在技术上是如何实现分布式事务_V3(TCC)
时间:2021年11月06日 作者:小蒋聊技术 大家好,欢迎来到小蒋聊技术.小蒋准备和大家一起聊聊技术的那些事. 经过之前的分享,想必大家已经对"两阶段提交"(2PC - Two- ...
- 《深入理解分布式事务》第九章 可靠消息最终一致性分布式事务原理
<深入理解分布式事务>第九章 可靠消息最终一致性分布式事务原理 文章目录 <深入理解分布式事务>第九章 可靠消息最终一致性分布式事务原理 一.基本原理 二.本地消息表 1.实现 ...
- 分布式事务:本地事务与分布式事务
分布式事务:本地事务与分布式事务 我们编写的扣减库存与保存订单是在两个服务中存在的.因为扣减库存后出现某些原因导致整一个下单流程出现错误,此刻会出现这样的状况:保存订单的本地事务(加了@Transac ...
- 破解世界性技术难题! GTS让分布式事务简单高效
近日,2017云栖大会·深圳峰会如期举行,多项阿里云新产品对外发布.在企业级互联网架构分会场,来自阿里中间件(Aliware)的技术专家及合作伙伴,为现场参会嘉宾带来最新的传统IT架构到企业级互联网架 ...
- 带你深入理解分布式事务,掌握后台分布式核心技术,PS:送5本!
大家好,首先感谢大家对极客重生的长期支持.有了大家的认可和鼓励才有动力陆陆续续肝出了这么多文章.为了表示对大伙儿的感谢,今天我和冰河大佬要了5本纸质书,免费送出. 送书的规则是在评论区留言,截止到今天 ...
- 【转】分布式事务的常见解决方案
一.事务起步 1. 什么是事务 事务这种东西大家都耳熟能详了,通常指由一组操作组成的一个工作单元,这一整个组合要么全部成功,要么全部失败. 2. 本地事务 在计算机系统中,更多的是通过关系型数据库来控 ...
- 「分布式专题」分布式事务 就这?太简单了吧
目录 基础概念 本地事务 分布式事务 基础理论 CAP理论 BASE理论 分布式事务解决方案 2PC TCC 可靠消息最终一致性 基础概念 本地事务 在计算机系统中,更多的是通过关系型数据库来控制事务 ...
- 分布式事务详解【分布式事务的几种解决方案】彻底搞懂分布式事务
文章目录 一.基本概念 什么是事务 本地事务 分布式事务 分布式事务产生的场景 二.分布式事务基础理论 CAP理论 CP - Consistency/Partition Tolerance AP - ...
- 冰河联合猫大人又出版一本分布式事务领域的开山之作,这是要再次起飞了吗?
大家好,我是冰河~~ 继出版<海量数据处理与大数据技术实战>和<MySQL技术大全:开发.优化与运维实战>之后,冰河联合猫大人一起推出了另一部硬核书籍<深入理解分布式事务 ...
最新文章
- 石家庄地铁线路查询系统
- MSEG和EKBE的区别在哪里
- 6.5 不同类型的数据集
- 无限乱斗机器人ap出装_另类出装畅玩无限乱斗!AP小丑成致胜黑科技
- Centos 安装mongodb
- Java中的适配器设计模式
- 数字化园区、智慧园区、物业管理、园区设备、房屋资源、维修业务、巡查管理、招商管理、商业租售管理,收支管理,合同管理,人员管理,日常维护,巡检管理,报检报修、物业驾驶舱、axure原型、rp原型
- 推荐一个css帮助手册的版本 同时提供chm和在线
- mybatis-plus超详细讲解
- 07网络发展趋势:风险和机遇并存
- 博士生导师谈他如何检索文献
- IDEA如何创建XML文件并用浏览器打开
- 一个(基于xfs协议)身份证扫描仪的理解
- chrome浏览器如何避免network报错:ERR_CERT_AUTHORITY_INVALID并添加为例外或继续前往
- 来自灵魂的拷问:之迁移之后SQL执行变慢了
- html img和背景图处理图片不拉伸_img固定宽度和高度,不规则图片变形问题的解决方法...
- NOJ[1587] 一群不学好的NBUT ACMers竟然作死要去爬山?晚上还困在山上回不去2333而且竟然只有一个手电筒,(名字那么长)不是作死是什么
- python爬虫程序员工资-Python爬虫实战-数据可视化
- 关于html2canvas生成海报模糊
- 如何选择一款好用的健身房软件?
热门文章
- “追随者”京东方,为何难有高估值?
- 1423. 可获得的最大点数 maxScore
- Kotlin的访问权限管理
- IoTeX 对话 浙江大学Bithacks:当物联网遇上区块链
- Bigo的Java面试,我挂在了第三轮技术面上.........
- 信息熵、相对熵(KL散度)、交叉熵、条件熵、互信息、联合熵
- C语言计算机二级/C语言期末考试 刷题(一)
- 求100以内的质数(Java版定义法、break优化,Math.sqrt()优化)
- 重生强化【Reincarnating RL】论文梳理
- 仪表盘故障图像识别_仪表自动识别方法汇总