我们来谈下高并发和分布式中的幂等处理
我们先来谈下幂等的概念
抽象概念
幂等(idempotent、idempotence)是一个数学与计算机学概念,常见于抽象代数中。
在编程中,一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。幂等函数,或幂等方法,是指可以使用相同参数重复执行,并能获得相同结果的函数。这些函数不会影响系统状态,也不用担心重复执行会对系统造成改变。例如,“getUsername()和setTrue()”函数就是一个幂等函数。
用通俗的话讲:就是针对一个操作,不管做多少次,产生效果或返回的结果都是一样的
举几个例子:
1.比如前端对同一表单数据的重复提交,后台应该只会产生一个结果2.比如我们发起一笔付款请求,应该只扣用户账户一次钱,当遇到网络重发或系统bug重发,也应该只扣一次钱3.比如发送消息,也应该只发一次,同样的短信如果多次发给用户,用户会崩溃4.比如创建业务订单,一次业务请求只能创建一个,不能出现创建多个订单
还有很多诸如此类的,这些逻辑都需要幂等的特性来支持。
实现幂等性的技术方案
查询操作
查询一次和查询多次,在数据不变的情况下,查询结果是一样的,select是天然的幂等操作。
删除操作
删除操作也是幂等的,删除一次和多次删除都是把数据删除。(注意可能返回结果不一样,删除的数据不存在
,返回0,删除的数据多条,返回结果多个)。
唯一索引,防止新增脏数据
拿资金账户和用户账户来说,每个用户只能有一个资金账户,怎么防止给用户创建资金账户多个,那么给资
金账户表中的用户ID加唯一索引,在新增的时候只有一个能请求成功,剩下都会抛出唯一索引重复异常。比
如`org.springframework.dao.DuplicateKeyException`,这时候再查询一次就可以了,数据存在,返回结果
token机制,防止页面重复提交
要求:页面的数据只能被点击提交一次发生原因:由于重复点击或者网络重发,或者nginx重发等情况会导致数据被重复提交解决办法:集群环境:采用token加redis单JVM环境:采用token加redis或token加jvm内存处理流程:数据提交前要向服务的申请token,token放到redis或jvm内存,token有效时间提交后后台校验token,同时删除token,生成新的token返回token特点:要申请,一次有效性,可以限流注意:redis要用删除操作来判断token,删除成功代表token校验通过,如果用select+delete来校验token,
存在并发问题,不建议使用
悲观锁
获取数据的时候加锁获取select * from table_xxx where id=’xxx’ for update;注意:id字段一定是主键或者唯一索引,不然是锁表,会出事的。悲观锁使用时一般伴随事务一起使用,数据锁定时间可能会很长,根据实际情况选用
乐观锁
乐观锁只是在更新数据那一刻锁表,其他时间不锁表,所以相对于悲观锁,效率更高。乐观锁的实现方式多种多样可以通过version或者其他状态条件:1.通过版本号实现update table_xxx set name=#name#,version=version+1 where version=#version#2.通过条件限制update table_xxx set avai_amount=avai_amount-#subAmount# where avai_amount-#subAmount# >= 0要求:avai_amount-subAmount >=0
这个情景适合不用版本号,只更新是做数据安全校验,适合库存模型,扣份额和回滚份额,性能更高。注意:乐观锁的更新操作,最好用主键或者唯一索引来更新,这样是行锁,否则更新时会锁表,上面两个sql改成下面的两个更好。update table_xxx set name=#name#,version=version+1 where id=#id# and version=#version#update table_xxx set avai_amount=avai_amount-#subAmount# where id=#id# and
avai_amount-#subAmount# >= 0
分布式锁
还是拿插入数据的例子,如果是分布是系统,构建全局唯一索引比较困难,例如唯一性的字段没法确定,这时候可以引入分布式锁,通过第三方的系统(redis或zookeeper),在业务系统插入数据或者更新数据,获取分布式锁,然后做操作,之后释放锁,其实就是为了控制多线程并发的操作,也是分布式系统中经常用到的解决思路。
以上关于锁的内容大家可以阅读下这篇文章加深了解分布式锁总结
select + insert
并发不高的后台系统,或者一些任务JOB,为了支持幂等,支持重复执行,简单的处理方法是,先查询下一些关键数据,判断是否已经执行过,在进行业务处理,就可以了。
注意
:核心高并发流程不要用这种方法。
状态机幂等
在设计单据相关的业务,或者是任务相关的业务,肯定会涉及到状态机(状态变更图),就是业务单据上面有个状态,状态在不同的情况下会发生变更,一般情况下存在有限状态机,这时候,如果状态机已经处于下一个状态,这时候来了一个上一个状态的变更,理论上是不能够变更的,这样的话,保证了有限状态机的幂等。
注意:订单等单据类业务,存在很长的状态流转,一定要深刻理解状态机,对业务系统设计能力提高有很大帮助。
对外提供接口的api如何保证幂等
如银联提供的付款接口:需要接入商户提交付款请求时附带:source来源,seq序列号
source+seq在数据库里面做唯一索引,防止多次付款,(并发时,只能处理一个请求)。
重点:
对外提供接口为了支持幂等调用,接口有两个字段必须传,一个是来源source,一个是来源方序列号seq,这个两个字段在提供方系统里面做联合唯一索引,这样当第三方调用时,先在本方系统里面查询一下,是否已经处理过,返回相应处理结果;没有处理过,进行相应处理,返回结果。注意,为了幂等友好,一定要先查询一下,是否处理过该笔业务,不查询直接插入业务系统,会报错,但实际已经处理了。
最后总结:
幂等性应该是合格程序员的一个基因,在设计系统时,是首要考虑的问题,尤其是在像第三方支付平台,银行,互联网金融公司等涉及的网上资金系统,既要高效,数据也要准确,所以不能出现多扣款,多打款等问题,这样会很难处理,并会大大降低用户体验。
我们来谈下高并发和分布式中的幂等处理相关推荐
- 来谈下高并发和分布式中的幂等处理
来源:https://0x9.me/MRqcj 幂等的概念 幂等(idempotent.idempotence)是一个数学与计算机学概念,常见于抽象代数中. 复制代码 在编程中,一个幂等操作的特点是其 ...
- 来谈下高并发和分布式中的幂等处理 1
幂等的概念 幂等(idempotent.idempotence)是一个数学与计算机学概念,常见于抽象代数中. 复制代码 在编程中,一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同. ...
- 高并发和分布式中的幂等处理
今日推荐 这 9 个 Java 开源项目 yyds,你知道几个?阿里技术专家推荐的20本书,免费送!K8S 部署 SpringBoot 项目(一篇够用)妙用Java 8中的 Function接口 消灭 ...
- java唯一订单号_java web在高并发和分布式下实现订单号生成唯一的解决方案
方案一: 如果没有并发,订单号只在一个线程内产生,那么由于程序是顺序执行的,不同订单的生成时间戳正常不同,因此用时间戳+随机数(或自增数)就可以区分各个订单.如果存在并发,且订单号是由一个进程中的多个 ...
- Linux下高并发socket最大连接数所受的各种限制
修改最大打开文件数 # ulimit -n 修改最大进程数 # ulimit -u ------------------------------------------------------ Lin ...
- linux socket文件数限制,Linux下高并发socket最大连接数所受的限制问题
Linux下高并发socket最大连接数所受的限制问题1.修改用户进程可打开文件数限制在Linux平台上,无论编写客户端程序还是服务端程序,在进行高并发TCP连接处理时, 最高的并发数量都要受到系统对 ...
- Linux进程最大socket数,Linux下高并发socket最大连接数所受的各种限制(详解)
1.修改用户进程可打开文件数限制 在Linux平台上,无论编写客户端程序还是服务端程序,在进行高并发TCP连接处理时,最高的并发数量都要受到系统对用户单一进程同时可打开文件数量的限制(这是因为系统为每 ...
- 阿里P8架构师谈:高并发网站的监控系统选型、比较、核心监控指标
在高并发分布式环境下,对于访问量大的业务.接口等,需要及时的监控网站的健康程度,防止网站出现访问缓慢,甚至在特殊情况出现应用服务器雪崩等场景,在高并发场景下网站无法正常访问的情况,这些就会涉及到分布式 ...
- 大数据量下高并发同步的讲解(不看,保证你后悔!)
偶然的机会在网上看到了这篇blog,觉得作者写得挺不错的(虽然自己并没有怎么看懂...),所以就转来跟大家分享分享吧~~~ 对于我们开发的网站,如果网站的访问量非常大的话,那么我们就需要考虑相关的并发 ...
最新文章
- vue2.0 rem运行环境搭建
- FFmpegInterop 库在 Windows 10 应用中的编译使用
- 基于element-ui实现table可配置化
- 深入浅出理解 Spark:环境部署与工作原理
- 知识计算机硬件 教学设计,“计算机硬件系统”教学设计
- Deepin 系统下安装VMware并激活
- SmartGit 无限试用方法
- Android武林大会(转)
- moss2007 是什么_MOSS 2007站点权限
- ecu的c语言编程,ecu中的程序是如何编写的
- 使用CDN加速的优点
- 好用到爆炸的Chrome谷歌插件下载——妈妈再也不用担心我找不到好的插件了
- 身份证提取生日和性别
- JavaScript中的异步、同步
- 《深度学习入门 基于Python的理论与实现》书中代码笔记
- 女程序员职业生涯发展
- 【毕业设计_课程设计】在线免费小说微信小程序的设计与实现(源码+论文)
- 一款很小巧的桌面窗口隐藏工具
- 在小程序中显示地图并添加标注的教程
- 数组转对象 和 对象转数组的简单处理
热门文章
- Django View使用装饰器捕获数据库连接异常
- 注意啦!10 个你需要了解的 Linux 网络和监控命令
- IOS开发之——颜色设置
- 泛型与操作符重载杂谈
- 互联神州CCNA、CCNP、CCSP、CCIE----寒假特惠
- simulink积分模块和微分模块区别
- OpenCV图像处理实际案例(一)---图像倾斜矫正(仿射变换)和去边(轮廓查找+ROI提取)
- window环境使用C++实现WebSocket
- OpenCv3 VideoCapture读取视频失败解决方法
- #ifdef,#else,#if,#endif (转载)