我们知道,一般在分布式应用都有CAP准则:

  1. C Consistency, 一致性,分布式中的各个节点数据保持一致
  2. A availability 可用性,任何时刻,分布式集群总是能够提供服务
  3. P partition tolerance,分区容错性,由于网络分区的存在,当某个网络分区出现问题的时候,依然能够运行

CAP理论:CAP无法同时满足,只能同时满足其中的两个,我们假设有三个节点a,b,c,这时候因为网络故障分为两组【a,b】,【c】,为了支持分区容错P,处理请求时:

  1. 保证一致性 C 的时候,这时候需要保证所有节点的数据一致,需要将数据复制到所有节点,但是这时候网络故障,无法复制到c节点,只能返回失败给客户端,这时候系统处于不可用状态,无法满足A
  2. 如果要保证可用性A,这时候数据只需要复制到a,b节点,c节点不需要复制,这时候可能c也可能处理请求,c的数据也无会复制到a,b节点,这时候【a,b】,【c】数据就不一致了

BASE理论:即使无法做到强一致性,也需要采取适当的措施来达到最终一致性,其有三项指标:

  • Basically Available 基本可用,指的是分布式系统出现不可预知的故障的时候,允许损失部分可用性,但是整个系统对外仍然可用
  • Soft state 弱状态,允许系统中的数据存在中间状态,并且该中间状态不会影响系统整体的可用性,即允许系统在不同节点之间进行数据同步存在延时
  • Eventually consistent 最终一致性,系统中所有节点在经过一段时间的同步后最终能够达到一个一致的状态。因此最终一致性的本质是需要系统保证最终数据能够达到一致,而不需要实时保证数据的强一致性。

分布式系统的架构设计过程中,往往需要对一致性和可用性 CA之间进行反复的权衡,基于此产生一系列的一致性协议和算法,其中比较有名的就是两阶段提交协议、三阶段提交协议、Paxos算法

两阶段提交 2PC

2pc 即 Two-Phase Commit,为了使分布式系统架构下的所有节点进行实务的过程中能够保持原子性和一致性的而设计的一种算法。

2PC 阶段一 ,提交实务请求
  • 协调者向所有的参与者发送实务内容,询问是否可以实务操作,并等待参与者的响应
  • 各参与者节点执行实务,注意这时候只是执行了事务,事务并未提交,然后参与者向协调者反馈,如果执行成功返回OK,否则NO
2PC 阶段二 ,执行事务提交
  • 如果所有参与者的反馈都是OK,那么执行事务提交,协调者向所有参与者发出commit请求
  • 参与者收到commit请求之后执行实务提交,执行完之后向协调者反馈ACK信息
  • 协调者收到所有参与者的ACK反馈之后,完成事务

如果在第一阶段中有参与者的反馈是NO的话,那么需要中断事务:

  • 协调者向所有参与者发送回滚请求rollback
  • 所有参与者收到回滚请求rollback之后回滚事务,并在回滚之后反馈结果
  • 协调者收到所有参与者的反馈,事务中断完成

二阶段提交存在的问题:

  • 同步阻塞,执行过程中,所有参与节点都是事务阻塞型的,各个参与者在等待其他参与者的响应过程中无法进行其他操作
  • 单点问题,协调者的角色很重要,一旦协调者出现问题,整个过程都无法继续,如果在阶段二中出现问题,参与者将一直处于锁定事务资源的状态中,无法继续完成事务操作
  • 数据不一致 ,在阶段二的时候,当协调者向所有参与者发送Commit请求之后,发生了网络异常,导致只有部分参与者收到了Commit请求,于是,这部分收到了Commit请求的参与者提交了事务,而其他没有收到Commit请求的参与者则无法提交事务,导致整个系统出现了数据不一致现象

三阶段提交 ,3PC

三阶段提交是两阶段提交的改进型,进行了如下改进:

  • 引入了超时机制
  • 在2PC的第一阶段和第二阶段中插入了一个准备阶段,将提交事务请求一分为二

3PC由:CanCommit,PreCommit,doCommit三个阶段组成

阶段一 , CanCommit
  • 协调者向所有参与者发送CanCommit请求,询问是否可以执行事务提交操作,并等待参与者的反馈
  • 各个参与者收到协调者的CanCommit请求之后,查看自身状态是否可以顺利执行事务,正常返回OK,否则NO
阶段二 , PreCommit

如果阶段一各参与者反馈OK,开始阶段二

  • 协调者向所有参与者发送PreCommit请求,进入Prepared阶段
  • 参与者收到preCommit请求后,执行事务操作,将Undo和Redo记录到事务日志,这时候并未commit事务,然后向协调者反馈,返回OK or NO

如果任意一个参与者返回了NO,或者协调者等待参与者反馈超时,这时候中断事务:

  • 协调者向所有参与者发送abort请求
  • 参与者收到abort请求,或者等待协调者请求出现超时都会abort事务
阶段三 , DoCommit

这时候开始进行真正的事务提交,如果阶段二中所有参与返回OK,则:

  • 协调者从Prepared状态进入Commit状态,向所有参与者发送DoCommit请求
  • 参与者收到协调者的DoCommit请求时候,进行事务提交,并返回信息给协调者
  • 协调者收到所有参与者的反馈后,完成事务

如果这个阶段协调者正常工作,并且任意一个参与者返回了NO,或者协调者等待参与者反馈超时,这时候中断事务:

  • 协调者向所有参与者发送abort请求
  • 参与者收到abort请求后,会根据在阶段二中记录的undo信息执行事务回滚,之后反馈协调者
  • 协调者收到所有参与者反馈,中断事务

需要注意的是,一旦进入阶段三,可能存在下面两种故障:

  • 协调者出现问题
  • 协调者和参与者之间出现网络故障

无论出现上述哪种情况,都会导致参与者无法及时接收到协调者的doCommit或者abort请求,这时候参与者会在等待超时之后进行事务的提交
三阶段的优点:相比两阶段,降低了参与者的阻塞范围,并且能够在出现单点故障后继续达到一致
三阶段的缺点:参与者接收到preCommit请求之后,如果出现网络分区问题,此时协调者和参与者无法通信,这时候该参与者依然会进行事务的提交,会导致数据不一致。

Paxos算法

Paxos算法的核心是一个一致性算法,是一个经典、完备的分布式一致性算法,其目标是在不同的节点之前,对同一个key的取值达成共识。
在Paxos算法中,有如下三种角色:

  • Proposer 提案者,对key值提出自己的值
  • Acceptor 决议者,对提案者的提议进行投票,选定一个提案形成最终的决策
  • Leaner 学习者,学习决议者达成共识的决策

Paxos算法分为两个阶段:

阶段一 准备阶段,Prepare请求

Porposer选择一个新的提案编号N,然后向Acceptor过半集合成员发送Prepare请求,要求该集合中的Acceptor做出如下回应:

  • 向Proposer承诺,保证不再批准任何编号小于N的提案
  • 如果Acceptor已经批准过任何提案,那么就应该向Proposer反馈当前Acceptor已经批准的编号小于N的最大的提案的值
阶段二 批准提案,Accept请求

1)如果Proposer收到了来自半数以上的Acceptor的响应结果,那么就可以产生编号为N,Value值为Vn的天,这里的Vn死所有相中编号最大的提案的值,如果半数以上的Acceptor都没有批准过任何提案,这时候Vn的值由Proposer任意选择
2) 如果Acceptor收到了[N ,Vn]的提案的Accept请求,只要改Acceptor尚未对编号大于N的天的Prepare请求做出响应,它就可以通过这个提案

Paxos协议中一个提案被通过后,这个提案的值被选中,后面按照协议继续交互下去,这个值一直保持不变,也就是一直一致,其目标是保证最终有一个提案会被通过,提案通过后,其他Acceptor最终也只能获取通过的提案,一言蔽之,将所有节点都写入同一个值,且被写入后不再更改

Paxos 活锁:两个Proposer交替请求,编号不断变大,但是无法通过任何一个提案

Raft算法

Raft算法是Paxos算法的一种简化实现,有三种角色

  • Leader 领导者,所有写入都是通过leader写入,同时leader会强制所有follower来同步数据
  • Candidate 选举的状态,会向其他所有节点拉选票,如果得到大部分选票,则会变成Leader
  • Follower 所有节点开始都是Follower状态,如果没有收到Leader的消息则会变成Candidate
    其他概念:
    Term: 连续单调递增的编号,每个term代表一轮选举
    随机心跳时间:Follower节点每次收到Leader节点心跳请求之后都会设置一个区间在[150ms ,300ms]的超时时间,如果超过这个时间还没收到心跳,则认为Leader故障

Raft算法是通过选出一个Leader来简化副本之间的数据同步,将一致性分为了两个重要个子逻辑:

  • Leader选举
  • 日志复制
Leader选举过程
  1. 当Follower节点在超时时间内没有收到Leader心跳,则认为当前Leader故障,将从Follower状态变为Candidate,更新本地的Current Term值,同时批量向其他节点发送拉票请求
  2. 其他Follower节点收到请求后,判断请求的Term大于自己的Current Term,且请求的log序号不低于本地,则认为这张票是合法的(每轮term只能投一次票)
    3)如果Candidate收到了超过半数的投票,则晋升为Leader,同时立刻给所有节点发送消息,避免其余节点触发新的选举,然后开始日志同步、处理客户端请求
日志复制
  1. Leader收到客户端的数据请求后,先把数据写到本地日志(这时候尚未提交),同时向Follower节点发送AppendEntries,将请求的数据发送给Follower
  2. Follower收到请求数据判断如果没有冲突的话,则将数据写入日志(未提交),然后反馈给Leader
  3. Leader收到Follower的反馈如果超过半数成功,则提交本地未提交的事务,(这时候就可以给客户端响应了),然后向Follower再次发送AppendEntries请求
  4. Follower收到请求后提交本地事务

zookeeper作为一个分布式的协调服务,实现的是CP,实现了最终一致性。
在zookeeper中有如下几个角色:

  1. Leader节点,领导者,集群所有的写入都通过leader写入,维护与Follower和Observer之间的心跳,同时会将写入的数据广播给其他节点,zookeeper集群同一时间只会有一个工作的Leader
  2. Follower节点,与Leader保持心跳,Follower节点可以直接处理客户端的读请求,可以接受写请求,但是无法处理读请求,会将读请求转发给Leader进行处理。另外还会参与投票,包含Leader写请求的投票以及选主的投票
  3. Observer节点,与Follower基本一样,但是没有投票权

zookeeper的核心是原子广播(zookeeper automic broadcast,ZAB原子消息广播协议)。讲解这部分之前,我们先了解zk中几个属性:

  1. myid,每个zk节点在集群中的唯一id,我们在安装配置zk的时候都会写入一个唯一id到myid的配置文件汇总
  2. zxid,zk的事务id,用来表示每次更新操作的提案(Proposal ID),该ID单调递增,保证了顺序一致性,zk使用64位来表示zxid,其中高32位表示Leader的epoch,从1开始,每次Leader变化选出新的Leader之后,epoch 加一,低32位表示的是该epoch内的事务id,单调递增,每次epoch发生改变,低32位重置。

zk为了保证提案的按zxid顺序生效,使用了一个ConcurrentHashMap,记录所有未提交的提案,key为zxid,value为提案的信息。当有事务发生的时候,Leader节点会把数据通过proposal请求发送到所有的节点上面,所有收到proposal的节点接收到数据以后会把数据写入到本地磁盘,然后发送ACK给leader,leader节点判断过半节点都返回了ACK,会发送commit消息给各个节点,各节点就会把消息放入内存中。

可以看到,zk的写操作,类似两阶段提交。

zk在选主的时候,会向集群中其他节点发送下面的信息:

  • logicClock,灭节点维护的自增整数,表示的是当前节点发起的第多少轮投票,zk的每次选举必须在同一轮中,就是logicClock必须一致
  • state 当前节点的状态
  • self_id 当前节点的myid
  • self_zxid 当前节点上保存数据的最大的zxid
  • vote_id 被推举的节点的myid
  • zote_zxid 被推举的节点保存的数据的最大zxid

选主大致流程:

  1. 每个节点在开始投票的时候会将自己的logicClock自增加一
  2. 清空节点自身的投票箱
  3. 发送投票给自己,初始的时候,每个节点都是投给自己
  4. 接收外部投票
  5. 收到外部投票后,判断选举轮次logicClock,
  • 如果当前节点的logicClock比收到logicClock小,更新当前节点logicClock到收到的logicClock,然后在比较之前的投票与当前投票确定是否需要变更自己的投票,然后将自己的投票广播出去
  • 外部投票的logicClock小于当前节点的logicClock,直接忽略该投票
  • 外部投票的logicClock与当前节点的logicClock相等,进行选票处理
  1. 选票处理。选票的处理是基于(self_id,self_zxid)与(vote_id,vote_zxid),首先比较外部选票与自己的选票的self_zxid,如果外部选票的vote_zxid比自己的选票的vote_zxid大,则将自己手中的选票的vote_id,vote_zxid都更新为收到的外部选票;如果这两张选票的vote_zxid一致,则比较二者的vote_myid,哪个大,将vote_id,vote_zxid更新为vote_zxid大的那个信息,然后将自己的选票广播出去
  2. 统计选票,若有过半的服务器认可了自己的投票,则终止投票
  3. 更新节点状态

zk集群节点存在四种状态:

  • LOOKING,一般这时候没有确定Leader,会发起选主
  • LEADING,领导者状态,当前节点是Leader节点
  • FOLLOWING,跟随者状态,当前节点是Follower节点
  • OBSERVERING,观察者状态,当前节点是Observer节点

综上来看,对比Raft算法和ZAB算法:

  1. 在客户端请求写入数据时,zab算法是采用类似两阶段提交,只有过半的节点都写入了事务,才返回响应给客户端,但是Raft算法,在Prepare阶段收到过半节点的请求后自身提交事务就返回给客户端了,这时候过半节点的事务并未提交,而是后面Leader在给Follower提交请求,如果Leader返回客户端之后立马挂了,这时候节点间数据就不一致了
  2. Raft在日志的复制过程中,心跳是从Leader到Follower,ZAB则相反

CAP原理,分布式一致性算法,两阶段提交,三阶段提交,Paxos,Raft,zookeeper的选主过程,zab协议,顺序一致性,数据写入流程,节点状态,节点的角色相关推荐

  1. 关于分布式事务、两阶段提交协议、三阶提交协议

    随着大型网站的各种高并发访问.海量数据处理等场景越来越多,如何实现网站的高可用.易伸缩.可扩展.安全等目标就显得越来越重要.为了解决这样一系列问题,大型网站的架构也在不断发展.提高大型网站的高可用架构 ...

  2. 什么是ACID理论(二阶段、三阶段提交、TCC)

    目录 二阶段提交协议 TCC(Try-Confirm-Cancel) 预留成功 预留失败 三阶段提交协议 总结 Some questions reference ACID理论时对事务特性的抽象和总结, ...

  3. 分布式事务之——两段式、三段式

    一.两段式 1.请求阶段(commit-request phase,或称表决阶段,voting phase) 事务询问.协调者向所有参与者发送事务内容,询问是否可以进行事务提交操作,然后就开始等待参与 ...

  4. Apache Iceberg核心原理分析文件存储及数据写入流程

    点击上方蓝色字体,选择"设为星标" 回复"面试"获取更多惊喜 全网最全大数据面试提升手册! 第一部分:Iceberg文件存储格式 Apache Iceberg作 ...

  5. Raft算法实现 - Sofa-JRaft,选主,数据写入,日志复制

    关于raft算法相关细节,可以全看之前的文章 分布式一致性算法,两阶段提交,三阶段提交,Paxos,Raft,zookeeper的选主过程,zab协议,顺序一致性,数据写入流程,节点状态,节点的角色 ...

  6. 分布式事务:两阶段提交与三阶段提交

    两阶段提交与三阶段提交 分布式事务 二阶段提交 请求阶段 提交阶段 举例 故障分析 柜员侧出现故障或拒绝Proposal 第一阶段经理侧出现故障 第二阶段经理侧出现故障 二阶段提交存在的问题 三阶段提 ...

  7. 从分布式一致性算法到区块链共识机制

    引言 分布式一致性是一个很"古典"的话题,即在分布式系统中,如何保证系统内的各个节点之间数据的一致性或能够就某个提案达成一致.这个问题想必对于很多技术同学而言并不陌生,几乎在所有的 ...

  8. 《从Paxos到Zookeeper 分布式一致性原理与实践》

    第1章 分布式架构 1.1 从集中式到分布式 1.1.1 集中式的特点 集中式的特点:部署结构简单(因为基于底层性能卓越的大型主机,不需考虑对服务多个节点的部署,也就不用考虑多个节点之间分布式协调问题 ...

  9. 分布式事务探讨系列(九):一致性算法Raft

    一致性问题 在分布式系统中,一致性问题(consensus problem)是指对于一组服务器,给定一组操作,我们需要一个协议使得最后它们的结果达成一致. 由于CAP理论告诉我们对于分布式系统,如果不 ...

最新文章

  1. 开通博客的第一篇随笔~
  2. 插入排序之——二分(折半)插入排序(c/c++)
  3. ogre3D学习基础10 -- 键盘控制与鼠标控制(直接控制)
  4. PHP距离春节还剩多少天,2019年春节倒计时 现在距离2019年春节还有多少天 - 中国万年历...
  5. java.securti_springboot集成springsecurity 使用OAUTH2做权限管理的教程
  6. JS客户端学习笔记二
  7. 编译原理(第3版)——引论
  8. html5转ipk,OpenWrt更新ipk教程
  9. h264解码异常处理(iOS)
  10. 用clustalx打序列文件(.fa)失败是为什么?
  11. sofa接口下载文件
  12. java 去掉图片水印文字_Java实现图片水印工具类
  13. Yolov3:win10下训练自己的数据(GPU版)(详细步骤)
  14. krita 创建一大一小两个窗口 ,即,krita创建子窗口
  15. 常识-idea里鼠标左键选择变成矩形块
  16. 关于 mPaaS PB 接入模式适配 64 位 CPU 架构中项目报错解决方案
  17. 福昕阅读器PDF文件不能标记不能高亮的原因与解决方案
  18. 你好,机器作诗了解一下
  19. 【Python】Matplotlib画图(九)——饼图
  20. 记 win8pro安装jdk8和jdgui遇到报错api-ms-win-crt-runtime-l1-1-0.dll 丢失的终极处理方法(适用于python环境安装)

热门文章

  1. spring boot 源码解析29-LogbackLoggingSystem
  2. Ellisys Bluetooth Sniffer 文档 (EEN-BT06) - 蓝牙安全 - 真相还是虚构?
  3. spring cloud学习之消息总线(Finchley版本),以及postman下载与使用
  4. 2015-8-16,来到魔都上海,开始我全新的DBA生涯
  5. Neo4j安装事项报错:powershell命令提示符出现“不是内部或外部命令,也不是可运行的程序或批处理文件
  6. “旁观者效应”是如何毁掉我们的代码
  7. Django-登陆验证
  8. 鼠标属于计算机设备嘛,计算机中鼠标器属于什么设备
  9. 卓越跟进当当免运费成败几何
  10. 【时间复杂度空间复杂度】