分布式存储系统学习笔记(一)—什么是分布式系统(4)

a) 故障检测

首先明确心跳是不是和用来进行故障检测的。在系统运行中可能出现各种错误，机器A收不到机器B的心跳包并不能认为B发生了故障并停止了服务，比如A和B之间的网络发生了故障，或者B过于繁忙无法响应A的心跳包。这就可能导致不一致问题的发生。

故障检测的关键在于两台机器对“机器B是否被认为发生故障且停止服务达成一致”，然而异步网络中的多台机器无法达成一致，但是实践中机器之间会进行时钟同步，我们假设两台机器之间本地时钟相差不大（比如小于0.5s），我们可以通过租约（Lease）机制进行故障检测。

租约机制是带有超时时间的授权，B从A处获得租约，只有在租约有效期内B对外提供服务，正常情况下，B不断向A请求租约以保证提供服务，但是当发生故障时，B无法获得新的租约，也就不能对外提供服务了。B上的数据可以进行迁移。但是考虑到本地时钟不一致的问题，A可以在租约超时时间+1s(提前量)时再认为B已经发生故障，

b) 故障恢复

对于单层结构，总控节点选择其他最新的副本代替故障节点上的副本对外提供服务，在等待一定时间后(比如1h)，总控节点认为该节点永久下线，进行副本复制以保证每一个数据分片的副本数保持在一定数目。

对于双层结构，存储和服务分开，每个数据分片同一时间只有一个节点对外提供服务。当一个节点出现故障时，总控节点选择另外一个节点，加载A的服务并从底层分布式文件系统中加载A的数据到内存中。

总控节点也可能发生故障，为此，总控节点的状态会实时同步到备机，故障发生时，通过某个外部的高可用服务选举一个备机为总控节点。

欢迎扫描二维码关注微信公众号深度学习与数学 [每天获取免费的大数据、AI等相关的学习资源、经典和最新的深度学习相关的论文研读，算法和其他互联网技能的学习，概率论、线性代数等高等数学知识的回顾]

分布式存储系统学习笔记(一)—什么是分布式系统(4)—容错机制相关推荐

大规模分布式存储系统 - 读书笔记
文章目录大规模分布式存储系统(原理解析与架构实战OceanBase) 第1章概述 1.1 分布式存储概述 1.2 分布式存储分类第一篇基础篇第2章单机存储系统 2.1 硬件基础 2.1.1 ...
HBase分布式存储系统学习
简介: hadoop的数据库,根据谷歌的bigtable论文实现的分布式的可扩展的大数据存储技术随机访问实时读写海量数据存储数'十亿行百万例'的数据高性能.高可靠.面向列.可伸缩的分布式存 ...
分布式文件与分布式存储系统学习总结(持续更新)
存储系统知识 Write Ahead Log 问题引入存储系统在运行过程中,每时每刻都在发生数据更新.如对文件数据的CRUD. 对于中心控制节点来说,这些都会涉及到metadata的更新操作. 为了 ...
大数据存储系统学习笔记（一）
1. NFS 设计目标:服务器出现故障,可以简单快速地恢复 NFS Server不保持任何状态,每个操作都是无状态的如果NFS崩了,只用重启,什么额外操作都不用,因为每个操作无状态 NFSv2 对于 ...
torch分布式训练学习笔记
分布式通讯包 - torch.distributed 基本初始化 TCP初始化共享文件系统初始化环境变量初始化组点对点通信集体功能 torch.distributed提供了一种类似MPI的 ...
分布式协议学习笔记(一) Raft 选举
Raft官网官方可视化动画1 官方可视化动画2 论文中文翻译论文英文地址感觉作为paxos的升级精简版 Raft在设计之初就以容易理解为目标看完资料脑海里都有了大概的轮廓. 有了这些详细的资 ...
spring分布式事务学习笔记（2）
此文已由作者夏昀授权网易云社区发布. 欢迎访问网易云社区,了解更多网易技术产品运营经验. Model类如下:package com.xy.model 1 package com.xy.model;2 ...
Nuth | Hadoop完全分布式运行学习笔记
原始URL: hdfs://10.66.27.181:9000/user/hadoop/urldir url.txt -->http://blog.tianya.cn hdfs://10.66 ...
第一行代码学习笔记第五章——详解广播机制
知识点目录 5.1 广播机制 5.2 接收系统广播 * 5.2.1 动态注册监听网络变化 * 5.2.2 静态注册实现开机广播 5.3 发送自定义广播 * 5.3.1 发送标准广播 * 5.3.2 发 ...
Hadoop2.6.0学习笔记（九）SPOF解决方案Quorum机制
鲁春利的工作笔记,谁说程序员不能有文艺范? 以下内容转载自:Eric雪菲的Quorum机制漫谈和junhua3344的Quorum机制 Quorum这个词的念作"科瑞姆",字面意思 ...

分布式存储系统学习笔记(一)—什么是分布式系统(4)—容错机制

分布式存储系统学习笔记(一)—什么是分布式系统(4)—容错机制相关推荐

最新文章

热门文章