主从结构的单点故障

1.在大数据的领域之中,体系结构都是主从结构(存在主节点和从节点)

在此当中单点指的是主节点发生故障,主节点的故障会导致整个集群无法访问。无论是何种集群主节点的故障导致的结果都相似。

集群 主节点 从节点
HDFS NameNode DateNode
Yarn resourceManager NodeManager
HBase HMaster RegionServer
Storn Nimbus Supervisor
Spark Master Worker


通过创造多个主节点来避免当个主节点发生故障导致的集群无法访问。


不同的集群都需要借助ZooKeeper来实现HA。
2.集群的配置
Zookeeper集群:
192.168.157.12 (bigdata12)
192.168.157.13 (bigdata13)
192.168.157.14 (bigdata14)
Hadoop集群:
192.168.157.12 (bigdata12) NameNode1 ResourceManager1 Journalnode
192.168.157.13 (bigdata13) NameNode2 ResourceManager2 Journalnode
192.168.157.14 (bigdata14) DataNode1
192.168.157.15 (bigdata15) DataNode2
日志输出信息:


我们可以观察到两个主节点并不是都是Active的状态而是一个active一个standby。而且在Active状态下的主节点出现故障是可以自动将Standby状态下的主节点转化为active的状态从而实现应对单节故障导致集群无法访问的结果。

通过使用ZooKeeper解决单点故障理论相关推荐

  1. 解决单点故障 - 有状态服务的高可用

    导语 本文介绍如何用Raft协议做有状态服务的高可用,以及提升性能. 高可用HA(High Availability)是分布式系统架构设计中必须考虑的因素之一,它通常是指,通过设计减少系统不能提供服务 ...

  2. ZooKeeper和CAP理论及一致性原则

    ZooKeeper和CAP理论及一致性原则 一.CAP理论概述 CAP理论告诉我们,一个分布式系统不可能同时满足以下三种 一致性(C:Consistency) 可用性(A:Available) 分区容 ...

  3. zookeeper适用场景:zookeeper解决了哪些问题

    zookeeper适用场景:zookeeper解决了哪些问题 参考文章: (1)zookeeper适用场景:zookeeper解决了哪些问题 (2)https://www.cnblogs.com/li ...

  4. Keepalived+nginx 集群解决单点故障

    Keepalived+nginx 集群解决单点故障 nginx作为负载均衡器,所有请求都到了nginx服务器,可见nginx处于一个非常重要的位置,如果nginx服务器宕机,那么后台的服务器将无法提供 ...

  5. MySQL主主+Keepalived高可用(一):解决单点故障

    在企业中,一般系统架构的瓶颈会出现在数据库这一部分,Mysql主从架构在很大程度上解决了这部分瓶颈,但是在Mysql主从同步的架构也存在很多问题.比如: 1. 关于数据写入部分(也就是主库)往往很难做 ...

  6. 计算理论是研究用计算机解决,可计算性理论

    可计算性理论(Computability theory)作为计算理论的一个分支,研究在不同的计算模型下哪些算法问题能够被解决.相对应的,计算理论的另一块主要内容,计算复杂性理论考虑一个问题怎样才能被有 ...

  7. Linux-Memcache分布式部署方案(magent代理解决单点故障)

    Memcached的特点 Memcached作为高速运行的分布式缓存服务器具有以下特点. 1. 协议简单:memcached的服务器客户端通信并不使用复杂的MXL等格式, 而是使用简单的基于文本的协议 ...

  8. 网络互通、VLAN、单点故障理论讲解

    网络互通 什么是网络?所谓的网路,就是由所有想要上网的设备,连接在一起. 什么是互通?我给你发送数据包,你也可以给我回应数据包.[互通,是个双向] 概括的说:任何两个设备之间的通信,任何一个方向,永远 ...

  9. 分布式协调组件ZooKeeper的技术理论剖析-综合组件环境实战

    本套技术专栏是作者(秦凯新)平时工作的总结和升华,通过从真实商业环境抽取案例进行总结和分享,并给出商业应用的调优建议和集群环境容量规划等内容,请持续关注本套博客.QQ邮箱地址:1120746959@q ...

最新文章

  1. 入门单片机选择51还是stm32?入门单片机有哪些好的教学视频?
  2. 移动端H5页面高清多屏适配方案
  3. 使用Java方法实现 Double和String相互转化
  4. window oracle 只有bak文件怎么恢复_Oracle 11g R2 RAC数据库备份通过RMAN恢复到单实例数据库实现...
  5. Modbus RTU 通信应用案例
  6. Linux之物理页面的分配
  7. python不简单_不简单的python- 01基础
  8. 代码抽象_如何通过抽象使代码更具可读性
  9. 【免费毕设】ASP.NET通用作业批改系统设计(源代码+lunwen)
  10. Silverlight初级教程-概述
  11. Snipaste2.7.3下载安装与使用(超实用的截图利器)
  12. 深度学习(6): RNN
  13. 人工智能之父图灵之死:谜一样的解谜者
  14. win7网上邻居_win7系统关闭电脑端口的操作方法
  15. JavaScript给按钮绑定点击事件(onclick)的方法及js常见事件
  16. JMeter Address Already in use 错误解决
  17. 返利营销平台案例简略分析
  18. 阿翔编程学-系统安全
  19. Python中的左斜杠、右斜杠(正斜杠和反斜杠)
  20. YouTuBe各类优秀频道推荐三猎奇

热门文章

  1. OpenMMLab 实战营打卡 - 第 四 课 目标检测算法基础
  2. 如何用vits训练模型
  3. grep中的正则表达式
  4. Zephyr (nrf)
  5. 目前所有ewebeditor版本***的漏洞与问题总结
  6. shell脚本一键装机(pxe配合kickstart无人值守)
  7. JavaScript教程-setTimeout,setInterval,
  8. 让你眼前一亮——智慧之眼(Python代码实现)
  9. ubuntu下,在QT中利用科大讯飞语音库实现语音合成TTS
  10. 二手15年13寸MacBook Pro性价比有多高?网友表示值得买