Elasticsearch：理解 Master，Elections，Quorum 及 脑裂
集群中的每个节点都可以分配多个角色：master、data、ingest、ml（机器学习）等。 我们在当前讨论中感兴趣的角色之一是 master 角色。 在 Elasticsearch 的配置中，我们可以配置一个节点为 master 节点。master 角色的分配表明该节点是具有当选主节点资格的节点（master-eligible）。 在讨论主节点资格之前，让我们了解主节点的重要性。更多关于节点描述的内容，可以参考之前的文章 “Elasticsearch 中的一些重要概念: cluster, node, index, document, shards 及 replica”。
Master node
Master node，也即主节点。主节点负责集群范围内的操作，例如为节点分配分片、索引管理和其他轻量级操作。 主节点是一个关键组件，负责保持集群健康。 它努力保持集群和节点社区的状态完好无损。 一个集群只有一个主节点，其唯一的工作就是负责集群的操作 —— 仅此而已。
Master-eligible 节点是一组被标记为 master 角色的节点。 为节点分配 master 节点角色并不意味着该节点成为集群主节点，但如果选出的主节点崩溃，则离成为集群主节点更近了一步。 请记住，如果有机会，其他符合主节点资格的节点也有可能成为主节点，因此它们也离成为主节点更近了一步。
你可能会问，符合主节点资格的节点有什么用！ 每个符合主节点资格的节点都会行使投票权来选择集群的主节点。 在幕后，当我们第一次启动节点以形成集群或主节点死亡时，首先采取的步骤之一就是选举一个主节点。 让我们在下一节中了解有关主集群选举的所有信息。
主节点选举
主集群是通过选举民主选出的！ 当集群第一次形成或当前主节点死亡时，将举行一次选举以选择一个主节点。 作为选举的一部分，所有符合主节点资格的节点都会选择其中一个作为主节点。 然后，如果 master 由于某种原因崩溃，任何符合 master 资格的节点都会要求进行选举。 成员投票选举新的主人。一旦被选中，主节点将接管集群管理的职责。
并非所有的日子都是快乐的日子； — 在一些无法控制的情况下，主节点可能被干掉。 因此，符合主节点资格的节点会不断与主节点通信以确保其处于活动状态，并通知主节点自己的状态。 当 master 节点不在后，节点们迫在眉睫的工作就是发起选举，选出新的 master。
有一些属性，例如 cluster.election.duration 和 cluster.election.initial_timeout，可以帮助我们配置选举频率以及在符合主节点资格的节点要求选举之前等待多长时间。 例如，initial_timeout 属性是符合主节点资格的节点在请求选举之前等待的时间。 默认情况下，此值设置为 500 毫秒。 例如，假设符合主节点条件的节点 A 在 500 毫秒内没有从主节点接收到心跳。 然后它要求进行选举，因为它认为 master 已经不在了。
除了选举主节点之外，符合主节点资格的节点还必须协同工作才能使集群运行顺利进行。 然而，虽然 master 是集群的 “王”，但它需要得到其他符合 master 资格的节点的支持和支持。 master 的作用是维护和管理集群状态，所以让我们在下一节中看一下。
集群状态 - Cluster state
集群状态包含有关分片、副本、模式、映射、字段信息等的所有元数据。 这些详细信息作为全局状态存储在集群中，并写入每个节点。 主节点是唯一可以提交集群状态的节点。 它有更多的责任来维护集群的最新信息。 主节点分阶段提交集群数据（类似于分布式架构中的两阶段提交事务）：
- 主节点计算集群变化并将它们发布到各个节点，然后等待确认。
- 每个节点都会收到集群更新，但它们尚未应用于其本地状态。 收到后，他们将确认发回给主节点。
- 当从符合主节点资格的节点接收到一定数量的确认时（主节点不需要等待来自每个节点的确认，只需等待符合主节点资格的节点），主节点提交更改以更新集群状态。
- 主节点在成功提交集群更改后，向各个节点广播最终消息，指示它们提交先前收到的集群更改。
- 各个节点提交集群更新。
cluster.publish.timeout 属性设置了一个时间限制（默认为 30 秒），以成功提交每批集群更新。 此期间从向节点发布第一个集群更新消息的时间开始，直到提交集群状态。 如果全局集群更新在默认的 30 秒内成功提交，则 master 会等到这段时间过去，然后再开始下一批集群更新。 然而，故事并没有就此结束！
如果在给定的 30 秒内未提交集群更新，则可能是主节点已死亡。 在这种情况下，当前的 master 拒绝集群更新并辞去 master 的职位。 新主节点的选举因此开始。
尽管全局集群更新已提交，但 master 仍在等待那些尚未发回确认的节点。 除非收到确认，否则 master 无法将此集群更新标记为成功。 在这种情况下，master 会跟踪这些节点并等待 90 秒的宽限期，该宽限期由 cluster.follower_lag.timeout 属性设置，默认为 90 秒。 如果节点在这 90 秒的宽限期内没有响应，它们将被标记为故障节点，结果，主节点将它们从集群中移除。
正如你现在可能已经了解到的那样，Elasticsearch 的幕后发生了很多事情。 集群更新频繁发生，而 master 有大量责任维护移动部件。 在前面的集群更新场景中，master 在继续提交状态之前等待来自一组称为 quorum 的 master-eligible 节点的确认，而不是等待其余节点。 quorum 是 master 有效运行所需的最少 master 节点数，这将在下面来详细描述。
Quorum - 法定节点数
主节点负责维护和管理集群。 但是，它会咨询符合主节点资格的法定节点数以进行集群状态更新和主节点选举。 法定节点数是主节点有效操作集群所需的主节点合格节点的精心选择的子集。 这是主节点将咨询的大多数节点，以便在集群状态和其他问题上达成共识。
虽然我们正在了解法定节点数，但好消息是我们（用户/管理员）不必担心如何形成法定节点数。 集群根据可用的符合主节点资格的节点自动制定法定节点数。 给定一组符合主节点条件的节点，有一个简单的公式可以找到所需的最小主节点数（法定节点数）：
Minimum number of master nodes = (number of master-eligible nodes / 2) + 1假设我们有一个 20 节点的集群，我们有 8 个节点被分配为符合主节点条件的节点（节点角色设置为主节点）。 通过应用这个公式，我们的集群创建了一个具有（精心选择的）5 个符合主节点资格的节点 (8 / 2 + 1 = 5) 的法定节点数。 这个想法是我们需要至少 5 个合格的主节点来形成一个法定节点数。
经验法则是，任何节点集群中推荐的最少 master-eligible 成员为三个。 至少设置三个主节点是管理集群的必经之路。 在集群法定人数中拥有至少三个节点的另一大优势是这可以缓解裂脑问题，这将在下一节中讨论。
脑裂 - Split brain
Elasticsearch 的集群健康状况严重依赖于多种因素：网络、内存、JVM 垃圾回收等。 在某些情况下，集群会被分成两个集群：一个集群中有几个节点，另一个集群中有一些节点。 例如，请看下图：
正如你在图中看到的，我们有一个集群，其中有两个符合主节点资格的节点，但其中一个（节点 A）被选为主节点。 只要我们处于快乐的一天状态，集群就是健康的，主节点尽职尽责。
让我们在工作中有所作为。 假设节点 B 由于硬件问题而停止运行。 因为节点 A 是主节点，它会继续使用手头的一个节点为查询提供服务：我们实际上拥有一个单节点集群，同时我们等待另一个节点 B 启动以加入集群。
这就是它可能变得棘手的地方。 在启动时，假设网络连接严重，使得节点 B 无法看到节点 A 的存在。这导致节点 B 承担主角色，因为它认为集群中没有主节点，即使节点 A 作为主节点存在. 这会导致如下图所示的裂脑情况：
因为两个节点由于网络问题没有通信，所以它们仍然愉快地工作，成为集群的一部分。 因为两个节点都是主节点，所以任何到达其中任何一个的请求都只能由接收节点执行。 然而，一个节点中的数据对另一个节点不可见，这会导致数据差异。 这就是为什么我们应该在一个集群中至少有三个符合主节点资格的节点的原因之一。 拥有三个节点可以完全避免脑裂集群的形成。
专用主节点
因为可以为一个节点分配多个角色，所以看到一个包含 20 个节点的集群，其中所有节点都执行所有角色并不奇怪。 创建这种类型的集群架构没有坏处； 但是，这种类型的设置仅适用于轻量级集群需求。 正如我们已经了解到的，主节点是集群中的关键节点，它使集群保持运转。
如果预计数据将以指数增长速度被索引或搜索，则包括主节点在内的每个节点都会受到性能影响。 一个性能缓慢的主节点是在自找麻烦：集群运行速度变慢甚至停滞。 因此，始终建议创建一台专用机器来托管主节点。 拥有专用的主节点可以让集群平稳运行并减少数据丢失和应用程序停机时间。
如前所述，经验法则是至少在一个集群中拥有三个专用的符合主节点条件的节点。 形成集群时，请确保将 node.roles 设置为 master，如以下代码片段所示，以创建节点专用的主节点。 这样，专用主角色就不会超载来执行数据或摄取相关操作，而只是全职管理集群。
node.roles: [ master ]Elasticsearch：理解 Master，Elections，Quorum 及 脑裂相关推荐
- 【Elasticsearch】es 脑裂
1.概述 转载:https://blog.csdn.net/yangshangwei/article/details/103997630 参考:[Elasticsearch]zen discovery ...
- Elasticsearch多master配置及x-pack破解
x-pack是ELK的一个插件,集监控.权限.告警等于一体.支持集群级别.节点级别.索引级别的监控;支持索引.字段级别的权限控制.x-pack目前并不开源,试用期一个月.本着自用方便,尝试破解. 多m ...
- Elasticsearch master节点的作用以及脑裂现象
Master节点 Master节点的主要职责是和集群操作相关的内容,例如创建或删除索引.跟踪哪些节点是集群的一部分,并决定哪些分片分配给相关的节点. 稳定的主节点对集群的健康是非常重要的.默认情况下任 ...
- Elasticsearch之集群脑裂
集群脑裂是什么? 所谓脑裂问题(类似于精神分裂),就是同一个集群中的不同节点,对于集群的状态有了不一样的理解. 由于某些节点的失效,部分节点的网络连接会断开,并形成一个与原集群一样名字的集群,这种情况 ...
- 白话Elasticsearch65-最少master候选节点以及ES集群脑裂问题
文章目录 概述 脑裂的成因分析 重要参数:discovery.zen.minimum_master_nodes 举例说明 3个节点,discovery.zen.minimum_master_nodes ...
- Elasticsearch集群的脑裂问题
所谓脑裂问题(类似于精神分裂),就是同一个集群中的不同节点,对于集群的状态有了不一样的理解. 今天,Elasticsearch集群出现了查询极端缓慢的情况,通过以下命令查看集群状态: curl -XG ...
- Elasticsearch集群“脑裂”现象
1.什么是Elasticsearch集群脑裂 Elasticsearch集群由一个主节点(可以有多个备选主节点)和多个数据节点组成.其中主节点负责创建.删除索引.分配分片.追踪集群中的节点状态等工作, ...
- 【Zookeeper】Zookeeper集群“脑裂”问题处理大全
本文重点分享Zookeeper脑裂问题的处理办法.ZooKeeper是用来协调(同步)分布式进程的服务,提供了一个简单高性能的协调内核,用户可以在此之上构建更多复杂的分布式协调功能. 脑裂通常会出现在 ...
- Zookeeper集群脑裂问题
关于集群中的"脑裂"问题,之前已经在这里详细介绍过,下面重点说下Zookeeper脑裂问题的处理办法.ooKeeper是用来协调(同步)分布式进程的服务,提供了一个简单高性能的协调 ...
最新文章
- FPGA转载文章目录
- 揪出MySQL延迟上千秒的元凶
- Java集合学习_Java集合学习（适合新手）
- matlab抓取股票数据,Matlab经过sina web接口获取个数即时股票数据函数实现代码
- PowerShell 收集计算机相关信息
- 线程的创建开销大吗？线程创建开销包括哪些？线程池
- 以太坊智能合约生命周期（Ethereum smart contracts lifecycle）
- 21_Android中常见对话框，光传感器，通过重力感应器编写出指南针应用，帧动画，通过Jav代码的方式编写补间动画，通过XML的方式编写补间动画
- 老生常谈.优化linux内核参数
- 组合数学与数论函数专题
- 真正理解 git fetch, git pull 以及 FETCH_HEAD
- 外卖红包深度研究报告：千亿市场下的公号私域
- 【折腾】斐讯N1 安装 Docker + GUI
- 使用sp_executesql存储过程执行动态SQL查询
- 江苏大学考研885程序设计 - 填空选择知识点
- 块裁剪后的矩形边界如何去掉_如何3分钟剪辑出满意的视频号视频？
- String赋值方式
- 微信编辑器的文章复制到公众号以后乱码怎么解决？
- 一步步教你如何在线申请国内商标
- Java 近期新闻：Grail 5.0、Spring、Hibernate、WildFly 及 Kotlin Multik 开发库更新