ELasticSearch-ES集群原理与搭建
ES集群原理
查看集群健康状况:URL+ /GET _cat/health
(1)、首先弄清ES基本概念名词
Cluster
代表一个集群,集群中有多个节点,其中有一个为主节点,这个主节点是可以通过选举产生的,主从节点是对于集群内部来说的。es的一个概念就是去中心化,字面上理解就是无中心节点,这是对于集群外部来说的,因为从外部来看es集群,在逻辑上是个整体,你与任何一个节点的通信和与整个es集群通信是等价的。
Shards
代表索引分片,es可以把一个完整的索引分成多个分片,这样的好处是可以把一个大的索引拆分成多个,分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定,并且索引创建后不能更改。
replicas
代表索引副本,es可以设置多个索引的副本,副本的作用一是提高系统的容错性,当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率,es会自动对搜索请求进行负载均衡。
Recovery
代表数据恢复或叫数据重新分布,es在有节点加入或退出时会根据机器的负载对索引分片进行重新分配,挂掉的节点重新启动时也会进行数据恢复。
(2)、ES为什么要实现集群
在单台ES服务器节点上,随着业务量的发展索引文件慢慢增多,会影响到效率和内存存储问题等。
我们可以采用ES集群,将单个索引的分片到多个不同分布式物理机器上存储,从而可以实现高可用、容错性等。
ES集群中索引可能由多个分片构成,并且每个分片可以拥有多个副本。通过将一个单独的索引分为多个分片,我们可以处理不能在一个单一的服务器上面运行的大型索引,简单的说就是索引的大小过大,导致效率问题。不能运行的原因可能是内存也可能是存储。由于每个分片可以有多个副本,通过将副本分配到多个服务器,可以提高查询的负载能力。
(3)、ES是如何解决高并发
ES是一个分布式全文检索框架,隐藏了复杂的处理机制,内部使用 分片机制、集群发现、分片负载均衡请求路由。
Shards 分片:代表索引分片,es可以把一个完整的索引分成多个分片,这样的好处是可以把一个大的索引拆分成多个,分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定,并且索引创建后不能更改。
Replicas分片:代表索引副本,es可以设置多个索引的副本,副本的作用一是提高系统的容错性,当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率,es会自动对搜索请求进行负载均衡。
二、ES集群核心原理分析:
1、每个索引会被分成多个分片shards进行存储,默认创建索引是分配5个分片进行存储。每个分片都会分布式部署在多个不同的节点上进行部署,该分片成为primary shards。
注意:索引的主分片primary shards定义好后,后面不能做修改。
2、为了实现高可用数据的高可用,主分片可以有对应的备分片replics shards,replic shards分片承载了负责容错、以及请求的负载均衡。
注意: 每一个主分片为了实现高可用,都会有自己对应的备分片,主分片对应的备分片不能存放同一台服务器上。主分片primary shards可以和其他replics shards存放在同一个node节点上。
3、documnet routing(数据路由)
当客户端发起创建document的时候,es需要确定这个document放在该index哪个shard上。这个过程就是数据路由。
路由算法:shard = hash(routing) % number_of_primary_shards
如果number_of_primary_shards在查询的时候取余发生的变化,无法获取到该数据
注意:索引的主分片数量定义好后,不能被修改
高可用视图分析(下图所示:上面的图,如果节点1与节点2宕机了,es集群数据就不完整了。下面图,如果节点1与节点2宕机了,es集群数据还是完整的)
三、ES集群的搭建
(1)、服务器环境
准备三台服务器集群
服务器名称 |
IP地址 |
node-1 |
192.168.212.182 |
node-2 |
192.168.212.183 |
node-3 |
192.168.212.184 |
1、vi elasticsearch.yml 修改配置文件
2、cluster.name: myes ###保证三台服务器节点集群名称相同
3、node.name: node-1 #### 每个节点名称不一样 其他两台为node-1 ,node-2
4、network.host: 192.168.212.180 #### 实际服务器ip地址
5、discovery.zen.ping.unicast.hosts: ["192.168.212.184", "192.168.212.185","192.168.212.186"] ##多个服务集群ip
6、discovery.zen.minimum_master_nodes: 1
(2)、关闭防火墙
systemctl stop firewalld.service
(3)、http://192.168.212.185:9200/_cat/nodes?pretty
*号表示为master节点
注意:
注意克隆data文件会导致数据不同步
报该错误解决办法 :
failed to send join request to master
因为克隆导致data文件也克隆呢,直接清除每台服务器data文件。
ELasticSearch-ES集群原理与搭建相关推荐
- Linux搭建ElasticSearch(ES)集群并设置密码登录
1. 环境信息 操作系统:CentOS7或者Amazon Linux 2 内核架构:x86_64 ElasticSearch版本:6.8.10 JDK版本:8u351 本次搭建的3台服务器IP地址: ...
- ElasticSearch之集群原理
ElasticSearch 的主旨是随时可用和按需扩容. 而扩容可以通过购买性能更强大(垂直扩容,或 纵向扩容) 或者数量更多的服务器(水平扩容,或 横向扩容 )来实现. 虽然 ElasticSear ...
- redis 集群搭建_一文轻松搞懂redis集群原理及搭建与使用
转载:https://juejin.im/post/5ad54d76f265da23970759d3 作者:SnailClimb 这里总结一下redis集群的搭建以便日后所需同时也希望能对你有所帮助. ...
- 消息中间件—RabbitMQ(集群原理与搭建篇)
一般来说,如果只是为了学习RabbitMQ或者验证业务工程的正确性那么在本地环境或者测试环境上使用其单实例部署就可以了,但是出于MQ中间件本身的可靠性.并发性.吞吐量和消息堆积能力等问题的考虑,在生产 ...
- es集群节点加入失败join validation on cluster state with a different cluster uuid...than local cluster uuid..
本来之前已经将es集群搭建完成了,但是不小心使用rm -rf /var/lib把文件删除了,我本来只想删除/var/lib下的一个文件夹的,结果删错了,整个集群没了,这,,,,还好集群上跑的都是一些测 ...
- es集群搭建_滴滴Elasticsearch 集群跨版本升级与平台重构之路
前不久,滴滴ES团队将维护的30多个ES集群,3500多个ES节点,8PB的数据,从2.3.3跨大版本无缝升级到6.6.1.在对用户查询写入基本零影响和改动的前提下,解决了ES跨大版本协议不兼容.文件 ...
- elasticsearch系列八:ES 集群管理(集群规划、集群搭建、集群管理)
一.集群规划 搭建一个集群我们需要考虑如下几个问题: 1. 我们需要多大规模的集群? 2. 集群中的节点角色如何分配? 3. 如何避免脑裂问题? 4. 索引应该设置多少个分片? 5. 分片应该设置几个 ...
- ElasticSearch 5. 搭建ES集群
Elasticsearch集群 1. why? 提高负载能力 提高存储容量上限 实现高可用 提高并发处理能力 - 2. 数据分片(Shard) es集群把数据拆分成多份,每一份存储到不同节点(no ...
- ElasticSearch学习笔记(8)· ES集群的搭建
目录 十三.集群的实现 1.相关概念 集群(cluster) 节点(node) 分配和复制(shards & replicas) 2.快速搭建集群 3.安装head插件 十三.集群的实现 1. ...
最新文章
- NameValueCollection详解
- 《可穿戴创意设计:技术与时尚的融合》一一第2章 与可穿戴设备有关的故事...
- java machine 报错_Eclipse启动时报错:No java virtual machine
- 天翼云从业认证(3.4)云数据库
- java mock server_java – 使用MockRestServiceServer模拟REST调用
- 03-搭建Eureka注册中心和服务端
- 大数相关计算(c语言版)
- win8计算机里没有用户,win8.1系统没有选择切换账户菜单怎么办|win8.1系统切换用户的方法...
- SpringBoot配置redis
- tf2多种方式对图像数据集进行预处理
- multisim C语言编程,基于Multisim10的51单片机仿真实战教程:使用汇编和C语言
- python 学习笔记2
- k8s安装 从k8s.gcr.io 拉取镜像失败
- Qlikview---日期字段
- 探讨服务端自定义生成PDF的几种方案
- elasticsearch学习 part4
- 移动硬盘接口坏了怎么办解决教程
- 服务器的系统日志路径,DirectAdmin 日志路径各种系统中查看方法Windows服务器操作系统 -电脑资料...
- 测试开发面试(八)——进程与线程、python数据结构、数据库
- Cadence allegro 17.4 PCB DRC检查
热门文章
- 使用批处理成批添加打印机(含打印服务器)
- 【leetcode-Python】-Dynamic Programming -122. Best Time to Buy and Sell Stock II
- HTML+CSS一级导航栏
- PC微信逆向:使用HOOK获取好友列表和群列表
- jav101上不去_去101
- virtualbox拷贝文件夹 linux,VirtualBox下快速创建新的虚拟机——复制vdi文件
- 雪亮工程解决方案-最新全套文件
- 李阳标准美语发音宝典(音标疯狂外号)
- 关于IFrame表述正确的有:()
- VC++控件的汉字及颜色的编程控制