Hash算法

Hash 算法在路由算法应用中,为了保证数据均匀的分布,例如有 3 个桶,分别是 0 号桶, 1 号桶和 2 号桶;现在有 12 个球,怎么样才能让 12 个球平均分布到 3 个桶中呢?使用 Hash 算法的做法是,将 12 个球从 0 开始编号,得到这样的一个序列: 0,1,2,3,4,5,6,7,8,9,10,11 。将这个序列中的每个值模3,不管数字是什么,得到的结果都是 0,1,2 ,不会超过 3 ,将结果为 0 的数字放入 0 号桶,结果为 1 的数子放入 1 号桶,结果为 2 的数字放入2号桶,12个球就均匀的分布到 3 个桶中, 0,3,6,9,12 号球放入 0 号桶, 1,4,7,10 号球放入 1 号桶, 2,5,8,11 号球放入 2 号桶。

一致性Hash算法

一致性 Hash 算法在 1997 年由麻省理工学院提出的一种分布式哈希 (DHT) 实现算法,设计目标是为了解决因特网中的热点 (Hot Spot) 问题,初衷和 CARP 十分相似。一致性 Hash 修正了 CARP 使用的简单哈希算法带来的问题,使得分布式哈希 (DHT) 可以在 P2P 环境中真正得到应用。

一致性 Hash 算法也是使用取模的方法,只是,刚才描述的取模法是对服务器的数量进行取模,而一致性Hash算法是对 2^32 取模,什么意思呢?简单来说,一致性 Hash 算法将整个哈希值空间组织成一个虚拟的圆环,如假设某哈希函数H的值空间为 0-2^32-1 (即哈希值是一个32位无符号整形)。整个空间按 顺时针方向组织 ,圆环的正上方的点代表 0,0 点右侧的第一个点代表 1 ,以此类推, 2、3、4、5、6 ……直到 2^32-1 ,也就是说 0 点左侧的第一个点代表 2^32-1 , 0 和 2^32-1 在零点中方向重合,我们把这个由 2^32 个点组成的圆环称为 Hash环

特性定义

一致性 Hash 算法提出了在动态变化的 Cache 环境中,判定哈希算法好坏的四个定义:

1、平衡性(Balance):平衡性是指哈希的结果能够尽可能分布在所有的缓冲 (Cache) 中去,这样可以使得所有的缓冲空间得到利用。很多哈希算法都能够满足这一条件。

2、单调性(Monotonicity):单调性是指如果已经有一些内容通过哈希分派到了相应的缓冲中,又有新的缓冲加入到系统中。哈希的结果应该能够保证原有已分配的内容可以被映射到原有的或者新的缓冲中去,而不会映射到旧的缓冲集合中的其他缓冲区。

3、分散性(Spread):在分布式环境中,终端有可能看不到所有的缓冲,而只能看到其中的一部分。当终端希望通过哈希过程将内容映射到缓冲上去,由于不同终端所见的缓冲范围有可能不同,从而导致哈希的结果不一致,最终的结果是相同的内容被不同的终端映射到不同的缓冲区中。这种情况显然是应该避免的,因为它导致相同内容被存储到不同缓冲中去,降低了系统存储的效率。分散性的定义就是上述情况发生的严重程度。好的哈希算法应该能够尽量避免不一致的情况发生,也就是尽量降低分散性。

4、负载(Load):负载问题实际上是从另一个角度看待分散性问题。既然不同的终端可能将相同的内容映射到不同的缓冲区中,那么对于一个特定的缓冲区而言,也可能被不同的用户映射到不同的内容。与分散性一样,这种情况也是应当避免的,因此好的哈希算法应能够尽量降低缓冲的负荷。

下一步将各个服务器使用Hash进行一个哈希,具体可以选择 服务器的IP或主机名 作为 关键字 进行哈希,这样每台机器就能确定其在哈希环上的位置,这里假设将上文中四台服务器使用IP地址哈希后在环空间的位置如下:

接下来使用如下算法定位数据访问到相应服务器:将数据 key 使用相同的函数 Hash 计算出哈希值,并确定此数据在环上的位置,从此位置沿环顺时针“行走”,第一台遇到的服务器就是其应该定位到的服务器!

例如我们有 Object A 、 Object B 、 Object C 、 Object D 四个数据对象,经过哈希计算后,在环空间上的位置如下:

根据一致性 Hash 算法,数据 A 会被定为到 Node A 上, B 被定为到 Node B 上, C 被定为到 Node C 上, D 被定为到 Node D 上。

容错和可扩展

现假设 Node C 不幸宕机,可以看到此时对象 A、B、D 不会受到影响,只有 C 对象被重定位到 Node D 。一般的,在一致性 Hash 算法中,如果一台服务器不可用,则受影响的数据仅仅是此服务器到其环空间中前一台服务器(即沿着逆时针方向行走遇到的第一台服务器)之间数据,其它不会受到影响,如下所示:

下面考虑另外一种情况,如果在系统中增加一台服务器 Node X ,如下图所示:

此时对象 Object A、B、D 不受影响,只有对象 C 需要重定位到新的 Node X !一般的,在一致性 Hash 算法中,如果增加一台服务器,则受影响的数据仅仅是新服务器到其环空间中前一台服务器(即沿着逆时针方向行走遇到的第一台服务器)之间数据,其它数据也不会受到影响。

综上所述,一致性 Hash 算法对于节点的增减都只需重定位环空间中的一小部分数据,具有较好的容错性和可扩展性。

Hash环的数据倾斜问题

一致性 Hash 算法在 服务节点太少时 ,容易因为节点分部不均匀而造成 数据倾斜 (被缓存的对象大部分集中缓存在某一台服务器上)问题,例如系统中只有两台服务器,其环分布如下:

此时必然造成大量数据集中到 Node A 上,而只有极少量会定位到 Node B 上。为了解决这种数据倾斜问题,一致性 Hash 算法引入了虚拟节点机制,即对每一个服务节点计算多个哈希,每个计算结果位置都放置一个此服务节点,称为虚拟节点。具体做法可以在 服务器IP 或 主机名 的后面增加编号来实现。

例如上面的情况,可以为每台服务器计算三个虚拟节点,于是可以分别计算 “ Node A#1 ”、“ Node A#2 ”、“ Node A#3 ”、“ Node B#1 ”、“ Node B#2 ”、“ Node B#3 ”的哈希值,于是形成六个虚拟节点:

同时数据定位算法不变,只是多了一步虚拟节点到实际节点的映射,例如定位到“ Node A#1 ”、“ Node A#2 ”、“ Node A#3” 三个虚拟节点的数据均定位到 Node A 上。这样就解决了服务节点少时数据倾斜的问题。在实际应用中,通常将虚拟节点数设置为 32 甚至更大,因此即使很少的服务节点也能做到相对均匀的数据分布。

一致性hash算法虚拟节点_Hash算法和一致性Hash算法相关推荐

  1. 一致性hash算法虚拟节点_一致性哈希算法——虚拟节点

    一致性哈希算法--虚拟节点 一致性哈希算法是分布式系统中常用的算法.比如,一个分布式的存储系统,要将数据存储到具体的节点上,如果采用普通的hash方法,将数据映射到具体的节点上,如key%N,key是 ...

  2. 一致性哈希算法——虚拟节点

    2019独角兽企业重金招聘Python工程师标准>>> 一致性哈希算法--虚拟节点 一致性哈希算法是分布式系统中常用的算法.比如,一个分布式的存储系统,要将数据存储到具体的节点上,如 ...

  3. 一致性hash算法虚拟节点_一致性Hash算法原理详解

    数据分片 先让我们看一个例子吧: 我们经常会用 Redis 做缓存,把一些数据放在上面,以减少数据的压力. 当数据量少,访问压力不大的时候,通常一台Redis就能搞定,为了高可用,弄个主从也就足够了: ...

  4. 一致性hash算法虚拟节点_一致性 Hash 算法

    一致性哈希算法在1997年由麻省理工学院提出,设计目标是为了解决因特网中的热点(Hot spot)问题,初衷和CARP十分类似.一致性哈希修正了CARP使用的简单哈希算法带来的问题,使得DHT可以在P ...

  5. 一致性hash算法虚拟节点_一致性哈希虚拟节点

    采用固定哈希算法平衡负载 在大规模的缓存应用中,应运而生了分布式缓存系统.key-value如何均匀的分散到集群中?最常规的方式莫过于hash取模的方式.比如集群中可用机器适量为N,那么key值为K的 ...

  6. 一致性hash算法虚拟节点解决方案

    1 Hash算法应⽤场景 Hash算法在分布式集群架构中的应⽤场景 Hash算法在很多分布式集群产品中都有应⽤,⽐如分布式集群架构Redis.Hadoop.ElasticSearch, Mysql分库 ...

  7. 一致性hash算法虚拟节点_一致性hash和虚拟节点

    consistent hashing 算法的原理 consistent hashing 是一种 hash 算法,简单的说,在移除 / 添加一个 cache 时,它能够尽可能小的改变已存在key 映射关 ...

  8. 一致性hash和虚拟节点

    2019独角兽企业重金招聘Python工程师标准>>> consistent hashing 算法的原理 consistent hashing 是一种 hash 算法,简单的说,在移 ...

  9. 算法——所有节点对的最短路径:Floyd-Warshall算法、Johnson算法

    前言 前面介绍了单源最短路径问题,本文是介绍所有节点对的最短路径问题,首先我们会想到用前面所介绍的知识来求解该问题,根据不同类型的图可以用一下几种方法求解: 若无权重的图,则可以使用次BFS,时间复杂 ...

最新文章

  1. Spring Boot集成Sharding-jdbc + Mybatis-Plus实现分库分表
  2. python ndarray
  3. uiautomatorviewer_【问题】解决Android8.0以上运行不了uiautomatorviewer的办法
  4. boot.ini文件解密
  5. VTK:多数据点用法实战
  6. 【Linux】 Linux 系统文件相关的操作命令
  7. 如何创建SAP Cloud Platform Process Integration runtime服务
  8. 任何傅里叶级数展开和卷积可以参考一下页面
  9. GCD API 理解 (一)
  10. springboot 2.0版本自定义ReidsCacheManager的改变
  11. 计算机网络—体系结构相关真题练习(二)
  12. python爬取数据时怎么将空值转化为0_大数据分析实训 | 成都信息工程大学篇
  13. dB dBm dBW 的关系与换算
  14. 【bzoj1059】 ZJOI2007矩阵游戏 二分图匹配
  15. 如何加速android模拟器,Android模拟器运行慢怎么办 Android模拟器如何加速【加速方法】...
  16. 报错信息:Avoid mutating a prop directly since the value will be overwritten
  17. 磁盘管理关于磁盘的概念
  18. elasticsearch基础3——聚合、补全、集群
  19. 让Octave支持中文
  20. 2018年中国居民收入与GDP增速基本同步

热门文章

  1. C++(Windows下计算时间变化(时间差))
  2. 中缀表达式转化为后缀表达式
  3. 公众号管理01-基本架构
  4. ERROR 2002 (HY000): Can't connect to local MySQL server through socket '/tmp/mysql.sock' (2)
  5. spring boot: GlobalDefaultExceptionHandler方法内的友好错误提示,全局异常捕获
  6. 2-数组中重复的数字
  7. 操作系统之CPU调度
  8. 5.1 HTML5表单的创建
  9. Fragment官方解析
  10. android 入门-引用库项目