图解一致性hash算法

Posted 2021-04-12 不一样的程序员

一致性hash算法

1、平衡性

  平衡性是指哈希的结果能够尽可能分布在所有的缓冲(Cache)中去，这样可以使得所有的缓冲空间得到利用。很多哈希算法都能够满足这一条件。

2、单调性：

  单调性是指如果已经有一些内容通过哈希分派到了相应的缓冲中，又有新的缓冲加入到系统中。哈希的结果应该能够保证原有已分配的内容可以被映射到原有的或者新的缓冲中去，而不会映射到旧的缓冲集合中的其他缓冲区。

3、分散性：

  在分布式环境中，终端有可能看不到所有的缓冲，而只能看到其中的一部分。当终端希望通过哈希过程将内容映射到缓冲上去，由于不同终端所见的缓冲范围有可能不同，从而导致哈希的结果不一致，最终的结果是相同的内容被不同的终端映射到不同的缓冲区中。这种情况显然是应该避免的，因为它导致相同内容被存储到不同缓冲中去，降低了系统存储的效率。分散性的定义就是上述情况发生的严重程度。好的哈希算法应该能够尽量避免不一致的情况发生，也就是尽量降低分散性。

4、负载：

  负载问题实际上是从另一个角度看待分散性问题。既然不同的终端可能将相同的内容映射到不同的缓冲区中，那么对于一个特定的缓冲区而言，也可能被不同的用户映射到不同的内容。与分散性一样，这种情况也是应当避免的，因此好的哈希算法应能够尽量降低缓冲的负荷。

算法原理

  1、简单来说，一致性哈希将整个哈希值空间组织成一个虚拟的圆环，如假设某哈希函数H的值空间为0-2^32-1（即哈希值是一个32位无符号整形），整个哈希空间环如下：
  2、整个空间按顺时针方向组织。0到2的32次方减1

2^{32} -1

  4、根据一致性哈希算法，数据A会被定为到Node 1上，数据B被定为到Node 2上，数据C被定为到Node 3上，数据D被定为到Node 4上。下面分析一致性哈希算法的容错性和可扩展性。现假设Node 3不幸宕机，可以看到此时数据A、B、D不会受到影响，只有数据C被重定位到Node 4。一般的，在一致性哈希算法中，如果一台服务器不可用，则受影响的数据仅仅是此服务器到其环空间中前一台服务器（即沿着逆时针方向行走遇到的第一台服务器）之间数据，其它不会受到影响。
下面考虑另外一种情况，如果在系统中增加一台服务器Node X，如下图所示：

  5、此时对象Object A、B、D不受影响，只有对象C需要重定位到新的Node X 。一般的，在一致性哈希算法中，如果增加一台服务器，则受影响的数据仅仅是新服务器到其环空间中前一台服务器（即沿着逆时针方向行走遇到的第一台服务器）之间数据，其它数据也不会受到影响。

  综上所述，一致性哈希算法对于节点的增减都只需重定位环空间中的一小部分数据，具有较好的容错性和可扩展性。另外，一致性哈希算法在服务节点太少时，容易因为节点分布不均匀而造成数据倾斜问题。

  例如系统中只有两台服务器，其环分布如下，
  6、此时必然造成大量数据集中到Node 1上，而只有极少量会定位到Node 2上如下图：

  为了解决这种数据倾斜问题，一致性哈希算法引入了虚拟节点机制，即对每一个服务节点计算多个哈希，每个计算结果位置都放置一个此服务节点，称为虚拟节点。具体做法可以在服务器ip或主机名的后面增加编号来实现。
  例如上面的情况，可以为每台服务器计算三个虚拟节点，于是可以分别计算 “Node 1”、“Node 1#”、“Node 1#”、“Node 2”、“Node 2#”、“Node2#”的哈希值，于是形成六个虚拟节点：

  7、同时数据定位算法不变，只是多了一步虚拟节点到实际节点的映射，例如定位到“Node 1#”、“Node 1”、“Node 1#”三个虚拟节点的数据均定位到Node 1上。这样就解决了服务节点少时数据倾斜的问题。在实际应用中，通常将虚拟节点数设置为32甚至更大，因此即使很少的服务节点也能做到相对均匀的数据分布。