分布式锁都有哪些?

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了分布式锁都有哪些?相关的知识,希望对你有一定的参考价值。

参考技术A

单体架构的应用可以直接使用synchronized或者ReentrantLock就可以解决多线程资源竞争的问题。如果公司业务发展较快,可以通过部署多个服务节点来提高系统的并行处理能力。由于本地锁的作用范围只限于当前应用的线程。高并发场景下,集群中某个应用的本地锁并不会对其它应用的资源访问产生互斥,就会产生数据不一致的问题,所以分布锁就派上了用场。

利用select … where … for update 排他锁

所谓乐观锁与前边最大区别在于基于CAS思想,是不具有互斥性,不会产生锁等待而消耗资源,操作过程中认为不存在并发冲突,只有update version失败后才能觉察到。我们的抢购、秒杀就是用了这种实现以防止超卖。通过增加递增的版本号字段实现乐观锁

思路: 另启一个服务,利用jdk并发工具来控制唯一资源,如在服务中维护一个concurrentHashMap,其他服务对某个key请求锁时,通过该服务暴露的端口,以网络通信的方式发送消息,服务端解析这个消息,将concurrentHashMap中的key对应值设为true,分布式锁请求成功,可以采用基于netty通信调用,当然你想用java的bio、nio或者整合dubbo、spring cloud feign来实现通信也没问题

在高并发场景下,应用程序在执行过程中往往会受到网络、CPU、内存等因素的影响,所以实现一个线程安全的分布式组件,往往需要考虑很多case,这个分布式锁有 3 个重要的考量点:

下面是redis分布式锁的各种实现方式和缺点,按照时间的发展排序:

直接利用setnx,执行完业务逻辑后调用del释放锁,简单粗暴!

为了改正第一个方法的缺陷,我们用setnx获取锁,然后用expire对其设置一个过期时间,如果服务挂了,过期时间一到自动释放

redis官方为了解决第二种方式存在的缺点,在2.8版本为set指令添加了扩展参数nx和ex,保证了setnx+expire的原子性,使用方法:set key value ex 5 nx

上面所说的第一个缺点,没有特别好的解决方法,只能把过期时间尽量设置的长一点,并且最好不要执行耗时任务 第二个缺点,可以理解为当前线程有可能会释放其他线程的锁,那么问题就转换为保证线程只能释放当前线程持有的锁,即setnx的时候将value设为任务的唯一id,释放的时候先get key比较一下value是否与当前的id相同,是则释放,否则抛异常回滚,其实也是变相地解决了第一个问题

我们可以用lua来写一个getkey并比较的脚本,jedis/luttce/redisson对lua脚本都有很好的支持

为了解决上面提到的redis集群中的分布式锁问题,redis的作者antirez的提出了red lock的概念,假设集群中所有的n个master节点完全独立,并且没有主从同步,此时对所有的节点都去setnx,并且设置一个请求过期时间re和锁的过期时间le,同时re必须小于le(可以理解,不然请求3秒才拿到锁,而锁的过期时间只有1秒也太蠢了),此时如果有n / 2 + 1个节点成功拿到锁,此次分布式锁就算申请成功

ZooKeeper是一个为分布式应用提供一致性服务的开源组件,它内部是一个分层的文件系统目录树结构,规定同一个目录下只能有一个唯一文件名。基于ZooKeeper实现分布式锁的步骤如下:

(1)redis set px nx + 唯一id + lua脚本

综上所得:

没有绝对完美的实现方式,具体要选择哪一种分布式锁,需要结合每一种锁的优缺点和业务特点而定。

面试必问:一般实现分布式锁都有哪些方式?

优质文章,第一时间送达

面试题

  • 一般实现分布式锁都有哪些方式?

  • 使用 redis 如何设计分布式锁?

  • 使用 zk 来设计分布式锁可以吗?

  • 这两种分布式锁的实现方式哪种效率比较高?

面试官心理分析

其实一般问问题,都是这么问的,先问问你 zk,然后其实是要过度到 zk 关联的一些问题里去,比如分布式锁。因为在分布式系统开发中,分布式锁的使用场景还是很常见的。

面试题剖析

redis 分布式锁

官方叫做 RedLock 算法,是 redis 官方支持的分布式锁算法。

这个分布式锁有 3 个重要的考量点:

  • 互斥(只能有一个客户端获取锁)

  • 不能死锁

  • 容错(只要大部分 redis 节点创建了这把锁就可以)

redis 最普通的分布式锁

第一个最普通的实现方式,就是在 redis 里创建一个 key,这样就算加锁。

 
   
   
 
  1. SET my:lock 随机值 NX PX 30000

  2. 复制代码

执行这个命令就 ok。

  • NX:表示只有 key 不存在的时候才会设置成功。(如果此时 redis 中存在这个 key,那么设置失败,返回 nil

  • PX30000:意思是 30s 后锁自动释放。别人创建的时候如果发现已经有了就不能加锁了。

释放锁就是删除 key ,但是一般可以用 lua 脚本删除,判断 value 一样才删除:

 
   
   
 
  1. -- 删除锁的时候,找到 key 对应的 value,跟自己传过去的 value 做比较,如果是一样的才删除。

  2. if redis.call("get",KEYS[1]) == ARGV[1] then

  3. return redis.call("del",KEYS[1])

  4. else

  5. return 0

  6. end

  7. 复制代码

为啥要用随机值呢?因为如果某个客户端获取到了锁,但是阻塞了很长时间才执行完,比如说超过了 30s,此时可能已经自动释放锁了,此时可能别的客户端已经获取到了这个锁,要是你这个时候直接删除 key 的话会有问题,所以得用随机值加上面的 lua 脚本来释放锁。

但是这样是肯定不行的。因为如果是普通的 redis 单实例,那就是单点故障。或者是 redis 普通主从,那 redis 主从异步复制,如果主节点挂了(key 就没有了),key 还没同步到从节点,此时从节点切换为主节点,别人就可以 set key,从而拿到锁。

RedLock 算法

这个场景是假设有一个 redis cluster,有 5 个 redis master 实例。然后执行如下步骤获取一把锁:

  1. 获取当前时间戳,单位是毫秒;

  2. 跟上面类似,轮流尝试在每个 master 节点上创建锁,过期时间较短,一般就几十毫秒;

  3. 尝试在大多数节点上建立一个锁,比如 5 个节点就要求是 3 个节点 n/2+1

  4. 客户端计算建立好锁的时间,如果建立锁的时间小于超时时间,就算建立成功了;

  5. 要是锁建立失败了,那么就依次之前建立过的锁删除;

  6. 只要别人建立了一把分布式锁,你就得不断轮询去尝试获取锁。

zk 分布式锁

zk 分布式锁,其实可以做的比较简单,就是某个节点尝试创建临时 znode,此时创建成功了就获取了这个锁;这个时候别的客户端来创建锁会失败,只能注册个监听器监听这个锁。释放锁就是删除这个 znode,一旦释放掉就会通知客户端,然后有一个等待着的客户端就可以再次重新加锁。

 
   
   
 
  1. /**

  2. * ZooKeeperSession

  3. *

  4. * @author bingo

  5. * @since 2018/11/29

  6. *

  7. */

  8. public class ZooKeeperSession {


  9. private static CountDownLatch connectedSemaphore = new CountDownLatch(1);


  10. private ZooKeeper zookeeper;

  11. private CountDownLatch latch;


  12. public ZooKeeperSession() {

  13. try {

  14. this.zookeeper = new ZooKeeper("192.168.31.187:2181,192.168.31.19:2181,192.168.31.227:2181", 50000, new ZooKeeperWatcher());

  15. try {

  16. connectedSemaphore.await();

  17. } catch (InterruptedException e) {

  18. e.printStackTrace();

  19. }


  20. System.out.println("ZooKeeper session established......");

  21. } catch (Exception e) {

  22. e.printStackTrace();

  23. }

  24. }


  25. /**

  26. * 获取分布式锁

  27. *

  28. * @param productId

  29. */

  30. public Boolean acquireDistributedLock(Long productId) {

  31. String path = "/product-lock-" + productId;


  32. try {

  33. zookeeper.create(path, "".getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL);

  34. return true;

  35. } catch (Exception e) {

  36. while (true) {

  37. try {

  38. // 相当于是给node注册一个监听器,去看看这个监听器是否存在

  39. Stat stat = zk.exists(path, true);


  40. if (stat != null) {

  41. this.latch = new CountDownLatch(1);

  42. this.latch.await(waitTime, TimeUnit.MILLISECONDS);

  43. this.latch = null;

  44. }

  45. zookeeper.create(path, "".getBytes(), Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL);

  46. return true;

  47. } catch (Exception ee) {

  48. continue;

  49. }

  50. }


  51. }

  52. return true;

  53. }


  54. /**

  55. * 释放掉一个分布式锁

  56. *

  57. * @param productId

  58. */

  59. public void releaseDistributedLock(Long productId) {

  60. String path = "/product-lock-" + productId;

  61. try {

  62. zookeeper.delete(path, -1);

  63. System.out.println("release the lock for product[id=" + productId + "]......");

  64. } catch (Exception e) {

  65. e.printStackTrace();

  66. }

  67. }


  68. /**

  69. * 建立zk session的watcher

  70. *

  71. * @author bingo

  72. * @since 2018/11/29

  73. *

  74. */

  75. private class ZooKeeperWatcher implements Watcher {


  76. public void process(WatchedEvent event) {

  77. System.out.println("Receive watched event: " + event.getState());


  78. if (KeeperState.SyncConnected == event.getState()) {

  79. connectedSemaphore.countDown();

  80. }


  81. if (this.latch != null) {

  82. this.latch.countDown();

  83. }

  84. }


  85. }


  86. /**

  87. * 封装单例的静态内部类

  88. *

  89. * @author bingo

  90. * @since 2018/11/29

  91. *

  92. */

  93. private static class Singleton {


  94. private static ZooKeeperSession instance;


  95. static {

  96. instance = new ZooKeeperSession();

  97. }


  98. public static ZooKeeperSession getInstance() {

  99. return instance;

  100. }


  101. }


  102. /**

  103. * 获取单例

  104. *

  105. * @return

  106. */

  107. public static ZooKeeperSession getInstance() {

  108. return Singleton.getInstance();

  109. }


  110. /**

  111. * 初始化单例的便捷方法

  112. */

  113. public static void init() {

  114. getInstance();

  115. }


  116. }

  117. 复制代码

也可以采用另一种方式,创建临时顺序节点:

如果有一把锁,被多个人给竞争,此时多个人会排队,第一个拿到锁的人会执行,然后释放锁;后面的每个人都会去监听排在自己前面的那个人创建的 node 上,一旦某个人释放了锁,排在自己后面的人就会被 zookeeper 给通知,一旦被通知了之后,就 ok 了,自己就获取到了锁,就可以执行代码了。

 
   
   
 
  1. public class ZooKeeperDistributedLock implements Watcher {


  2. private ZooKeeper zk;

  3. private String locksRoot = "/locks";

  4. private String productId;

  5. private String waitNode;

  6. private String lockNode;

  7. private CountDownLatch latch;

  8. private CountDownLatch connectedLatch = new CountDownLatch(1);

  9. private int sessionTimeout = 30000;


  10. public ZooKeeperDistributedLock(String productId) {

  11. this.productId = productId;

  12. try {

  13. String address = "192.168.31.187:2181,192.168.31.19:2181,192.168.31.227:2181";

  14. zk = new ZooKeeper(address, sessionTimeout, this);

  15. connectedLatch.await();

  16. } catch (IOException e) {

  17. throw new LockException(e);

  18. } catch (KeeperException e) {

  19. throw new LockException(e);

  20. } catch (InterruptedException e) {

  21. throw new LockException(e);

  22. }

  23. }


  24. public void process(WatchedEvent event) {

  25. if (event.getState() == KeeperState.SyncConnected) {

  26. connectedLatch.countDown();

  27. return;

  28. }


  29. if (this.latch != null) {

  30. this.latch.countDown();

  31. }

  32. }


  33. public void acquireDistributedLock() {

  34. try {

  35. if (this.tryLock()) {

  36. return;

  37. } else {

  38. waitForLock(waitNode, sessionTimeout);

  39. }

  40. } catch (KeeperException e) {

  41. throw new LockException(e);

  42. } catch (InterruptedException e) {

  43. throw new LockException(e);

  44. }

  45. }


  46. public boolean tryLock() {

  47. try {

  48. // 传入进去的locksRoot + “/” + productId

  49. // 假设productId代表了一个商品id,比如说1

  50. // locksRoot = locks

  51. // /locks/10000000000,/locks/10000000001,/locks/10000000002

  52. lockNode = zk.create(locksRoot + "/" + productId, new byte[0], ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);


  53. // 看看刚创建的节点是不是最小的节点

  54. // locks:10000000000,10000000001,10000000002

  55. List<String> locks = zk.getChildren(locksRoot, false);

  56. Collections.sort(locks);


  57. if(lockNode.equals(locksRoot+"/"+ locks.get(0))){

  58. //如果是最小的节点,则表示取得锁

  59. return true;

  60. }


  61. //如果不是最小的节点,找到比自己小1的节点

  62. int previousLockIndex = -1;

  63. for(int i = 0; i < locks.size(); i++) {

  64. if(lockNode.equals(locksRoot + “/” + locks.get(i))) {

  65. previousLockIndex = i - 1;

  66. break;

  67. }

  68. }


  69. this.waitNode = locks.get(previousLockIndex);

  70. } catch (KeeperException e) {

  71. throw new LockException(e);

  72. } catch (InterruptedException e) {

  73. throw new LockException(e);

  74. }

  75. return false;

  76. }


  77. private boolean waitForLock(String waitNode, long waitTime) throws InterruptedException, KeeperException {

  78. Stat stat = zk.exists(locksRoot + "/" + waitNode, true);

  79. if (stat != null) {

  80. this.latch = new CountDownLatch(1);

  81. this.latch.await(waitTime, TimeUnit.MILLISECONDS);

  82. this.latch = null;

  83. }

  84. return true;

  85. }


  86. public void unlock() {

  87. try {

  88. // 删除/locks/10000000000节点

  89. // 删除/locks/10000000001节点

  90. System.out.println("unlock " + lockNode);

  91. zk.delete(lockNode, -1);

  92. lockNode = null;

  93. zk.close();

  94. } catch (InterruptedException e) {

  95. e.printStackTrace();

  96. } catch (KeeperException e) {

  97. e.printStackTrace();

  98. }

  99. }


  100. public class LockException extends RuntimeException {

  101. private static final long serialVersionUID = 1L;


  102. public LockException(String e) {

  103. super(e);

  104. }


  105. public LockException(Exception e) {

  106. super(e);

  107. }

  108. }

  109. }

  110. 复制代码

redis 分布式锁和 zk 分布式锁的对比

  • redis 分布式锁,其实需要自己不断去尝试获取锁,比较消耗性能。

  • zk 分布式锁,获取不到锁,注册个监听器即可,不需要不断主动尝试获取锁,性能开销较小。

另外一点就是,如果是 redis 获取锁的那个客户端 出现 bug 挂了,那么只能等待超时时间之后才能释放锁;而 zk 的话,因为创建的是临时 znode,只要客户端挂了,znode 就没了,此时就自动释放锁。

redis 分布式锁大家没发现好麻烦吗?遍历上锁,计算时间等等......zk 的分布式锁语义清晰实现简单。

所以先不分析太多的东西,就说这两点,我个人实践认为 zk 的分布式锁比 redis 的分布式锁牢靠、而且模型简单易用。

来源:https://tinyurl.com/yyldd759

近期热文

 


最后,分享一份面试宝典Java核心知识点整理.pdf》,覆盖了JVM、锁、高并发、反射、Spring原理、微服务、Zookeeper、数据库、数据结构等等。

明天见(。・ω・。)ノ♡

以上是关于分布式锁都有哪些?的主要内容,如果未能解决你的问题,请参考以下文章

分布式锁都有哪些实现方案?

分布式分布式锁都有哪些实现方案?

阿里JAVA面试题剖析:一般实现分布式锁都有哪些方式?使用 Redis 如何设计分布式锁?

阿里JAVA面试题剖析:一般实现分布式锁都有哪些方式?使用 Redis 如何设计分布式锁?

对不起,网上找的Redis分布式锁都有漏洞!

高并发场景下锁