分布式锁之Redis实现

Posted 清幽之地的博客

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了分布式锁之Redis实现相关的知识,希望对你有一定的参考价值。

在Java中,关于锁我想大家都很熟悉。在并发编程中,我们通过锁,来避免由于竞争而造成的数据不一致问题。通常,我们以 synchronizedLock来使用它。

但是Java中的锁,只能保证在同一个JVM进程内中执行。如果在分布式集群环境下呢?

一、分布式锁

分布式锁,是一种思想,它的实现方式有很多。比如,我们将沙滩当做分布式锁的组件,那么它看起来应该是这样的:

  • 加锁

在沙滩上踩一脚,留下自己的脚印,就对应了加锁操作。其他进程或者线程,看到沙滩上已经有脚印,证明锁已被别人持有,则等待。

  • 解锁

把脚印从沙滩上抹去,就是解锁的过程。

  • 锁超时

为了避免死锁,我们可以设置一阵风,在单位时间后刮起,将脚印自动抹去。

分布式锁的实现有很多,比如基于数据库、memcached、Redis、系统文件、zookeeper等。它们的核心的理念跟上面的过程大致相同。

二、redis

我们先来看如何通过单节点Redis实现一个简单的分布式锁。

1、加锁

加锁实际上就是在redis中,给Key键设置一个值,为避免死锁,并给定一个过期时间。

SET lock_key random_value NX PX5000

值得注意的是: random_value 是客户端生成的唯一的字符串。 NX 代表只在键不存在时,才对键进行设置操作。 PX5000 设置键的过期时间为5000毫秒。

这样,如果上面的命令执行成功,则证明客户端获取到了锁。

2、解锁

解锁的过程就是将Key键删除。但也不能乱删,不能说客户端1的请求将客户端2的锁给删除掉。这时候 random_value的作用就体现出来。

为了保证解锁操作的原子性,我们用LUA脚本完成这一操作。先判断当前锁的字符串是否与传入的值相等,是的话就删除Key,解锁成功。

 
   
   
 
  1. if redis.call('get',KEYS[1]) == ARGV[1] then

  2.   return redis.call('del',KEYS[1])

  3. else

  4.   return 0

  5. end

3、实现

首先,我们在pom文件中,引入Jedis。在这里,笔者用的是最新版本,注意由于版本的不同,API可能有所差异。

 
   
   
 
  1. <dependency>

  2.    <groupId>redis.clients</groupId>

  3.    <artifactId>jedis</artifactId>

  4.    <version>3.0.1</version>

  5. </dependency>

加锁的过程很简单,就是通过SET指令来设置值,成功则返回;否则就循环等待,在timeout时间内仍未获取到锁,则获取失败。

 
   
   
 
  1. @Service

  2. public class RedisLock {


  3.    Logger logger = LoggerFactory.getLogger(this.getClass());


  4.    private String lock_key = "redis_lock"; //锁键


  5.    protected long internalLockLeaseTime = 30000;//锁过期时间


  6.    private long timeout = 999999; //获取锁的超时时间



  7.    //SET命令的参数

  8.    SetParams params = SetParams.setParams().nx().px(internalLockLeaseTime);


  9.    @Autowired

  10.    JedisPool jedisPool;



  11.    /**

  12.     * 加锁

  13.     * @param id

  14.     * @return

  15.     */

  16.    public boolean lock(String id){

  17.        Jedis jedis = jedisPool.getResource();

  18.        Long start = System.currentTimeMillis();

  19.        try{

  20.            for(;;){

  21.                //SET命令返回OK ,则证明获取锁成功

  22.                String lock = jedis.set(lock_key, id, params);

  23.                if("OK".equals(lock)){

  24.                    return true;

  25.                }

  26.                //否则循环等待,在timeout时间内仍未获取到锁,则获取失败

  27.                long l = System.currentTimeMillis() - start;

  28.                if (l>=timeout) {

  29.                    return false;

  30.                }

  31.                try {

  32.                    Thread.sleep(100);

  33.                } catch (InterruptedException e) {

  34.                    e.printStackTrace();

  35.                }

  36.            }

  37.        }finally {

  38.            jedis.close();

  39.        }

  40.    }

  41. }

解锁我们通过 jedis.eval来执行一段LUA就可以。将锁的Key键和生成的字符串当做参数传进来。

 
   
   
 
  1.    /**

  2.     * 解锁

  3.     * @param id

  4.     * @return

  5.     */

  6.    public boolean unlock(String id){

  7.        Jedis jedis = jedisPool.getResource();

  8.        String script =

  9.                "if redis.call('get',KEYS[1]) == ARGV[1] then" +

  10.                        "   return redis.call('del',KEYS[1]) " +

  11.                        "else" +

  12.                        "   return 0 " +

  13.                        "end";

  14.        try {

  15.            Object result = jedis.eval(script, Collections.singletonList(lock_key),

  16.                                    Collections.singletonList(id));

  17.            if("1".equals(result.toString())){

  18.                return true;

  19.            }

  20.            return false;

  21.        }finally {

  22.            jedis.close();

  23.        }

  24.    }

最后,我们可以在多线程环境下测试一下。我们开启1000个线程,对count进行累加。调用的时候,关键是唯一字符串的生成。这里,笔者使用的是 Snowflake算法。

 
   
   
 
  1. @Controller

  2. public class IndexController {


  3.    @Autowired

  4.    RedisLock redisLock;


  5.    int count = 0;


  6.    @RequestMapping("/index")

  7.    @ResponseBody

  8.    public String index() throws InterruptedException {


  9.        int clientcount =1000;

  10.        CountDownLatch countDownLatch = new CountDownLatch(clientcount);


  11.        ExecutorService executorService = Executors.newFixedThreadPool(clientcount);

  12.        long start = System.currentTimeMillis();

  13.        for (int i = 0;i<clientcount;i++){

  14.            executorService.execute(() -> {


  15.                //通过Snowflake算法获取唯一的ID字符串

  16.                String id = IdUtil.getId();

  17.                try {

  18.                    redisLock.lock(id);

  19.                    count++;

  20.                }finally {

  21.                    redisLock.unlock(id);

  22.                }

  23.                countDownLatch.countDown();

  24.            });

  25.        }

  26.        countDownLatch.await();

  27.        long end = System.currentTimeMillis();

  28.        logger.info("执行线程数:{},总耗时:{},count数为:{}",clientcount,end-start,count);

  29.        return "Hello";

  30.    }

  31. }

至此,单节点Redis的分布式锁的实现就已经完成了。比较简单,但是问题也比较大,最重要的一点是,锁不具有可重入性。

三、redisson

Redisson是架设在Redis基础上的一个Java驻内存数据网格(In-Memory Data Grid)。充分的利用了Redis键值数据库提供的一系列优势,基于Java实用工具包中常用接口,为使用者提供了一系列具有分布式特性的常用工具类。使得原本作为协调单机多线程并发程序的工具包获得了协调分布式多机多线程并发系统的能力,大大降低了设计和研发大规模分布式系统的难度。同时结合各富特色的分布式服务,更进一步简化了分布式环境中程序相互之间的协作。

相对于Jedis而言,Redisson强大的一批。当然了,随之而来的就是它的复杂性。它里面也实现了分布式锁,而且包含多种类型的锁,更多请参阅:https://github.com/redisson/redisson/wiki/8.-%E5%88%86%E5%B8%83%E5%BC%8F%E9%94%81%E5%92%8C%E5%90%8C%E6%AD%A5%E5%99%A8

1、可重入锁

上面我们自己实现的Redis分布式锁,其实不具有可重入性。那么下面我们先来看看Redisson中如何调用可重入锁。

在这里,笔者使用的是它的最新版本,3.10.1。

 
   
   
 
  1. <dependency>

  2.    <groupId>org.redisson</groupId>

  3.    <artifactId>redisson</artifactId>

  4.    <version>3.10.1</version>

  5. </dependency>

首先,通过配置获取RedissonClient客户端的实例,然后 getLock获取锁的实例,进行操作即可。

 
   
   
 
  1. public static void main(String[] args) {


  2.    Config config = new Config();

  3.    config.useSingleServer().setAddress("redis://127.0.0.1:6379");

  4.    config.useSingleServer().setPassword("redis1234");


  5.    final RedissonClient client = Redisson.create(config);  

  6.    RLock lock = client.getLock("lock1");


  7.    try{

  8.        lock.lock();

  9.    }finally{

  10.        lock.unlock();

  11.    }

  12. }

2、获取锁实例

我们先来看 RLocklock=client.getLock("lock1"); 这句代码就是为了获取锁的实例,然后我们可以看到它返回的是一个 RedissonLock对象。

 
   
   
 
  1. public RLock getLock(String name) {

  2.    return new RedissonLock(connectionManager.getCommandExecutor(), name);

  3. }

在 RedissonLock构造方法中,主要初始化一些属性。

 
   
   
 
  1. public RedissonLock(CommandAsyncExecutor commandExecutor, String name) {

  2.    super(commandExecutor, name);

  3.    //命令执行器

  4.    this.commandExecutor = commandExecutor;

  5.    //UUID字符串

  6.    this.id = commandExecutor.getConnectionManager().getId();

  7.    //内部锁过期时间

  8.    this.internalLockLeaseTime = commandExecutor.

  9.                getConnectionManager().getCfg().getLockWatchdogTimeout();

  10.    this.entryName = id + ":" + name;

  11. }

3、加锁

当我们调用 lock方法,定位到 lockInterruptibly。在这里,完成了加锁的逻辑。

 
   
   
 
  1. public void lockInterruptibly(long leaseTime, TimeUnit unit) throws InterruptedException {


  2.    //当前线程ID

  3.    long threadId = Thread.currentThread().getId();

  4.    //尝试获取锁

  5.    Long ttl = tryAcquire(leaseTime, unit, threadId);

  6.    // 如果ttl为空,则证明获取锁成功

  7.    if (ttl == null) {

  8.        return;

  9.    }

  10.    //如果获取锁失败,则订阅到对应这个锁的channel

  11.    RFuture<RedissonLockEntry> future = subscribe(threadId);

  12.    commandExecutor.syncSubscription(future);


  13.    try {

  14.        while (true) {

  15.            //再次尝试获取锁

  16.            ttl = tryAcquire(leaseTime, unit, threadId);

  17.            //ttl为空,说明成功获取锁,返回

  18.            if (ttl == null) {

  19.                break;

  20.            }

  21.            //ttl大于0 则等待ttl时间后继续尝试获取

  22.            if (ttl >= 0) {

  23.                getEntry(threadId).getLatch().tryAcquire(ttl, TimeUnit.MILLISECONDS);

  24.            } else {

  25.                getEntry(threadId).getLatch().acquire();

  26.            }

  27.        }

  28.    } finally {

  29.        //取消对channel的订阅

  30.        unsubscribe(future, threadId);

  31.    }

  32.    //get(lockAsync(leaseTime, unit));

  33. }

如上代码,就是加锁的全过程。先调用 tryAcquire来获取锁,如果返回值ttl为空,则证明加锁成功,返回;如果不为空,则证明加锁失败。这时候,它会订阅这个锁的Channel,等待锁释放的消息,然后重新尝试获取锁。流程如下: 

获取锁

获取锁的过程是怎样的呢?接下来就要看 tryAcquire方法。在这里,它有两种处理方式,一种是带有过期时间的锁,一种是不带过期时间的锁。

 
   
   
 
  1. private <T> RFuture<Long> tryAcquireAsync(long leaseTime, TimeUnit unit, final long threadId) {


  2.    //如果带有过期时间,则按照普通方式获取锁

  3.    if (leaseTime != -1) {

  4.        return tryLockInnerAsync(leaseTime, unit, threadId, RedisCommands.EVAL_LONG);

  5.    }


  6.    //先按照30秒的过期时间来执行获取锁的方法

  7.    RFuture<Long> ttlRemainingFuture = tryLockInnerAsync(

  8.        commandExecutor.getConnectionManager().getCfg().getLockWatchdogTimeout(),

  9.        TimeUnit.MILLISECONDS, threadId, RedisCommands.EVAL_LONG);


  10.    //如果还持有这个锁,则开启定时任务不断刷新该锁的过期时间

  11.    ttlRemainingFuture.addListener(new FutureListener<Long>() {

  12.        @Override

  13.        public void operationComplete(Future<Long> future) throws Exception {

  14.            if (!future.isSuccess()) {

  15.                return;

  16.            }


  17.            Long ttlRemaining = future.getNow();

  18.            // lock acquired

  19.            if (ttlRemaining == null) {

  20.                scheduleExpirationRenewal(threadId);

  21.            }

  22.        }

  23.    });

  24.    return ttlRemainingFuture;

  25. }

接着往下看, tryLockInnerAsync方法是真正执行获取锁的逻辑,它是一段LUA脚本代码。在这里,它使用的是hash数据结构。

 
   
   
 
  1. <T> RFuture<T> tryLockInnerAsync(long leaseTime, TimeUnit unit,    

  2.                            long threadId, RedisStrictCommand<T> command) {


  3.        //过期时间

  4.        internalLockLeaseTime = unit.toMillis(leaseTime);


  5.        return commandExecutor.evalWriteAsync(getName(), LongCodec.INSTANCE, command,

  6.                  //如果锁不存在,则通过hset设置它的值,并设置过期时间

  7.                  "if (redis.call('exists', KEYS[1]) == 0) then " +

  8.                      "redis.call('hset', KEYS[1], ARGV[2], 1); " +

  9.                      "redis.call('pexpire', KEYS[1], ARGV[1]); " +

  10.                      "return nil; " +

  11.                  "end; " +

  12.                  //如果锁已存在,并且锁的是当前线程,则通过hincrby给数值递增1

  13.                  "if (redis.call('hexists', KEYS[1], ARGV[2]) == 1) then " +

  14.                      "redis.call('hincrby', KEYS[1], ARGV[2], 1); " +

  15.                      "redis.call('pexpire', KEYS[1], ARGV[1]); " +

  16.                      "return nil; " +

  17.                  "end; " +

  18.                  //如果锁已存在,但并非本线程,则返回过期时间ttl

  19.                  "return redis.call('pttl', KEYS[1]);",

  20.        Collections.<Object>singletonList(getName()),

  21.                internalLockLeaseTime, getLockName(threadId));

  22.    }

这段LUA代码看起来并不复杂,有三个判断:

  • 通过exists判断,如果锁不存在,则设置值和过期时间,加锁成功

  • 通过hexists判断,如果锁已存在,并且锁的是当前线程,则证明是重入锁,加锁成功

  • 如果锁已存在,但锁的不是当前线程,则证明有其他线程持有锁。返回当前锁的过期时间,加锁失败

加锁成功后,在redis的内存数据中,就有一条hash结构的数据。Key为锁的名称;field为随机字符串+线程ID;值为1。如果同一线程多次调用 lock方法,值递增1。

 
   
   
 
  1. 127.0.0.1:6379> hgetall lock1

  2. 1) "b5ae0be4-5623-45a5-8faa-ab7eb167ce87:1"

  3. 2) "1"

4、解锁

我们通过调用 unlock方法来解锁。

 
   
   
 
  1. public RFuture<Void> unlockAsync(final long threadId) {

  2.    final RPromise<Void> result = new RedissonPromise<Void>();


  3.    //解锁方法

  4.    RFuture<Boolean> future = unlockInnerAsync(threadId);


  5.    future.addListener(new FutureListener<Boolean>() {

  6.        @Override

  7.        public void operationComplete(Future<Boolean> future) throws Exception {

  8.            if (!future.isSuccess()) {

  9.                cancelExpirationRenewal(threadId);

  10.                result.tryFailure(future.cause());

  11.                return;

  12.            }

  13.            //获取返回值

  14.            Boolean opStatus = future.getNow();

  15.            //如果返回空,则证明解锁的线程和当前锁不是同一个线程,抛出异常

  16.            if (opStatus == null) {

  17.                IllegalMonitorStateException cause =

  18.                    new IllegalMonitorStateException("

  19.                        attempt to unlock lock, not locked by current thread by node id: "

  20.                        + id + " thread-id: " + threadId);

  21.                result.tryFailure(cause);

  22.                return;

  23.            }

  24.            //解锁成功,取消刷新过期时间的那个定时任务

  25.            if (opStatus) {

  26.                cancelExpirationRenewal(null);

  27.            }

  28.            result.trySuccess(null);

  29.        }

  30.    });


  31.    return result;

  32. }

然后我们再看 unlockInnerAsync方法。这里也是一段LUA脚本代码。

 
   
   
 
  1. protected RFuture<Boolean> unlockInnerAsync(long threadId) {

  2.    return commandExecutor.evalWriteAsync(getName(), LongCodec.INSTANCE, EVAL,


  3.            //如果锁已经不存在, 发布锁释放的消息

  4.            "if (redis.call('exists', KEYS[1]) == 0) then " +

  5.                "redis.call('publish', KEYS[2], ARGV[1]); " +

  6.                "return 1; " +

  7.            "end;" +

  8.            //如果释放锁的线程和已存在锁的线程不是同一个线程,返回null

  9.            "if (redis.call('hexists', KEYS[1], ARGV[3]) == 0) then " +

  10.                "return nil;" +

  11.            "end; " +

  12.            //通过hincrby递减1的方式,释放一次锁

  13.            //若剩余次数大于0 ,则刷新过期时间

  14.            "local counter = redis.call('hincrby', KEYS[1], ARGV[3], -1); " +

  15.            "if (counter > 0) then " +

  16.                "redis.call('pexpire', KEYS[1], ARGV[2]); " +

  17.                "return 0; " +

  18.            //否则证明锁已经释放,删除key并发布锁释放的消息

  19.            "else " +

  20.                "redis.call('del', KEYS[1]); " +

  21.                "redis.call('publish', KEYS[2], ARGV[1]); " +

  22.                "return 1; "+

  23.            "end; " +

  24.            "return nil;",

  25.    Arrays.<Object>asList(getName(), getChannelName()),

  26.        LockPubSub.unlockMessage, internalLockLeaseTime, getLockName(threadId));


  27. }

如上代码,就是释放锁的逻辑。同样的,它也是有三个判断:


  • 如果锁已经不存在,通过publish发布锁释放的消息,解锁成功



  • 如果解锁的线程和当前锁的线程不是同一个,解锁失败,抛出异常



  • 通过hincrby递减1,先释放一次锁。若剩余次数还大于0,则证明当前锁是重入锁,刷新过期时间;若剩余次数小于0,删除key并发布锁释放的消息,解锁成功


至此,Redisson中的可重入锁的逻辑,就分析完了。但值得注意的是,上面的两种实现方式都是针对单机Redis实例而进行的。如果我们有多个Redis实例,请参阅Redlock算法。该算法的具体内容,请参考http://redis.cn/topics/distlock.html

以上是关于分布式锁之Redis实现的主要内容,如果未能解决你的问题,请参考以下文章

解析分布式锁之redis实现

分布式锁之Redis实现

第七章 高级篇分布式锁之Redis6+Lua脚本实现原生分布式锁

分布式锁之Zookeeper

redis分布式锁深入

漫谈分布式锁之ZooKeeper实现