NoSQL：redis缓存数据库

Posted 2020-10-14 宁信

 

一 Redis介绍

Redis和Memcached类似，也属于key-value nosql 数据库

Redis官网redis.io, 当前最新稳定版4.0.1

和Memcached类似，它支持存储的value类型相对更多，包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash（哈希类型）。

这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作，而且这些操作都是原子性的。在此基础上，redis支持各种不同方式的排序。与memcached一样，为了保证效率，数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件，并且在此基础上实现了master-slave(主从)同步。

redis使用了两种文件格式：全量数据(RDB)和增量请求(aof)。全量数据格式是把内存中的数据写入磁盘，便于下次读取文件进行加载。增量请求文件则是把内存中的数据序列化为操作请求，用于读取文件进行replay得到数据，这种类似于mysql binlog。

redis的存储分为内存存储、磁盘存储和log文件三部分

Redis优点

异常快速 : Redis是非常快的，每秒可以执行大约110000设置操作，81000个/每秒的读取操作。

支持丰富的数据类型 : Redis支持最大多数开发人员已经知道如列表，集合，可排序集合，哈希等数据类型。

这使得在应用中很容易解决的各种问题，因为我们知道哪些问题处理使用哪种数据类型更好解决。

操作都是原子的 : 所有 Redis 的操作都是原子，从而确保当两个客户同时访问 Redis 服务器得到的是更新后的值（最新值）。

MultiUtility工具：Redis是一个多功能实用工具，可以在很多如：缓存，消息传递队列中使用（Redis原生支持发布/订阅），在应用程序中，如：Web应用程序会话，网站页面点击数等任何短暂的数据；

二 Redis安装

下载最新稳定版

cd /usr/local/src/

wget http://download.redis.io/releases/redis-4.0.2.tar.gz

cd redis-4.0.1

make && make install

 

cp redis.conf /etc/redis.conf

vim /etc/redis.conf //修改如下配置

daemonize yes

logfile "/var/log/redis.log"

dir /data/redis/

appendonly yes

mkdir /data/redis必须创建与dir同名目录，否则无法启动。

下面两个内核参数可改可不改。

 sysctl vm.overcommit_memory=1

 echo never > /sys/kernel/mm/transparent_hugepage/enabled

启动：redis-server /etc/redis.conf

 

三 redis持久化

Redis提供了两种持久化的方式，分别是RDB（Redis DataBase）和AOF（Append Only File）

RDB，简而言之，就是在不同的时间点，将redis存储的数据生成快照并存储到磁盘等介质上。

 

save 900 1 #表示每15分钟且至少有1个key改变，就触发一次持久化 

 save 300 10 #表示每5分钟且至少有10个key改变，就触发一次持久化

 save 60 10000 #表示每60秒至少有10000个key改变，就触发一次持久

 save “”  #这样可以禁用rdb持久化

AOF，则是换了一个角度来实现持久化，那就是将redis执行过的所有写指令记录下来，在下次redis重新启动时，只要把这些写指令从前到后再重复执行一遍，就可以实现数据恢复了。

 

appendonly yes  #如果是yes，则开启aof持久化

appendfilename “appendonly.aof” # 指定aof文件名字

appendfsync everysec #指定fsync()调用模式，有三种no(不调用fsync),always(每次写都会调用fsync),everysec(每秒钟调用一次fsync)。第一种最快，第二种数据最安全，但性能会差一些，第三种为这种方案，默认为第三种。

其实RDB和AOF两种方式也可以同时使用，在这种情况下，如果redis重启的话，则会优先采用AOF方式来进行数据恢复，这是因为AOF方式的数据恢复完整度更高。

如果你没有数据持久化的需求，也完全可以关闭RDB和AOF方式，这样的话，redis将变成一个纯内存数据库，就像memcache一样。

四 redis数据类型-string

string为最简单的类型，与Memcached一样的类型，一个key对应一个value，其支持的操作与Memcached的操作类似，它的功能更丰富。设置可以存二进制的对象。

1.set：SET key value [EX seconds] [PX milliseconds] [NX|XX]

在Redis中设置值，默认，不存在则创建，存在则修改
参数：
     ex，过期时间（秒）
     px，过期时间（毫秒）
     nx，如果设置为True，则只有name不存在时，当前set操作才执行
     xx，如果设置为True，则只有name存在时，当前set操作才执行

2.mset(*args, **kwargs)批量设置值

3.get(name)获取值

4.mget(keys, *args)批量获取

5.getset(name, value)设置新值并获取原来的值

6.getrange(key, start, end)获取子序列（根据字节获取，非字符）

参数：

    # name，Redis 的 name

    # start，起始位置（字节）

    # end，结束位置（字节）

7.setrange(name, offset, value)修改字符串内容，从指定字符串索引开始向后替换（新值太长时，则向后添加）

# 参数：

    # offset，字符串的索引，字节（一个汉字三个字节）

    # value，要设置的值

8.setbit(name, offset, value)

# 对name对应值的二进制表示的位进行操作

# 参数：

    # name，redis的name

    # offset，位的索引（将值变换成二进制后再进行索引）

    # value，值只能是 1 或 0

如果在Redis中有一个对应： n1 = "greg"，
        那么字符串foo的二进制表示为：01100111 01110010 01100101 01100111
    所以，如果执行 setbit(\'n1\', 7, 0)，则就会将第7位设置为0，
        那么最终二进制则变成 1100110 1110010 1100101 1100111，即："freg"

编码转换
def encode(s):
    return \' \'.join([bin(ord(c)).replace(\'0b\', \'\') for c in s])

def decode(s):
    return \'\'.join([chr(i) for i in [int(b, 2) for b in s.split(\' \')]])

9.getbit(name, offset)获取name对应的值的二进制表示中的某位的值 （0或1）

10.bitcount(key, start=None, end=None)

# 获取name对应的值的二进制表示中 1 的个数

# 参数：

    # key，Redis的name

    # start，位起始位置

    # end，位结束位置

对访问的用户或者ip计数。

能用10M的数据存储上亿用户的登录状态。

11.bitop(operation, dest, *keys)

# 获取多个值，并将值做位运算，将最后的结果保存至新的name对应的值

# 参数：

    # operation,AND（并） 、 OR（或） 、 NOT（非） 、 XOR（异或）

    # dest, 新的Redis的name

    # *keys,要查找的Redis的name

# 如：

    bitop("AND", \'new_name\', \'n1\', \'n2\', \'n3\')

    # 获取Redis中n1,n2,n3对应的值，然后讲所有的值做位运算（求并集），然后将结果保存 new_name 对应的值中

 12.strlen(name)返回name对应值的字节长度（一个汉字3个字节）

13.incr(self, name, amount=1)、

自增 name对应的值，当name不存在时，则创建name＝amount，否则，则自增。

# 参数：

    # name,Redis的name

    # amount,自增数（必须是整数）

# 注：同incrby

14. incrbyfloat(self, name, amount=1.0)自增 name对应的值，当name不存在时，则创建name＝amount，否则，则自增。

# 参数：

    # name,Redis的name

    # amount,自增数（浮点型）

15.decr(self, name, amount=1)自减 name对应的值，当name不存在时，则创建name＝amount，否则，则自减。

# 参数：

    # name,Redis的name

    # amount,自减数（整数）

16.append(key, value)在redis name对应的值后面追加内容

# 参数：

    key, redis的name

    value, 要追加的字符串

五 hash操作

在 Memcached 中，我们经常将一些结构化的信息打包成 hashmap，在客户端序列化后存储为一个字符串的值（一般是 JSON 格式），比如用户的昵称、年龄、性别、积分等。

redis中Hash在内存中的存储格式

1.hset(name, key, value)

name对应的hash中设置一个键值对（不存在，则创建；否则，修改）

# 参数：

    # name，redis的name

    # key，name对应的hash中的key

    # value，name对应的hash中的value

# 注：

    # hsetnx(name, key, value),当name对应的hash中不存在当前key时则创建（相当于添加）

 

127.0.0.1:6379> hset hash1 name greg
(integer) 1
127.0.0.1:6379> hget hash1 name
"greg"
127.0.0.1:6379> hset hash1 age 30
(integer) 1
127.0.0.1:6379> hget hash1 age
"30"
127.0.0.1:6379> hgetall hash1
1) "name"
2) "greg"
3) "age"
4) "30"

2.hmset(name, mapping)在name对应的hash中批量设置键值对

# 参数：

    # name，redis的name

    # mapping，字典，如：{\'k1\':\'v1\', \'k2\': \'v2\'}

# 如：

    # r.hmset(\'xx\', {\'k1\':\'v1\', \'k2\': \'v2\'})

3.hget(name,key)在name对应的hash中获取根据key获取value

4.hmget(name, keys, *args)在name对应的hash中获取多个key的值

# 参数：

    # name，reids对应的name

    # keys，要获取key集合，如：[\'k1\', \'k2\', \'k3\']

    # *args，要获取的key，如：k1,k2,k3

# 如：

    # r.mget(\'xx\', [\'k1\', \'k2\'])

    # 或

    # print r.hmget(\'xx\', \'k1\', \'k2\')

5.hgetall(name)
获取name对应hash的所有键值
6.hlen(name)
# 获取name对应的hash中键值对的个数
7.hkeys(name)
# 获取name对应的hash中所有的key的值
8.hvals(name)
# 获取name对应的hash中所有的value的值
9.hexists(name, key)
# 检查name对应的hash是否存在当前传入的key
10.hdel(name,*keys)
# 将name对应的hash中指定key的键值对删除
11.hincrby(name, key, amount=1)
# 自增name对应的hash中的指定key的值，不存在则创建key=amount
# 参数：
# name，redis中的name
# key， hash对应的key
# amount，自增数（整数）
12.hincrbyfloat(name, key, amount=1.0)
# 自增name对应的hash中的指定key的值，不存在则创建key=amount
# 参数：
# name，redis中的name
# key， hash对应的key
# amount，自增数（浮点数）
# 自增name对应的hash中的指定key的值，不存在则创建key=amount
13.hscan(name, cursor=0, match=None, count=None)
# 增量式迭代获取，对于数据大的数据非常有用，hscan可以实现分片的获取数据，并非一次性将数据全部获取完，从而放置内存被撑爆
# 参数：
# name，redis的name
# cursor，游标（基于游标分批取获取数据）
# match，匹配指定key，默认None 表示所有的key
# count，每次分片最少获取个数，默认None表示采用Redis的默认分片个数
# 如：
# 第一次：cursor1, data1 = r.hscan(\'xx\', cursor=0, match=None, count=None)
# 第二次：cursor2, data1 = r.hscan(\'xx\', cursor=cursor1, match=None, count=None)
# ...
# 直到返回值cursor的值为0时，表示数据已经通过分片获取完毕
14.hscan_iter(name, match=None, count=None)利用yield封装hscan创建生成器，实现分批去redis中获取数据
# 参数：
# match，匹配指定key，默认None 表示所有的key
# count，每次分片最少获取个数，默认None表示采用Redis的默认分片个数
# 如：
# for item in r.hscan_iter(\'xx\'):
# print item

六 Redis数据类型-list 

list是一个链表结构，主要功能是push、pop、获取一个范围的所有值等等。操作中key理解为链表的名字。

使用 list 结构，我们可以轻松地实现最新消息排行等功能（比如新浪微博的 TimeLine ）。list 的另一个应用就是消息队列，可以利用 list 的 push操作，将任务存在 list 中，然后工作线程再用pop操作将任务取出进行执行。

1.lpush(name,values)在name对应的list中添加元素，每个新的元素都添加到列表的最左边

# 如：
# r.lpush(\'oo\', 11,22,33)
# 保存顺序为: 33,22,11
# 扩展：
# rpush(name, values) 表示从右向左操作

2.lpushx(name,value)

# 在name对应的list中添加元素，只有name已经存在时，值添加到列表的最左边
# 更多：
# rpushx(name, value) 表示从右向左操作
3.llen(name)  name对应的list元素的个数

4.linsert(name, where, refvalue, value))

# 在name对应的列表的某一个值前或后插入一个新值
# 参数：
# name，redis的name
# where，BEFORE或AFTER
# refvalue，标杆值，即：在它前后插入数据
# value，要插入的数据

5.r.lset(name, index, value) 对name对应的list中的某一个索引位置重新赋值

# name，redis的name
# index，list的索引位置
# value，要设置的值
6.r.lrem(name, value, num)在name对应的list中删除指定的值

# name，redis的name
# value，要删除的值
# num， num=0，删除列表中所有的指定值；
# num=2,从前到后，删除2个；
# num=-2,从后向前，删除2个
7.lpop(name) 在name对应的列表的左侧获取第一个元素并在列表中移除，返回值则是第一个元素

# rpop(name) 表示从右向左操作

8.lindex(name, index)在name对应的列表中根据索引获取列表元素

9.lrange(name, start, end)在name对应的列表分片获取数据

# 参数：
# name，redis的name
# start，索引的起始位置
# end，索引结束位置
10.ltrim(name, start, end)在name对应的列表中移除没有在start-end索引之间的值

# 参数：
# name，redis的name
# start，索引的起始位置
# end，索引结束位置
11.rpoplpush(src, dst)从一个列表取出最右边的元素，同时将其添加至另一个列表的最左边

# 参数：
# src，要取数据的列表的name
# dst，要添加数据的列表的name
12.blpop(keys, timeout)将多个列表排列，按照从左到右去pop对应列表的元素

# 参数：
# keys，redis的name的集合
# timeout，超时时间，当元素所有列表的元素获取完之后，阻塞等待列表内有数据的时间（秒）, 0 表示永远阻塞
# 更多：
# r.brpop(keys, timeout)，从右向左获取数据
13.brpoplpush(src, dst, timeout=0)

# 从一个列表的右侧移除一个元素并将其添加到另一个列表的左侧
# 参数：
# src，取出并要移除元素的列表对应的name
# dst，要插入元素的列表对应的name
# timeout，当src对应的列表中没有数据时，阻塞等待其有数据的超时时间（秒），0 表示永远阻塞
自定义增量迭代

# 由于redis类库中没有提供对列表元素的增量迭代，如果想要循环name对应的列表的所有元素，那么就需要：
# 1、获取name对应的所有列表
# 2、循环列表
# 但是，如果列表非常大，那么就有可能在第一步时就将程序的内容撑爆，所有有必要自定义一个增量迭代的功能：

def list_iter(name):
"""
自定义redis列表增量迭代
:param name: redis中的name，即：迭代name对应的列表
:return: yield 返回 列表元素
"""
list_count = r.llen(name)
for index in xrange(list_count):
yield r.lindex(name, index)
# 使用
for item in list_iter(\'pp\'):
print item

七 Set操作，Set集合就是不允许重复的列表

1.sadd(name,values)

# name对应的集合中添加元素
scard(name)

获取name对应的集合中元素个数
2.sdiff(keys, *args)

在第一个name对应的集合中且不在其他name对应的集合的元素集合
3.sdiffstore(dest, keys, *args)

# 获取第一个name对应的集合中且不在其他name对应的集合，再将其新加入到dest对应的集合中
4.sinter(keys, *args)

# 获取多一个name对应集合的交集
5.sinterstore(dest, keys, *args)

# 获取多一个name对应集合的并集，再讲其加入到dest对应的集合中
6.sismember(name, value)

# 检查value是否是name对应的集合的成员
7.smembers(name)

# 获取name对应的集合的所有成员
8.smove(src, dst, value)

# 将某个成员从一个集合中移动到另外一个集合
9.spop(name)

# 从集合的右侧（尾部）移除一个成员，并将其返回
10.srandmember(name, numbers)

# 从name对应的集合中随机获取 numbers 个元素
11.srem(name, values)

# 在name对应的集合中删除某些值
12.sunion(keys, *args)

# 获取多一个name对应的集合的并集
sunionstore(dest,keys, *args)

# 获取多一个name对应的集合的并集，并将结果保存到dest对应的集合中
sscan(name, cursor=0, match=None, count=None)
sscan_iter(name, match=None, count=None)

# 同字符串的操作，用于增量迭代分批获取元素，避免内存消耗太大

八 有序集合，在集合的基础上，为每元素排序；元素的排序需要根据另外一个值来进行比较，所以，对于有序集合，每一个元素有两个值，即：值和分数，分数专门用来做排序。

sorted set是有序集合，它比set多了一个权重参数score，使得集合中的元素能够按 score 进行有序排列，比如一个存储全班同学成绩的 Sorted Sets，其集合 value 可以是同学的学号，而 score 就可以是其考试得分，这样在数据插入集合的时候，就已经进行了天然的排序。

zadd(name, *args, **kwargs)在name对应的有序集合中添加元素

# 如：zadd(\'zz\', \'n1\', 1, \'n2\', 2)或zadd(\'zz\', n1=11, n2=22)

zcard(name)

# 获取name对应的有序集合元素的数量
zcount(name, min, max)

# 获取name对应的有序集合中分数 在 [min,max] 之间的个数
zincrby(name, value, amount)

# 自增name对应的有序集合的 name 对应的分数
r.zrange( name, start, end, desc=False, withscores=False, score_cast_func=float)

# 按照索引范围获取name对应的有序集合的元素
# 参数：
# name，redis的name
# start，有序集合索引起始位置（非分数）
# end，有序集合索引结束位置（非分数）
# desc，排序规则，默认按照分数从小到大排序
# withscores，是否获取元素的分数，默认只获取元素的值
# score_cast_func，对分数进行数据转换的函数
# 更多：
# 从大到小排序
 zrevrange(name, start, end, withscores=False, score_cast_func=float)
# 按照分数范围获取name对应的有序集合的元素
# zrangebyscore(name, min, max, start=None, num=None, withscores=False, score_cast_func=float)
# 从大到小排序
# zrevrangebyscore(name, max, min, start=None, num=None, withscores=False, score_cast_func=float)

zrank(name, value)

# 获取某个值在 name对应的有序集合中的排行（从 0 开始）
# 更多：
# zrevrank(name, value)，从大到小排序
zrangebylex(name, min, max, start=None, num=None)

# 当有序集合的所有成员都具有相同的分值时，有序集合的元素会根据成员的 值 （lexicographical ordering）来进行排序，而这个命令则可以返回给定的有序集合键 key 中， 元素的值介于 min 和 max 之间的成员
# 对集合中的每个成员进行逐个字节的对比（byte-by-byte compare）， 并按照从低到高的顺序， 返回排序后的集合成员。 如果两个字符串有一部分内容是相同的话， 那么命令会认为较长的字符串比较短的字符串要大
# 参数：
# name，redis的name
# min，左区间（值）。 + 表示正无限； - 表示负无限； ( 表示开区间； [ 则表示闭区间
# min，右区间（值）
# start，对结果进行分片处理，索引位置
# num，对结果进行分片处理，索引后面的num个元素
# 如：
# ZADD myzset 0 aa 0 ba 0 ca 0 da 0 ea 0 fa 0 ga
# r.zrangebylex(\'myzset\', "-", "[ca") 结果为：[\'aa\', \'ba\', \'ca\']
# 更多：
# 从大到小排序
# zrevrangebylex(name, max, min, start=None, num=None)
zrem(name, values)

# 删除name对应的有序集合中值是values的成员
# 如：zrem(\'zz\', [\'s1\', \'s2\'])
zremrangebyrank(name, min, max)

# 根据排行范围删除
zremrangebyscore(name, min, max)

# 根据分数范围删除
zremrangebylex(name, min, max)

# 根据值返回删除
zscore(name, value)

# 获取name对应有序集合中 value 对应的分数
zinterstore(dest, keys, aggregate=None)

# 获取两个有序集合的交集，如果遇到相同值不同分数，则按照aggregate进行操作
# aggregate的值为: SUM MIN MAX
zunionstore(dest, keys, aggregate=None)

# 获取两个有序集合的并集，如果遇到相同值不同分数，则按照aggregate进行操作
# aggregate的值为: SUM MIN MAX
zscan(name, cursor=0, match=None, count=None, score_cast_func=float)
zscan_iter(name, match=None, count=None,score_cast_func=float)

# 同字符串相似，相较于字符串新增score_cast_func，用来对分数进行操作
其他常用操作

delete(*names)根据删除redis中的任意数据类型

exists(name)检测redis的name是否存在

keys(pattern=\'*\')

# 根据模型获取redis的name
# 更多：
# KEYS * 匹配数据库中所有 key 。
# KEYS h?llo 匹配 hello ， hallo 和 hxllo 等。
# KEYS h*llo 匹配 hllo 和 heeeeello 等。
# KEYS h[ae]llo 匹配 hello 和 hallo ，但不匹配 hillo
expire(name ,time)为某个redis的某个name设置超时时间

rename(src, dst) 对redis的name重命名为

move(name, db))将redis的某个值移动到指定的db下

redis只有16个db。

randomkey()随机获取一个redis的name（不删除）

type(name) 获取name对应值的类型

scan(cursor=0, match=None, count=None)
scan_iter(match=None, count=None) 同字符串操作，用于增量迭代获取key

八 管道

redis-py默认在执行每次请求都会创建（连接池申请连接）和断开（归还连接池）一次连接操作，如果想要在一次请求中指定多个命令，则可以使用pipline实现一次请求指定多个命令，并且默认情况下一次pipline 是原子性操作。

#!/usr/bin/env python
# -*- coding:utf-8 -*-

import redis

pool = redis.ConnectionPool(host=\'10.211.55.4\', port=6379)

r = redis.Redis(connection_pool=pool)

# pipe = r.pipeline(transaction=False)
pipe = r.pipeline(transaction=True)

pipe.set(\'name\', \'alex\')
pipe.set(\'role\', \'sb\')

pipe.execute()