Memcached 是一个高性能的分布式内存对象缓存系统,用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象来减少读取数据库的次数,从而提高动态、数据库驱动网站的速度。Memcached基于一个存储键/值对的hashmap。其守护进程(daemon )是用C写的,但是客户端可以用任何语言来编写,并通过memcached协议与守护进程通信。
Memcached安装和基本使用
Memcached安装:
1
2
3
4
5
6
7
8
|
wget http: / / memcached.org / latest tar - zxvf memcached - 1.x .x.tar.gz cd memcached - 1.x .x . / configure && make && make test && sudo make install PS:依赖libevent yum install libevent - devel apt - get install libevent - dev |
启动Memcached
1
2
3
4
5
6
7
8
9
10
|
memcached - d - m 10 - u root - l 10.211 . 55.4 - p 12000 - c 256 - P / tmp / memcached.pid 参数说明: - d 是启动一个守护进程 - m 是分配给Memcache使用的内存数量,单位是MB - u 是运行Memcache的用户 - l 是监听的服务器IP地址 - p 是设置Memcache监听的端口,最好是 1024 以上的端口 - c 选项是最大运行的并发连接数,默认是 1024 ,按照你服务器的负载量来设定 - P 是设置保存Memcache的pid文件 |
Memcached命令
1
2
3
|
存储命令: set / add / replace / append / prepend / cas 获取命令: get / gets 其他命令: delete / stats.. |
Python操作Memcached
安装API
1
2
|
python操作Memcached使用Python - memcached模块 下载安装:https: / / pypi.python.org / pypi / python - memcached |
1、第一次操作
1
2
3
4
5
6
|
import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) mc. set ( "foo" , "bar" ) ret = mc.get( \'foo\' ) print ret |
Ps:debug = True 表示运行出现错误时,现实错误信息,上线后移除该参数。
2、天生支持集群
python-memcached模块原生支持集群操作,其原理是在内存维护一个主机列表,且集群中主机的权重值和主机在列表中重复出现的次数成正比
1
2
3
4
5
6
7
|
主机 权重 1.1 . 1.1 1 1.1 . 1.2 2 1.1 . 1.3 1 那么在内存中主机列表为: host_list = [ "1.1.1.1" , "1.1.1.2" , "1.1.1.2" , "1.1.1.3" , ] |
如果用户根据如果要在内存中创建一个键值对(如:k1 = "v1"),那么要执行一下步骤:
- 根据算法将 k1 转换成一个数字
- 将数字和主机列表长度求余数,得到一个值 N( 0 <= N < 列表长度 )
- 在主机列表中根据 第2步得到的值为索引获取主机,例如:host_list[N]
- 连接 将第3步中获取的主机,将 k1 = "v1" 放置在该服务器的内存中
代码实现如下:
1
2
3
|
mc = memcache.Client([( \'1.1.1.1:12000\' , 1 ), ( \'1.1.1.2:12000\' , 2 ), ( \'1.1.1.3:12000\' , 1 )], debug = True ) mc. set ( \'k1\' , \'v1\' ) |
3、add
添加一条键值对,如果已经存在的 key,重复执行add操作异常
1
2
3
4
5
6
7
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) mc.add( \'k1\' , \'v1\' ) # mc.add(\'k1\', \'v2\') # 报错,对已经存在的key重复添加,失败!!! |
4、replace
replace 修改某个key的值,如果key不存在,则异常
1
2
3
4
5
6
7
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) # 如果memcache中存在kkkk,则替换成功,否则一场 mc.replace( \'kkkk\' , \'999\' ) |
5、set 和 set_multi
set 设置一个键值对,如果key不存在,则创建,如果key存在,则修改
set_multi 设置多个键值对,如果key不存在,则创建,如果key存在,则修改
1
2
3
4
5
6
7
8
9
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) mc. set ( \'key0\' , \'wupeiqi\' ) mc.set_multi({ \'key1\' : \'val1\' , \'key2\' : \'val2\' }) |
6、delete 和 delete_multi
delete 在Memcached中删除指定的一个键值对
delete_multi 在Memcached中删除指定的多个键值对
1
2
3
4
5
6
7
8
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) mc.delete( \'key0\' ) mc.delete_multi([ \'key1\' , \'key2\' ]) |
7、get 和 get_multi
get 获取一个键值对
get_multi 获取多一个键值对
1
2
3
4
5
6
7
8
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) val = mc.get( \'key0\' ) item_dict = mc.get_multi([ "key1" , "key2" , "key3" ]) |
8、append 和 prepend
append 修改指定key的值,在该值 后面 追加内容
prepend 修改指定key的值,在该值 前面 插入内容
1
2
3
4
5
6
7
8
9
10
11
12
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) # k1 = "v1" mc.append( \'k1\' , \'after\' ) # k1 = "v1after" mc.prepend( \'k1\' , \'before\' ) # k1 = "beforev1after" |
9、decr 和 incr
incr 自增,将Memcached中的某一个值增加 N ( N默认为1 )
decr 自减,将Memcached中的某一个值减少 N ( N默认为1 )
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True ) mc. set ( \'k1\' , \'777\' ) mc.incr( \'k1\' ) # k1 = 778 mc.incr( \'k1\' , 10 ) # k1 = 788 mc.decr( \'k1\' ) # k1 = 787 mc.decr( \'k1\' , 10 ) # k1 = 777 |
10、gets 和 cas
如商城商品剩余个数,假设改值保存在memcache中,product_count = 900
A用户刷新页面从memcache中读取到product_count = 900
B用户刷新页面从memcache中读取到product_count = 900
如果A、B用户均购买商品
A用户修改商品剩余个数 product_count=899
B用户修改商品剩余个数 product_count=899
如此一来缓存内的数据便不在正确,两个用户购买商品后,商品剩余还是 899
如果使用python的set和get来操作以上过程,那么程序就会如上述所示情况!
如果想要避免此情况的发生,只要使用 gets 和 cas 即可,如:
1
2
3
4
5
6
7
8
9
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import memcache mc = memcache.Client([ \'10.211.55.4:12000\' ], debug = True , cache_cas = True ) v = mc.gets( \'product_count\' ) # ... # 如果有人在gets之后和cas之前修改了product_count,那么,下面的设置将会执行失败,剖出异常,从而避免非正常数据的产生 mc.cas( \'product_count\' , "899" ) |
Ps:本质上每次执行gets时,会从memcache中获取一个自增的数字,通过cas去修改gets的值时,会携带之前获取的自增值和memcache中的自增值进行比较,如果相等,则可以提交,如果不想等,那表示在gets和cas执行之间,又有其他人执行了gets(获取了缓冲的指定值), 如此一来有可能出现非正常数据,则不允许修改。
Redis
redis是一个key-value存储系统。和Memcached类似,它支持存储的value类型相对更多,包括string(字符串)、list(链表)、set(集合)、zset(sorted set --有序集合)和hash(哈希类型)。这些数据类型都支持push/pop、add/remove及取交集并集和差集及更丰富的操作,而且这些操作都是原子性的。在此基础上,redis支持各种不同方式的排序。与memcached一样,为了保证效率,数据都是缓存在内存中。区别的是redis会周期性的把更新的数据写入磁盘或者把修改操作写入追加的记录文件,并且在此基础上实现了master-slave(主从)同步。
一、Redis安装和基本使用
1
2
3
4
|
wget http: / / download.redis.io / releases / redis - 3.0 . 6.tar .gz tar xzf redis - 3.0 . 6.tar .gz cd redis - 3.0 . 6 make |
启动服务端
1
|
src / redis - server |
启动客户端
1
2
3
4
5
|
src / redis - cli redis> set foo bar OK redis> get foo "bar" |
二、Python操作Redis
1
2
3
4
5
6
7
|
sudo pip install redis or sudo easy_install redis or 源码安装 详见:https: / / github.com / WoLpH / redis - py |
API使用
redis-py 的API的使用可以分类为:
- 连接方式
- 连接池
- 操作
- String 操作
- Hash 操作
- List 操作
- Set 操作
- Sort Set 操作
- 管道
- 发布订阅
1、操作模式
redis-py提供两个类Redis和StrictRedis用于实现Redis的命令,StrictRedis用于实现大部分官方的命令,并使用官方的语法和命令,Redis是StrictRedis的子类,用于向后兼容旧版本的redis-py。
1
2
3
4
5
6
7
8
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import redis r = redis.Redis(host = \'10.211.55.4\' , port = 6379 ) r. set ( \'foo\' , \'Bar\' ) print r.get( \'foo\' ) |
2、连接池
redis-py使用connection pool来管理对一个redis server的所有连接,避免每次建立、释放连接的开销。默认,每个Redis实例都会维护一个自己的连接池。可以直接建立一个连接池,然后作为参数Redis,这样就可以实现多个Redis实例共享一个连接池。
1
2
3
4
5
6
7
8
9
10
|
#!/usr/bin/env python # -*- coding:utf-8 -*- import redis pool = redis.ConnectionPool(host = \'10.211.55.4\' , port = 6379 ) r = redis.Redis(connection_pool = pool) r. set ( \'foo\' , \'Bar\' ) print r.get( \'foo\' ) |
3、操作
String操作,redis中的String在在内存中按照一个name对应一个value来存储。如图:
set(name, value, ex=None, px=None, nx=False, xx=False)
123456在Redis中设置值,默认,不存在则创建,存在则修改
参数:
ex,过期时间(秒)
px,过期时间(毫秒)
nx,如果设置为True,则只有name不存在时,当前set操作才执行
xx,如果设置为True,则只有name存在时,岗前set操作才执行
setnx(name, value)
1设置值,只有name不存在时,执行设置操作(添加)
setex(name, value, time)
123# 设置值
# 参数:
# time,过期时间(数字秒 或 timedelta对象)
psetex(name, time_ms, value)
123# 设置值
# 参数:
# time_ms,过期时间(数字毫秒 或 timedelta对象)
mset(*args, **kwargs)
12345批量设置值
如:
mset(k1=
\'v1\'
, k2=
\'v2\'
)
或
mget({
\'k1\'
:
\'v1\'
,
\'k2\'
:
\'v2\'
})
get(name)
1获取值
mget(keys, *args)
12345批量获取
如:
mget(
\'ylr\'
,
\'wupeiqi\'
)
或
r.mget([
\'ylr\'
,
\'wupeiqi\'
])
getset(name, value)
1设置新值并获取原来的值
getrange(key, start, end)
123456# 获取子序列(根据字节获取,非字符)
# 参数:
# name,Redis 的 name
# start,起始位置(字节)
# end,结束位置(字节)
# 如: "武沛齐" ,0-3表示 "武"
setrange(name, offset, value)
1234# 修改字符串内容,从指定字符串索引开始向后替换(新值太长时,则向后添加)
# 参数:
# offset,字符串的索引,字节(一个汉字三个字节)
# value,要设置的值
setbit(name, offset, value)
123456789101112131415161718192021222324252627# 对name对应值的二进制表示的位进行操作
# 参数:
# name,redis的name
# offset,位的索引(将值变换成二进制后再进行索引)
# value,值只能是 1 或 0
# 注:如果在Redis中有一个对应: n1 = "foo",
那么字符串foo的二进制表示为:
01100110
01101111
01101111
所以,如果执行 setbit(
\'n1\'
,
7
,
1
),则就会将第
7
位设置为
1
,
那么最终二进制则变成
01100111
01101111
01101111
,即:
"goo"
# 扩展,转换二进制表示:
# source = "武沛齐"
source
=
"foo"
for
i
in
source:
num
=
ord
(i)
bin
以上是关于Python操作 RabbitMQRedisMemcacheSQLAlchemy的主要内容,如果未能解决你的问题,请参考以下文章