python的gevent协程
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了python的gevent协程相关的知识,希望对你有一定的参考价值。
gevent
Python通过yield
提供了对协程的基本支持,但是不完全。而第三方的gevent为Python提供了比较完善的协程支持
gevent是第三方库,通过greenlet实现协程,其基本思想是:
当一个greenlet遇到IO操作时(比如访问网络),就自动切换到其他的greenlet,等到IO操作完成,再在适当的时候切换回来继续执行。由于IO操作非常耗时,经常使程序处于等待状态,有了gevent为我们自动切换协程,就保证总有greenlet在运行,而不是等待IO。
import gevent def f(n): for i in range(n): print gevent.getcurrent(), i g1 = gevent.spawn(f, 5) g2 = gevent.spawn(f, 5) g3 = gevent.spawn(f, 5) g1.join() g2.join() g3.join()
结果
<Greenlet at 0x7f7216efbe10: f(5)> 0 <Greenlet at 0x7f7216efbe10: f(5)> 1 <Greenlet at 0x7f7216efbe10: f(5)> 2 <Greenlet at 0x7f7216efbe10: f(5)> 3 <Greenlet at 0x7f7216efbe10: f(5)> 4 <Greenlet at 0x7f720f54e0f0: f(5)> 0 <Greenlet at 0x7f720f54e0f0: f(5)> 1 <Greenlet at 0x7f720f54e0f0: f(5)> 2 <Greenlet at 0x7f720f54e0f0: f(5)> 3 <Greenlet at 0x7f720f54e0f0: f(5)> 4 <Greenlet at 0x7f720f54e190: f(5)> 0 <Greenlet at 0x7f720f54e190: f(5)> 1 <Greenlet at 0x7f720f54e190: f(5)> 2 <Greenlet at 0x7f720f54e190: f(5)> 3 <Greenlet at 0x7f720f54e190: f(5)> 4
可以看出3个greenlet依次运行,而不是交替运行
要让greenlet交替运行,可以通过gevent.sleep()
交出控制权
import gevent def f(n): for i in range(n): print gevent.getcurrent(), i gevent.sleep(1) g1 = gevent.spawn(f, 3) g2 = gevent.spawn(f, 3) g3 = gevent.spawn(f, 3) g1.join() g2.join() g3.join()
结果
<Greenlet at 0x7f74e2179e10: f(3)> 0 <Greenlet at 0x7f74da7cb0f0: f(3)> 0 <Greenlet at 0x7f74da7cb190: f(3)> 0 <Greenlet at 0x7f74e2179e10: f(3)> 1 <Greenlet at 0x7f74da7cb0f0: f(3)> 1 <Greenlet at 0x7f74da7cb190: f(3)> 1 <Greenlet at 0x7f74e2179e10: f(3)> 2 <Greenlet at 0x7f74da7cb0f0: f(3)> 2 <Greenlet at 0x7f74da7cb190: f(3)> 2
可以看出3个greenlet是交替执行
如果把循环改为1000,让执行次数执行时间长些,查看进程,可以看到线程只有一个。
当然,实际代码中,不可能用gevent.sleep()去切换协程,而是在执行IO操作是,gevent自动切换,参考代码如下
import gevent from gevent import monkey; monkey.patch_all() import urllib2 def f(url): print ‘GET: %s‘ % url resp = urllib2.urlopen(url) data = resp.read() print ‘[%d] bytes received from %s\\n‘ %(len(data), url) gevent.joinall([ gevent.spawn(f, ‘http://www.cnblogs.com/kaituorensheng/‘), gevent.spawn(f, ‘https://www.python.org/‘), gevent.spawn(f, ‘https://www.baidu.com‘), ])
执行结果
GET: http://www.cnblogs.com/kaituorensheng/ GET: https://www.python.org/ GET: https://www.baidu.com [227] bytes received from https://www.baidu.com [14667] bytes received from http://www.cnblogs.com/kaituorensheng/ [47348] bytes received from https://www.python.org/
可以看到3个url结束顺序并不是依次执行完的。
注
使用gevent,可以获得极高的并发性能,但gevent只能在Unix/Linux下运行,在Windows下不保证正常安装和运行。
由于gevent是基于IO切换的协程,所以最神奇的是,我们编写的Web App代码,不需要引入gevent的包,也不需要改任何代码,仅仅在部署的时候,用一个支持gevent的WSGI服务器,立刻就获得了数倍的性能提升。
以上是关于python的gevent协程的主要内容,如果未能解决你的问题,请参考以下文章