python之协程

Posted 2020-08-30

  协程，又称微线程，纤程。英文名Coroutine。协程是一种用户态的轻量级线程。

  所谓用户态就是说协程是由用户来控制的，CPU不认识协程，协程是跑在线程中的。

  协程拥有自己的寄存器上下文栈。协程调试切换时，将寄存器上下文栈保存到其他地方，在切回来时，恢复先前保存的寄存器上下文栈。

  因此，协程能保留上一次调用时的状态（即所有局部状态的一个特定组合），每次过程重入时，就相当于进入上一次调用的状态，也就是进入上一次离开时所处逻辑流的位置。

  线程切换时会将上下文和栈保存到CPU的寄存器中。

  协程的标准定义，即符合以下所有条件就能称之为协程：

  1.在单线程里实现并发

  2.修改共享数据不需要加锁

  3.用户程序里自己保存多个控制流的上下文栈

  4.一个协程遇到IO操作自动切换到其它协程

  协程的好处：

  无需线程上下文切换的开销

  无需原子操作锁定及同步的开销

    原子操作是指不会被线程调度机制打断的操作；这种操作一旦开始，就一直运行到结束

  方便切换控制流，简化编程模型

  高并发+高扩展性+低成本：一个CPU支持上万的协程都行，很适合用于高并发处理

  协程的缺点：

  无法利用多核资源：

    协程的本质是个单线程，它不能同时将单个CPU的多个核用上

    协程需要和进程配合才能运行在多CPU上。

  进行阻塞（Blocking）操作（如IO）时会阻塞掉整个程序

  使用yield实现协程的例子：

#!/usr/bin/python
#Author:sean

import time

def consumer(name):
    print("--->start eating baozi...")
    while True:
        new_baozi = yield
        print("[%s] is eating baozi %s"% (name,new_baozi))
        # time.sleep(2)
def producter():
    r = tom.__next__()
    r = jerry.__next__()
    n = 0
    while n < 5:
        n += 1
        tom.send(n)
        jerry.send(n)
        print("\033[32;1m[producter]\033[0m is making baozi %s"% n)

if __name__ == ‘__main__‘:
    tom = consumer("tom")
    jerry = consumer("jerry")
    p = producter()

  如何在单线程下实现并发效果？

  答案是遇到IO操作就切换，因为IO操作耗时比较长

  协程之所以能处理高并发，其实就是把IO操作给干掉了，就是一遇到IO操作就切换。

  这样的话整个程序就变成了只有CPU在运算。

  一遇到IO操作就切换，那么到底什么时候再切回去呢？

  答案是当IO操作结束后就切回去。

  那么问题又来了，python怎么来监测IO操作是否结束呢？带着这个问题先来看看几个例子

  greenlet模块：

    greenlet是一个封装好的协程，通过switch方法手动进行切换

#!/usr/bin/python
#Author:sean

from greenlet import greenlet

def func1():
    print("haha11")
    gr2.switch()
    print("haha22")
    gr2.switch()

def func2():
    print("haha33")
    gr1.switch()
    print("haha44")

gr1 = greenlet(func1)
gr2 = greenlet(func2)
gr1.switch()

  gevent模块：

    gevent是一个第三方库，可以轻松实现并发同步或异步编程。

    在gevent中用到的主要是greenlet，它是以C扩展模式形式接入python的轻量级协程。

    greenlet全部运行在主程序操作系统进程的内部，但它们被协作式地调度

    gevent能够自动进行IO切换

#!/usr/bin/python
#Author:sean

import gevent

def foo():
    print("Running in foo")
    gevent.sleep(0) #模仿IO操作
    print(‘Explicit context switch to foo again‘)

def bar():
    print(‘Explicit context to bar‘)
    gevent.sleep(0) #模仿IO操作
    print(‘Implicit context switch back to bar‘)

gevent.joinall([
    gevent.spawn(foo),
    gevent.spawn(bar)
])

  同步与异步的区别：

#!/usr/bin/python
#Author:sean

import gevent

def task(pid):
    """
    Some non-deterministic task
    """
    gevent.sleep(0.5)
    print(‘Task %s done‘ % pid)

def synchronous():
    for i in range(1, 10):
        task(i)

def asynchronous():
    threads = [gevent.spawn(task, i) for i in range(10)]
    gevent.joinall(threads)

print(‘Synchronous:‘)
synchronous()

print(‘Asynchronous:‘)
asynchronous()

  用协程并发爬虫爬取网站：

#!/usr/bin/python
#Author:sean

from urllib import request
import gevent
#默认情况下，gevent并不知道urllib或者socket什么时候进行了IO操作
#默认情况下，gevent和urllib以及socket并没有任何关联，当然就无法提高效率，因为其实质上还是串行操作
#要想让gevent知道urllib或socket正在进行IO操作，需要给gevent打个补丁
from gevent import monkey
monkey.patch_all()  #把当前程序的所有IO操作单独做上标记

def f(url):
    print(‘GET: %s‘% url)
    resp = request.urlopen(url)
    data = resp.read()
    # f = open("url.html","wb")
    # f.write(data)
    # f.close()
    print(‘%d bytes received from %s.‘% (len(data),url))

gevent.joinall([
    gevent.spawn(f,‘https://www.python.org‘),
    gevent.spawn(f,‘https://yahoo.com‘),
    gevent.spawn(f,‘https://github.com‘)
])

  用gevent协程写一个单线程高并发的socket：

  服务端：

#!/usr/bin/python
#Author:sean

import sys
import socket
import time
import gevent

from gevent import socket,monkey
monkey.patch_all()  #把当前程序的所有IO操作单独做上标记

def server(host,port):
    s = socket.socket()
    s.bind((host,port))
    s.listen(500)
    while True:
        cli,addr = s.accept()
        gevent.spawn(handle_request,cli)

def handle_request(conn):
    try:
        while True:
            data = conn.recv(1024)
            print("recv: ",data)
            conn.send(data)
            if not data:
                conn.shutdown(socket.SHUT_WR)
    except Exception as e:
        print(e)
    finally:
        conn.close()

if __name__ == ‘__main__‘:
    server(‘0.0.0.0‘,8001)

  客户端：

#!/usr/bin/python
#Author:sean

import socket

HOST = ‘localhost‘  #The remote host
PORT = 8001 #The same port as used by the server
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect((HOST,PORT))
while True:
    msg = bytes(input(">>:"),encoding="utf-8")
    s.sendall(msg)
    data = s.recv(1024)
    print(‘Received‘,repr(data))
s.close()

 并发100个sock连接：

#!/usr/bin/python
#Author:sean

import socket
import threading

def sock_conn():
    client = socket.socket()
    client.connect(("localhost",8001))
    count = 0
    while True:
        #msg = input(">>:").strip()
        #if len(msg) == 0:continue
        client.send( ("hello %s" %count).encode("utf-8"))
        data = client.recv(1024)
        print("[%s]recv from server:" % threading.get_ident(),data.decode()) #结果
        count +=1
    client.close()

for i in range(100):
    t = threading.Thread(target=sock_conn)
    t.start()

  事件驱动与异步IO，请往这走

  现在我们可以来回答下这个问题了，python如何监测IO操作是否结束？

  IO操作是由操作系统进行处理的，当遇到IO操作时就切换

  等IO操作完以后让其调用回调函数，回调函数会通知协程说这个IO操作完成了

本文出自 “忘情居” 博客，请务必保留此出处http://itchentao.blog.51cto.com/5168625/1895251