并发编程之协程

Posted wanlei

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了并发编程之协程相关的知识,希望对你有一定的参考价值。

一、协程的介绍

协程:是单线程下的并发,一句话说明什么是线程:协程是一种用户态的轻量级线程,即协程是由用户程序自己控制调度的。

对比操作系统控制线程的切换,用户在单线程内控制协程的切换

优点:

#1. 协程的切换开销更小,属于程序级别的切换,操作系统完全感知不到,因而更加轻量级
#2. 单线程内就可以实现并发的效果,最大限度地利用cpu

缺点:

#1. 协程的本质是单线程下,无法利用多核,可以是一个程序开启多个进程,每个进程内开启多个线程,每个线程内开启协程
#2. 协程指的是单个线程,因而一旦协程出现阻塞,将会阻塞整个线程

总结协程特点:

1、必须在只有一个单线程里实现并发

2、修改共享数据不需加锁

3、用户程序里自己保存多个控制流的上下文栈

4、附加:一个协程遇到IO操作自动切换到其它协程(如何实现检测IO,yield、greenlet都无法实现,就用到了gevent模块(select机制))

 协程的实现:

import time
def task():
    while True:
        print("task1")
        time.sleep(4)
        yield 1


def task2():
    g = task()
    while True:
        try:
            print("task2")
            next(g)
        except Exception:
            print("任务完成")
            break
task2()

应用场景:

 TCP 多客户端实现方式
 1.来一个客户端就来一个进程     资源消耗较大
 2.来一个客户端就来一个线程     也不能无限开
 3.用进程池 或 线程池  还是一个线程或进程只能维护一个连接
 4.协程 一个线程就可以处理多个客户端  遇到io就切到另一个

二、greenlet模块

import greenlet

import time
def task1():
    print("task1 1")
    time.sleep(2)
    g2.switch()
    print("task1 2")
    g2.switch()

def task2():
    print("task2 1")
    g1.switch()
    print("task2 2")

g1 = greenlet.greenlet(task1)
g2 = greenlet.greenlet(task2)

g1.switch()

# 1.实例化greenlet得到一个对象 传入要执行的任务
#   至少需要两个任务
# 2.先让某个任务执行起来 使用对象调用switch
# 3.在任务的执行过程中 手动调用switch来切换

 

greenlet只是提供了一种比generator更加便捷的切换方式,当切到一个任务执行时如果遇到io,那就原地阻塞,仍然是没有解决遇到IO自动切换来提升效率的问题。

单线程里的多个任务的代码通常会既有计算操作又有阻塞操作,我们完全可以在执行任务1时遇到阻塞,就利用阻塞的时间去执行任务2。。。。如此,才能提高效率,这就用到了Gevent模块。

三、gevent模块

Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。

from gevent import monkey
monkey.patch_all()

import gevent
import time
def eat():
    print(eat food 1)
    time.sleep(2)
    # gevent.sleep(1)
    print(eat food 2)

def play():
    print(play 1)
    time.sleep(1)
    # gevent.sleep(1)
    print(play 2)

g1=gevent.spawn(eat)
g2=gevent.spawn(play)
# g1.join()
# g2.join()

gevent.joinall([g1,g2])
print()

# 1.spawn函数传入你的任务
# 2.调用join 去开启任务
# 3.检测io操作需要打monkey补丁  就是一个函数 在程序最开始的地方调用它

练习:

使用协程完成TCP套接字编程 支持多客户端同时访问

技术分享图片
import gevent
from gevent import monkey
monkey.patch_all()
import socket

server = socket.socket()
# 重用端口
server.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)

server.bind(("127.0.0.1",9999))

server.listen(5)
def data_handler(conn):
    print("一个新连接..")
    while True:
        data = conn.recv(1024)
        conn.send(data.upper())

while True:
    conn,addr = server.accept()
    # 切到处理数据的任务去执行
    gevent.spawn(data_handler,conn)
服务器
技术分享图片
import socket

c = socket.socket()


c.connect(("127.0.0.1",9999))


while True:
    msg = input(">>>:")
    if not msg:continue
    c.send(msg.encode("utf-8"))
    data = c.recv(1024)
    print(data.decode("utf-8"))
客户端

 


以上是关于并发编程之协程的主要内容,如果未能解决你的问题,请参考以下文章

并发编程之协程

并发编程之协程

python并发编程之协程

并发编程之协程

Python并发编程之协程

python并发编程之协程