python队列生产者消费者模型

Posted 2020-11-06

生产者消费者模型：

在软件开发的过程中，经常碰到这样的场景：
某些模块负责生产数据，这些数据由其他模块来负责处理（此处的模块可能是：函数、线程、进程等）。产生数据的模块称为生产者，而处理数据的模块称为消费者。在生产者与消费者之间的缓冲区称之为仓库。生产者负责往仓库运输商品，而消费者负责从仓库里取出商品，这就构成了生产者消费者模式。

生产者消费者模式的优点

• 解耦
  假设生产者和消费者分别是两个线程。如果让生产者直接调用消费者的某个方法，那么生产者对于消费者就会产生依赖（也就是耦合）。如果未来消费者的代码发生变化，可能会影响到生产者的代码。而如果两者都依赖于某个缓冲区，两者之间不直接依赖，耦合也就相应降低了。

举个例子，我们去邮局投递信件，如果不使用邮箱（也就是缓冲区），你必须得把信直接交给邮递员。有同学会说，直接给邮递员不是挺简单的嘛？其实不简单，你必须 得认识谁是邮递员，才能把信给他。这就产生了你和邮递员之间的依赖（相当于生产者和消费者的强耦合）。万一哪天邮递员 换人了，你还要重新认识一下（相当于消费者变化导致修改生产者代码）。而邮箱相对来说比较固定，你依赖它的成本就比较低（相当于和缓冲区之间的弱耦合）。

• 并发
  由于生产者与消费者是两个独立的并发体，他们之间是用缓冲区通信的，生产者只需要往缓冲区里丢数据，就可以继续生产下一个数据，而消费者只需要从缓冲区拿数据即可，这样就不会因为彼此的处理速度而发生阻塞。

继续上面的例子，如果我们不使用邮箱，就得在邮局等邮递员，直到他回来，把信件交给他，这期间我们啥事儿都不能干（也就是生产者阻塞）。或者邮递员得挨家挨户问，谁要寄信（相当于消费者轮询）。

• 支持忙闲不均
  当生产者制造数据快的时候，消费者来不及处理，未处理的数据可以暂时存在缓冲区中，慢慢处理掉。而不至于因为消费者的性能造成数据丢失或影响生产者生产。

我们再拿寄信的例子，假设邮递员一次只能带走1000封信，万一碰上情人节（或是圣诞节）送贺卡，需要寄出去的信超过了1000封，这时候邮箱这个缓冲区就派上用场了。邮递员把来不及带走的信暂存在邮箱中，等下次过来时再拿走。

举个例子：

import threading,time,random,queue
def product(num):
 '''生产者函数，负责向队列里放入数据'''
 c = threading.Thread(target = customer)           # 创建消费者进程，并设置成守护进程，生产结束，消费结束
 c.setDaemon(True)   # 为什么不用empty()判断，因为消费比生产快，程序就会结束
 c.start()

 count = 0          # 计数器
 while count < 5:
  name = str(num)+str(count)        # 生成不同的名字
  q.put(name)                       # 放入队列
  print('服务员{} 有时间！'.format(name))      #打印提示
  sec = random.randint(1,5)         # 随机延迟
  time.sleep(sec)                   
  count += 1                        # 增加计数

def customer():
 '''消费者函数，从队列取出数据'''
 while True:
  sec = random.randint(1,5)
  time.sleep(sec)
  name = q.get()                # 从队列取出数据，如果没有数据，阻塞
  print ('服务员{} 被叫走了！'.format(name))

q = queue.Queue()
l = []
for i in range(2):
 p = threading.Thread(target = product, args=(i,))
 l.append(p)
 p.start()

for i in l:
 i.join()

 

消费者生产者型概念参考资料：

http://python.jobbole.com/87592/