多线程和队列

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了多线程和队列相关的知识,希望对你有一定的参考价值。

参考技术A 1、python提供两种方式使用多线程:一个是基于函数:_thread模块或者threading模块。一个是基于类:theading.Thread

使用多线程函数包装线程对象:_thread

_thead.start_new_thead(func,*args,**kwargs)

args,**kwargs是被包装函数的入参,必须传入元祖或字典

使用多线程函数包装线程对象:threading

threading._start_new_thread(func,*args,**kwargs):开启线程,带元祖或字典

threading.currentThread():返回当前线程变量

threading.enumerate():正在运行的线程列表,不含未启动和已结束线程

threading.activeCount():返回正在运行的线程数量

threading.settrace(func):为所有threading模块启动的线程设置追踪函数,在调用run方法之前,func会被传给追踪函数

threading.setprofile(func):为所有threading模块启动的线程设置性能测试函数,也是在run方法调用前就传递给性能测试函数

使用多线程类包装线程对象:threading.Thread

Thread类提供以下方法:

run():表示线程活动的方法,线程需要控制些什么活动都在这里面定义。当线程对象一但被创建,其活动一定会因调用线程的 start() 方法开始。这会在独立的控制线程调用 run() 方法。

start():开启线程活动

join():等待线程中止,阻塞当前线程直到被调用join方法的线程中止。线程A调用线程B的join方法,那线程A将会被阻塞至线程B中止。

isAlive():返回线程是否还活动

getName():获取线程名字

setName():设置线程名字

Lock对象:实例化线程锁,包含acquire方法获取锁 和 release 方法释放锁,在最开始创建锁的时候,锁为未锁定状态,调用acquire方法后锁置为锁定状态,此时其他线程再调用acquire方法就将会被阻塞至其他线程调用release方法释放锁,如果释放一个并未被锁定的锁将会抛出异常。支持上下文管理协议,直接with lock 无需调用锁定,释放方法

Rlock对象:重入锁,相比lock增加了线程和递归的概念。比如:线程目标函数F,在获得锁之后执行函数G,但函数G也需要先获得锁,此时同一线程,F获得锁,G等待,F等待G执行,就造成了死锁,此时使用rlock可避免。一旦线程获得了重入锁,同一个线程再次获取它将不阻塞;但线程必须在每次获取它时释放一次。

daemon属性:设置该线程是否是守护线程,默认为none,需要在调用start方法之前设置好

事件对象:一个线程发出事件信号 ,其他线程收到信号后作出对应活动。实例化事件对象后,初始事件标志为flase。调用其wait方法将阻塞当前所属线程,至事件标志为true时。调用set方法可将事件标志置为true,被阻塞的线程将被执行。调用clear方法可将事件标志置为flase

注意点:

1、继承threading.Thread类,初始化时要记得继承父类的__init__方法

2、run()方法只能有一个入参,故尽量把启动线程时的参数入参到初始化的时候

3、锁要设定全局的,一个子线程获得一个锁没有意义

以下实例:有一个列表,线程A从尾到头遍历元素,线程B从头到尾将元素值重置为1,设置线程锁之前线程A遍历到头部的数据已经被修改,设置线程锁之后不会再有数据不一致的情况

import threading,time

class tt(threading.Thread):

    def __init__(self,name,func,ll):

        threading.Thread.__init__(self) #继承父级的初始化方法

        self.name=name

        self.func=func  #run方法只能带一个入参,故把方法入参到初始化的时候

        self.ll=ll

    def run(self):

        print(self.name)

        threadlock.acquire() #获得锁

        self.func(self.ll)

        threadlock.release() #释放锁

def readd(x):

    a=len(x)

    while a>0:

        print(x[a-1])

        a-=1

def sett(x):

    for i in range(len(x)):

        x[i]=1

    print(x)

if __name__=="__main__":

    l = [0,0,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,17,18,19,20]

    threadlock=threading.Lock() #实例化全局锁

    th1=tt("read",readd,l)

    th2=tt("set",sett,l)

    th1.start()

    th2.start()

    th_list=[] 

    th_list.append(th1)

    th_list.append(th2)

    for li in th_list:

        li.join()        #主线程被阻塞,直到两个子线程处理结束

    print("主线程结束")

2、队列

queue模块包含queue.Queue(maxsize=0)先入先出队列,queue.LifoQueue()先入后出队列,和queue.PriorityQueue()优先级可设置的队列

Queue 模块中的常用方法:

Queue.qsize() 返回队列的大小,获取的数据不可靠,因为一直有线程在操作队列,数据一直变化

Queue.empty() 如果队列为空,返回True,反之False

Queue.full() 如果队列满了,返回True,反之False

Queue.full 与 maxsize 大小对应

Queue.put(block=true,timeout=none) 将item数据写入队列,block=True,设置线程是否阻塞,设置阻塞当队列数据满了之后就会阻塞,一直到队列数据不满时继续添加,如果设置不阻塞,当队列满了就会一直到timeout到后报错

Queue.get([block[, timeout]]) 取出队列数据,block=True,设置线程是否阻塞。设置阻塞,将会等待直到队列不为空有数据可取出,设置不阻塞直到超过timeout等待时间后报错

Queue.task_done() 在完成一项工作之后,Queue.task_done()函数向任务已经完成的队列发送一个信号

Queue.join() 实际上意味着等到队列为空,再执行别的操作。会在队列有未完成时阻塞,等待队列无未完成的任务,取出数据get()之后还需要配置task_done使用才能让等待队列数-1

import queue,time

import threading

q=queue.Queue(maxsize=5)

def sett():

    a=0

    while a<20:

        q.put(a,True)

        print("%d被put"%a)

        a+=1

def gett():

    time.sleep(1)

    while not q.empty(): #只要队列没空,一直取数据

        print("%d被取出"%q.get(True))

        q.task_done() #取出一次数据,将未完成任务-1,不然使用join方法线程会一直阻塞

if __name__=="__main__":

    th1=threading._start_new_thread(sett,()) #不带参数也要传入空元祖不然会报错

    th2=threading._start_new_thread(gett,())

    time.sleep(1) #延时主线程1S,等待put线程已经put部分数据到队列

    q.join()#阻塞主线程,直到未完成任务为0

多线程之阻塞队列BlockingQueue详解

上篇博文,我们简单的介绍了多线程之Semaphore,这篇我们重点介绍阻塞队列BlockingQueue。

文章目录

什么是阻塞队列

阻塞队列,顾名思义,首先它是一个队列,而一个阻塞队列在数据结构中所起的作用大致如下图所示:


线程1往阻塞队列中添加元素,而线程2从阻塞队列中移除元素

1、当阻塞队列是空时,从队列中获取元素的操作将会被阻塞。
2、当阻塞队列是满时,从队列里添加元素的操作将会被阻塞。

上面阻塞队列的特点,也是阻塞队列与普通队列的区别。

为什么用阻塞队列,有什么好处?

在多线程领域:所谓阻塞

以上是关于多线程和队列的主要内容,如果未能解决你的问题,请参考以下文章

多线程访问队列的推荐模式......工作线程应该做啥?

多线程-阻塞队列

python 多线程与队列

Java多线程总结之线程安全队列Queue

Python进阶第二篇多线程消息队列queue

java多线程之队列