Python 垃圾回收机制

Posted 心之所向,素履以往

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Python 垃圾回收机制相关的知识,希望对你有一定的参考价值。

一、Python垃圾回收机制

Python中的垃圾回收是以引用计数为主,分代收集为辅。

在Python中,如果一个对象的引用数为0,Python虚拟机就会回收这个对象的内存。

class A:

    def __init__(self):
        self.t = None
        print new obj, id is %s %str(hex(id(self)))
    
    def __del__(self):
        print del obj, id id %s %str(hex(id(self)))

if __name__ == __main__:
    while True:
        a1 = A()
        del a1

 

运行如上代码,进程占用的内存基本不会变动

new obj, id is 0x2a79d48L
del obj, id id 0x2a79d48L

 

a = A() 会创建一个对象,在0x2a79d48L内存中,a变量指向这个内存,这时候这个内存的引用计数是1

del a后,a变量不再指向0x2a79d48L内存,所以这块内存的引用计数减一,等于0,所以就销毁了这个对象,然后释放内存。

导致引用计数+1的情况

  1) 对象被创建,例如a=23

  2) 对象被引用,例如b=a

  3) 对象被作为参数,传入到一个函数中,例如func(a)

  4)对象作为一个元素,存储在容器中,例如list1=[a,a]

导致引用计数-1的情况

  1) 对象的别名被显式销毁,例如del a

  2) 对象的别名被赋予新的对象,例如a=24

  3) 一个对象离开它的作用域,例如f函数执行完毕时,func函数中的局部变量(全局变量不会)

  4) 对象所在的容器被销毁,或从容器中删除对象

二、demo查看引用计数

def func(c):
    print in func function, sys.getrefcount(c) - 1


print init, sys.getrefcount(11) - 1
a = 11
print after a=11, sys.getrefcount(11) - 1
b = a
print after b=a, sys.getrefcount(11) - 1
func(11)
print after func(a), sys.getrefcount(11) - 1
list1 = [a, 12, 14]
print after list1=[a,12,14], sys.getrefcount(11) - 1
a=12
print after a=12, sys.getrefcount(11) - 1
del a
print after del a, sys.getrefcount(11) - 1
del b
print after del b, sys.getrefcount(11) - 1
list1.pop(0)
print after pop list1,sys.getrefcount(11)-1
del list1
print after del list1, sys.getrefcount(11) - 1

 

输出:

init 67
after a=11 68
after b=a 69
in func function 72
after func(a) 69
after list1=[a,12,14] 70
after a=12 69
after del a 69
after del b 68
after pop list1 67
after del list1 67

 

问题:为什么调用函数会令引用计数+2

sys.getrefcount(a) 可以查看a对象的引用计数,但是比正常计数大1,因为调用函数的时候传入a,这会让a的引用计数+1

三、循环引用导致内存泄露

class A:

    def __init__(self):
        self.t = None
        print new obj, id is %s %str(hex(id(self)))
    
    def __del__(self):
        print del obj, id id %s %str(hex(id(self)))

if __name__ == __main__:
    while True:
        a1 = A()
        a2 = A()
        a1.t = a2
        a2.t = a1
        del a1
        del a2

 

执行如上代码,进程占用的内存会不断增大。

new obj, id is 0x3475348L
new obj, id is 0x3475388L

 

创建了a1,a2后,0x3475348L(a1对应的内存,记为内存1),0x3475388L(c2对应的内存,记为内存2)这两块内存的引用计数都是1,执行a1.t = a2和a2.t = a1后,这两块内存的引用计数变成2.

在del a1后,内存1的对象的引用计数变为1,由于不是为0,所以内存1的对象不会被销毁,所以内存2的对象的引用数依然是2,在del c2后,同理,内存1的对象,内存2的对象的引用数都是1。

虽然它们两个的对象都是可以被销毁的,但是由于循环引用,导致垃圾回收器都不会回收它们,所以就会导致内存泄露。

当然,上面这是一种特殊情况,因为classA定义了__del__(self): 函数,并且存在循环引用,这有这种情况的循环引用,gc不能确定先调用那个del,所以不能进行回收。若果classA没有定义__del__(self):函数,gc是能够自动打破循环引用的。

四、Python gc模块

有了循环引用的问题,当然就会有解决办法,python gc模块提供了一种机制,使我们能够访问那些定义了__del__(self): 函数又存在循环引用的对象。

class A:

    def __init__(self):
        self.t = None
        print new obj, id is %s %str(hex(id(self)))
    
    def __del__(self):
        print del obj, id id %s %str(hex(id(self)))


def f():
    c1=A()
    c2=A()
    c1.t=c2
    c2.t=c1
    del c1
    del c2
    print gc.collect() #显式执行垃圾回收
    print gc.garbage


if __name__ == __main__:
    gc.set_debug(gc.DEBUG_UNCOLLECTABLE) #设置gc模块的日志
    f()

 

gc.set_debug(gc.DEBUG_UNCOLLECTABLE)设置gc模块在执行清理后,将uncollectable对象放在gc.garbage里,上面代码运行结果:

new obj, id is 0x2b8f148L
new obj, id is 0x2b8f3c8L
4
[<__main__.A instance at 0x0000000002B8F148>, <__main__.A instance at 0x0000000002B8F3C8>]

 

我们创建的两个对象(0x2aff148l, 0x2aff3c8l)循环引用后并del后, 都放在了gc.garbage里,所以他们都是uncollectable类型的对象,我们解除循环引用,就可以遍历gc.garbage这个对象,并将garbage对象里的对象的del掉即可。

五、Python三代回收

在Python中,采用分代收集的方法。把对象分为三代,一开始,对象在创建的时候,放在一代中,如果在一次一代的垃圾检查中,改对象存活下来,就会被放到二代中,同理在一次二代的垃圾检查中,该对象存活下来,就会被放到三代中。

gc模块里面会有一个长度为3的列表的计数器,可以通过gc.get_count()获取。

例如(488,3,0),其中488是指距离上一次一代垃圾检查,Python分配内存的数目减去释放内存的数目,注意是内存分配,而不是引用计数的增加。例如:

print gc.get_count() # (590, 8, 0)
a = ClassA()
print gc.get_count() # (591, 8, 0)
del a
print gc.get_count() # (590, 8, 0)

3是指距离上一次二代垃圾检查,一代垃圾检查的次数,同理,0是指距离上一次三代垃圾检查,二代垃圾检查的次数。

gc模快有一个自动垃圾回收的阀值,即通过gc.get_threshold函数获取到的长度为3的元组,例如(700,10,10)

每一次计数器的增加,gc模块就会检查增加后的计数是否达到阀值的数目,如果是,就会执行对应的代数的垃圾检查,然后重置计数器

例如,假设阀值是(700,10,10):

  • 当计数器从(699,3,0)增加到(700,3,0),gc模块就会执行gc.collect(0),即检查一代对象的垃圾,并重置计数器为(0,4,0)
  • 当计数器从(699,9,0)增加到(700,9,0),gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾,并重置计数器为(0,0,1)
  • 当计数器从(699,9,9)增加到(700,9,9),gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾,并重置计数器为(0,0,0)

六、应用

  • 项目中避免循环引用
  • 引入gc模块,启动gc模块的自动清理循环引用的对象机制
  • 由于分代收集,所以把需要长期使用的变量集中管理,并尽快移到二代以后,减少GC检查时的消耗
  • gc模块唯一处理不了的是循环引用的类都有__del__方法,所以项目中要避免定义__del__方法,如果一定要使用该方法,同时导致了循环引用,需要代码显式调用gc.garbage里面的对象的__del__来打破僵局

参考文档:https://docs.python.org/2.7/library/gc.html

 


以上是关于Python 垃圾回收机制的主要内容,如果未能解决你的问题,请参考以下文章

Python 垃圾回收机制

一文读懂Python垃圾回收机制收藏版

一文读懂Python垃圾回收机制收藏版

一文读懂Python垃圾回收机制收藏版

一文读懂Python垃圾回收机制收藏版

一文读懂Python垃圾回收机制收藏版