Python 垃圾回收机制

Posted 2020-11-11 心之所向，素履以往

一、Python垃圾回收机制

Python中的垃圾回收是以引用计数为主，分代收集为辅。

在Python中，如果一个对象的引用数为0，Python虚拟机就会回收这个对象的内存。

class A:

    def __init__(self):
        self.t = None
        print ‘new obj, id is %s‘ %str(hex(id(self)))
    
    def __del__(self):
        print ‘del obj, id id %s‘ %str(hex(id(self)))

if __name__ == ‘__main__‘:
    while True:
        a1 = A()
        del a1

 

运行如上代码，进程占用的内存基本不会变动

new obj, id is 0x2a79d48L
del obj, id id 0x2a79d48L

 

a = A() 会创建一个对象，在0x2a79d48L内存中，a变量指向这个内存，这时候这个内存的引用计数是1

del a后，a变量不再指向0x2a79d48L内存，所以这块内存的引用计数减一，等于0，所以就销毁了这个对象，然后释放内存。

导致引用计数+1的情况

　　1) 对象被创建，例如a=23

　　2) 对象被引用，例如b=a

　　3) 对象被作为参数，传入到一个函数中，例如func(a)

　　4）对象作为一个元素，存储在容器中，例如list1=[a,a]

导致引用计数-1的情况

　　1) 对象的别名被显式销毁，例如del a

　　2) 对象的别名被赋予新的对象，例如a=24

　　3) 一个对象离开它的作用域，例如f函数执行完毕时，func函数中的局部变量（全局变量不会）

　　4) 对象所在的容器被销毁，或从容器中删除对象

二、demo查看引用计数

def func(c):
    print ‘in func function‘, sys.getrefcount(c) - 1


print ‘init‘, sys.getrefcount(11) - 1
a = 11
print ‘after a=11‘, sys.getrefcount(11) - 1
b = a
print ‘after b=a‘, sys.getrefcount(11) - 1
func(11)
print ‘after func(a)‘, sys.getrefcount(11) - 1
list1 = [a, 12, 14]
print ‘after list1=[a,12,14]‘, sys.getrefcount(11) - 1
a=12
print ‘after a=12‘, sys.getrefcount(11) - 1
del a
print ‘after del a‘, sys.getrefcount(11) - 1
del b
print ‘after del b‘, sys.getrefcount(11) - 1
list1.pop(0)
print ‘after pop list1‘,sys.getrefcount(11)-1
del list1
print ‘after del list1‘, sys.getrefcount(11) - 1

 

输出：

init 67
after a=11 68
after b=a 69
in func function 72
after func(a) 69
after list1=[a,12,14] 70
after a=12 69
after del a 69
after del b 68
after pop list1 67
after del list1 67

 

问题：为什么调用函数会令引用计数+2

sys.getrefcount(a) 可以查看a对象的引用计数，但是比正常计数大1，因为调用函数的时候传入a，这会让a的引用计数+1

三、循环引用导致内存泄露

class A:

    def __init__(self):
        self.t = None
        print ‘new obj, id is %s‘ %str(hex(id(self)))
    
    def __del__(self):
        print ‘del obj, id id %s‘ %str(hex(id(self)))

if __name__ == ‘__main__‘:
    while True:
        a1 = A()
        a2 = A()
        a1.t = a2
        a2.t = a1
        del a1
        del a2

 

执行如上代码，进程占用的内存会不断增大。

new obj, id is 0x3475348L
new obj, id is 0x3475388L

 

创建了a1，a2后，0x3475348L（a1对应的内存，记为内存1）,0x3475388L（c2对应的内存，记为内存2）这两块内存的引用计数都是1，执行a1.t = a2和a2.t = a1后，这两块内存的引用计数变成2.

在del a1后，内存1的对象的引用计数变为1，由于不是为0，所以内存1的对象不会被销毁，所以内存2的对象的引用数依然是2，在del c2后，同理，内存1的对象，内存2的对象的引用数都是1。

虽然它们两个的对象都是可以被销毁的，但是由于循环引用，导致垃圾回收器都不会回收它们，所以就会导致内存泄露。

当然，上面这是一种特殊情况，因为classA定义了__del__(self): 函数，并且存在循环引用，这有这种情况的循环引用，gc不能确定先调用那个del，所以不能进行回收。若果classA没有定义__del__(self):函数，gc是能够自动打破循环引用的。

四、Python gc模块

有了循环引用的问题，当然就会有解决办法，python gc模块提供了一种机制，使我们能够访问那些定义了__del__(self): 函数又存在循环引用的对象。

class A:

    def __init__(self):
        self.t = None
        print ‘new obj, id is %s‘ %str(hex(id(self)))
    
    def __del__(self):
        print ‘del obj, id id %s‘ %str(hex(id(self)))


def f():
    c1=A()
    c2=A()
    c1.t=c2
    c2.t=c1
    del c1
    del c2
    print gc.collect() #显式执行垃圾回收
    print gc.garbage


if __name__ == ‘__main__‘:
    gc.set_debug(gc.DEBUG_UNCOLLECTABLE) #设置gc模块的日志
    f()

 

gc.set_debug(gc.DEBUG_UNCOLLECTABLE)设置gc模块在执行清理后，将uncollectable对象放在gc.garbage里，上面代码运行结果：

new obj, id is 0x2b8f148L
new obj, id is 0x2b8f3c8L
4
[<__main__.A instance at 0x0000000002B8F148>, <__main__.A instance at 0x0000000002B8F3C8>]

 

我们创建的两个对象（0x2aff148l, 0x2aff3c8l）循环引用后并del后, 都放在了gc.garbage里，所以他们都是uncollectable类型的对象，我们解除循环引用，就可以遍历gc.garbage这个对象，并将garbage对象里的对象的del掉即可。

五、Python三代回收

在Python中，采用分代收集的方法。把对象分为三代，一开始，对象在创建的时候，放在一代中，如果在一次一代的垃圾检查中，改对象存活下来，就会被放到二代中，同理在一次二代的垃圾检查中，该对象存活下来，就会被放到三代中。

gc模块里面会有一个长度为3的列表的计数器，可以通过gc.get_count()获取。

例如(488,3,0)，其中488是指距离上一次一代垃圾检查，Python分配内存的数目减去释放内存的数目，注意是内存分配，而不是引用计数的增加。例如：

print gc.get_count() # (590, 8, 0)
a = ClassA()
print gc.get_count() # (591, 8, 0)
del a
print gc.get_count() # (590, 8, 0)

3是指距离上一次二代垃圾检查，一代垃圾检查的次数，同理，0是指距离上一次三代垃圾检查，二代垃圾检查的次数。

gc模快有一个自动垃圾回收的阀值，即通过gc.get_threshold函数获取到的长度为3的元组，例如(700,10,10)

每一次计数器的增加，gc模块就会检查增加后的计数是否达到阀值的数目，如果是，就会执行对应的代数的垃圾检查，然后重置计数器

例如，假设阀值是(700,10,10)：

• 当计数器从(699,3,0)增加到(700,3,0)，gc模块就会执行gc.collect(0),即检查一代对象的垃圾，并重置计数器为(0,4,0)
• 当计数器从(699,9,0)增加到(700,9,0)，gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾，并重置计数器为(0,0,1)
• 当计数器从(699,9,9)增加到(700,9,9)，gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾，并重置计数器为(0,0,0)

六、应用

• 项目中避免循环引用
• 引入gc模块，启动gc模块的自动清理循环引用的对象机制
• 由于分代收集，所以把需要长期使用的变量集中管理，并尽快移到二代以后，减少GC检查时的消耗
• gc模块唯一处理不了的是循环引用的类都有__del__方法，所以项目中要避免定义__del__方法，如果一定要使用该方法，同时导致了循环引用，需要代码显式调用gc.garbage里面的对象的__del__来打破僵局

参考文档：https://docs.python.org/2.7/library/gc.html