erlang二进制数据垃圾回收机制

Posted 2020-09-18 brucemengbm

erlang二进制数据在内存中有两种存在形式，当数据大小不到 64 bytes，就直接存在进程堆内。假设超过了64 bytes。就被保存到进程外的共享堆里，能够给节点内全部进程共享。

erlang有两种二进制容器：heap binaries和refc binaries。

heap binaries

Heap binaries are small binaries, up to 64 bytes, that are stored directly on the process heap. They will be copied when the process is garbage collected and when they are sent as a message. They don‘t require any special handling by the garbage collector.

这个就是进程堆二进制，是一些比較小的二进制数据。每一个数据大小不超过64bytes，这些数据保存在进程堆内。对于这里的二进制数据，垃圾回收走的是进程堆数据的回收机制，參考这里。假设发给其它进程的消息含有这些数据，erlang将直接复制一份到别的进程堆内。

针对heap binaries。在R13B03后，erlang还添加了bin vheap来加快二进制数据的回收。

OTP-8202  A new garbage collecting strategy for binaries which is more aggressive than the previous implementation. Binaries now has a virtual binary heap tied to each process. When binaries are created or received to a process it will check if the heap limit has been reached and if a reclaim should be done. This imitates the behavior of ordinary Erlang terms. The virtual heaps are grown and shrunk like ordinary heaps. This will lessen the memory footprint of binaries in a system.

就是说heap binaries的垃圾回收使用了进程堆数据的回收方式。但使用了一个虚拟二进制堆(vheap)来计算这些二进制的使用情况，加快内存回收速度。

refc binaries

Refc binaries consist of two parts: an object stored on the process heap, called a ProcBin, and the binary object itself stored outside all process heaps.The binary object can be referenced by any number of ProcBins from any number of processes; the object contains a reference counter to keep track of the number of references, so that it can be removed when the last reference disappears.

官方的叫法是引用计数二进制，就是对于那些超过64bytes的二进制数据，他们假设直接保存在进程堆内。将导致进程频繁的gc。比較大的数据复制来复制去开销也非常大。

所以。erlang将这些数据保存在进程外的共享堆，再把这个二进制数据的地址给拥有这个数据的进程。

所以，进程堆内保存的是这个二进制数据的引用，叫ProcBin。假设进程把这个二进制数据发给其它进程，erlang也不再复制整个二进制数据，而是直接再生成一份ProcBin到别的进程堆内。那么，这个二进制数据就能够多个进程的ProcBin引用，当没有一个ProcBin引用到这个二进制数据。这个二进制就被erlang回收。

所以，这样的二进制数据的gc的是引用计数的回收机制。注意了，ProcBin是进程堆内数据。走的是进程堆数据的回收方式。

什么是引用计数垃圾回收机制

引用计数就是每一个数据对象都配有一个计数器，计算对象被引用的次数。

多了一个引用就加1。少一个引用就减1，当引用次数为0时就回收数据。

这样的垃圾回收机制实现简单，回收及时，但也有副作用。就是easy造成循环引用，就是A引用B，B引用C，C引用了A，导致A、B、C都无法被回收。

那么。erlang会不会也有循环引用的问题？这里就不用操心，erlang的变量是单向赋值。仅仅存在ProcBin对二进制对象的单向引用

最后。说下erlang另外两种二进制数据：sub binary和match context

A sub binary is created by split_binary/2 and when a binary is matched out in a binary pattern. A sub binary is a reference into a part of another binary (refc or heap binary, never into a another sub binary). Therefore, matching out a binary is relatively cheap because the actual binary data is never copied.

A match context is similar to a sub binary, but is optimized for binary matching; for instance, it contains a direct pointer to the binary data. For each field that is matched out of a binary, the position in the match context will be incremented.

前面谈到erlang为避免二进制数据复制带来的时间和空间的开销，erlang这里做得更彻底一点，sub binary和match context事实上是引用对象，被用来引用heap binary和refc binary的数据

说到sub binary和match context，这两者有什么差别？

sub binary是一个子二进制数据，从一个二进制切割出来，或匹配一个二进制后产生，具有二进制数据通用的属性和方法；match context是匹配上下文，在erlang进行二进制数据匹配时产生。假设接下来使用了匹配到的二进制数据。那么erlang就将这个match context数据转成sub binary。就是说。match context数据不直接被用户使用。仅仅是erlang用以二进制匹配优化的过程数据

erlang二进制gc的副作用

从上面的内容能够知道。erlang二进制gc有两种gc。heap binary的是进程堆的分代gc，refc binary的是分代gc+引用计数。所以在上文讲到的erlang垃圾回收的副作用，这里相同会有。并且。erlang二进制还增加了引用对象的概念，一个二进制数据能够有多个引用。能够被多个进程引用，也就是要多个进程堆的分代gc后才干回收，这就使得二进制gc更难控制，回收不及时。

另外，在实际的网络开发中，我们须要的数据可能仅仅是二进制数据的一小部分，从上面的内容也能够了解到，假设我们还在使用二进制数据的一部分，那这个二进制数据是不会參与gc的。针对这个问题我们该怎样解决？

%% 生成一个100字节的二进制A
1> A = binary:copy(<<1>>,100).
<<1,1,1,1,1 ...
2> byte_size(A).
100
3> binary:referenced_byte_size(A).
100

%% 匹配二进制，产生子二进制B
4> <<_:10/binary,B:10/binary,_/binary>> = A.
<<1,1,1,1,1 ...
5> byte_size(B).
10
6> binary:referenced_byte_size(B).
100

%% 复制二进制生成二进制C
7> C = binary:copy(B).
<<1,1,1,1,1,1,1,1,1,1>>
8> binary:referenced_byte_size(C).
10

上面。二进制B是二进制A的子二进制。假设B还有使用，A就不会參与gc；而二进制C是一个新的二进制，不会引用二进制A，让A能够參与垃圾回收

更新说明：

2014/06/13 补充了 erlang二进制垃圾回收的副作用

參考：

http://blog.csdn.net/mycwq/article/details/26741387
http://www.erlang.org/doc/efficiency_guide/binaryhandling.html#id65798