VirtualThread Pin的处理总结

Posted 2022-01-20 流子

Pin的状态指的是VirtualThread在freeze时无法让出Carrier Thread（协程执行时挂载的物理线程）。主要有两种情况下会导致Pin：

VirtualThread的调用栈包含JNI frame。因为JNI调用的实现是C++代码，可以做的事情非常多，例如它可以保存当前Carrier Thread的Thread ID，如果这时切换出去，那么下一次执行时，如果另一个Carrier Thread来执行这个协程，将会产生逻辑错误（Carrier Thread的ID不一致）；

VirtualThread持有synchronized锁。这是java早期锁的实现带来的限制，因为java的synchronized锁的owner是当前的Carrier Thread，如果一个协程持有一把锁，但是锁的owner被认为是当前的Carrier Thread，那么如果接下来这个Carrier Thread又去执行另一个协程，可能另一个协程也被认为拥有了锁，这可能导致同步的语义发生混乱，产生各种错误。

偶尔出现的Pin并不是一个很严重的问题，只要调度器中始终有物理线程负责执行协程就可以。如果调度器中所有的物理线程都被Pin住，可能会对吞吐量产生较大影响。Loom针对默认的调度器ForkJoinPool做了优化，如果发现所有的物理线程都被Pin住，就会额外创建一些物理线程，保证协程的执行不受太大影响。用户如果想要彻底消除Pin，可以按照如图3.4的方式，通过-Djdk.tracePinnedThreads选项定位产生Pin的调用栈。

3. 协程性能优化：Pin的解决。3.3小节介绍过Pin，Pin虽然不会导致整个系统死锁，但是频繁的Pin仍然会显著降低业务的吞吐量。对于Pin的解决，主要是两个方面，即产生Pin的两个原因：synchronized锁和native frame。第一步，在调试阶段开启-Djdk.tracePinnedThreads，这样可以找到所有引起Pin的调用栈。如果Pin是由于业务代码使用synchronized锁引起的，那么只需要将synchronized锁替换成ReentrantLock即可；如果Pin是由于包含native frame或者第三方代码包含synchronized锁引起的，那么只能通过将任务提交到一个独立线程池的方法来解决，这样可以保证协程的执行不受影响。

Detecting pinning
The current prototype has rudimentary support for reporting when a thread is pinned, say when a virtual thread parks while owning a monitor or with a native frame on the stack. This reporting is enabled by running with the system property jdk.tracePinnedThreads specified to the java launcher.

Running with -Djdk.tracePinnedThreads (or -Djdk.tracePinnedThreads=full) will print a complete stack trace of a virtual thread when parking pins its carrier thread. The reason, be it native frames, synchronized frames, or frames with synchronized blocks will be highlighted in the output.

Running with -Djdk.tracePinnedThreads=short will print a “short” stack trace that includes just the frames with problematic code.

The reporting is filtered to avoid the printing the same stack trace repeatedly.

 -Djdk.tracePinnedThreads=full