JVM技术专题深入分析字节码指令重排序技术「原理篇」

Posted 2022-11-27 浩宇の天尚

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了JVM技术专题深入分析字节码指令重排序技术「原理篇」相关的知识，希望对你有一定的参考价值。

前提概要

指令重排序有两类，编译器重排序和处理器重排序。（至于内存系统指令重排较为复杂不是本章重点）

重排序分为两类：编译期重排序和运行期重排序，分别对应编译时和运行时环境。
编译器重排序发生在编译期，处理器重排序发生在运行时。其实指令重排序的本意是提高程序并发效率，原则是重排序后的程序运行结果和单线程运行结果一致。（AS IF SERIAL）

指令重排的原因

为什么指令重排序会提高程序并发效率呢？这里先理解一下CPU的最小调度单位是线程这个概念。
一个CPU同时只能处理一个线程，在最初单核CPU的时候，是通过轮询的方式去完成多线程的，在线程之间完成上下文切换。
现在都是多核CPU，其中每个CPU也是在轮询线程，只不过多核CPU并发效率更高了。

这就存在一个问题，CPU的运算速度要远快于对内存的操作，将工作内存数据写入主内存即物理内存时，如果两个CPU同时需要写入同一块内存区域，这就需要一个CPU等待另一个CPU写入完成后再写，这就造成了CPU的浪费，而这种情况在单核CPU是不存在的，所以需要指令重排序。

举个例子

int a = 1;
int b = 2;

指令排序案例分析

a和b需要写入不同的内存区域，在多线程中：
- 如果CPU1是先写入a到内存a，再写入b到内存b。
- 那么CPU2必然也是这个顺序，这就容易造成两个CPU想同时往内存a中写入，这就需要一个CPU等待另一个写入完成，这就造成了CPU的等待浪费。
- 但是如果线程2中指令重排序一下，变为int b = 2; int a = 1;
- 那么CPU2就是先写入b到内存b，再写入a到内存a。
- 这样两块CPU就可以同时写入，这才是真正的多核CPU，这就是指令重排序的目的。

指令排序的局限性

当然指令重排序也是有条件的，有一个语句间依赖性的概念，分为数据依赖性和控制依赖性。

数据依赖性

指后一条语句要使用上一条语句的数据，控制依赖性是指后一条语句要使用上一条语句的判断结果。语句间有依赖性就不可以指令重排序了，这也很好理解。但是在高并发中，如果不对共享变量做并发处理，指令重排序会造成严重问题。举个例子：

如何线程a调用了write方法，并进行了指令重排序，先将b=true写入内存再将a=1写入内存，这就可能出现一种情况。
线程a将b=true写入内存后还没有来得及将a=1写入内存，此时线程b正在调用read方法，由于从内存中读到的b为true。
if(b)判断成功后去读a，此时a并没有被写入为1，所以这时候共享变量就发生的错误。

可见性

可以用volatile关键字去修饰共享变量，这时候如果该变量在工作内存中被修改，那么不需要写入主内存就对其他线程是可见的，即保证了该变量的可见性。

例如同步锁保证得到锁时从内存里重新读入数据刷新缓存，释放锁时将数据写回内存以保数据可见，而volatile变量干脆都是读写内存。

有序性

同时被volatile修饰的变量不允许被指令重排序和缓存(内存屏障)。
避免多线程中指令重排序问题需要我们的编码遵循happen-and-before原则，都是有关于并发编程加锁机制。
1. unlock操作，先行发生于对同一对象的lock操作，这里包括发生在其它线程中的lock操作。
2. volatile修饰的变量写先发生于读，这保证了该变量的可见性。
3. thread的start()方法先行发生于该线程的每一个动作。
4. thread的join()方法即终止方法后发生先于该线程的每一个动作，可以用thread.alive()方法的返回值判断该线程是否已经终止。
5. thread的interrupte()方法即中断方法先行发生于被中断线程的代码检测到中断事件的发生，通过thread.interrupte()方法检测线程是否已中断。
6. 一个对象的初始化完成即其构造方法的调用结束要先行与他的终结方法例如finalize()。
7. 动作有传递性，如果动作A先于动作B，动作B先于动作C，那么动作A先于动作C。

在并发程序中，程序员会特别关注不同进程或线程之间的数据同步，特别是多个线程同时修改同一变量时，必须采取可靠的同步或其它措施保障数据被正确地修改，这里的一条重要原则是：不要假设指令执行的顺序，你无法预知不同线程之间的指令会以何种顺序执行。

理想的模型是：各种指令执行的顺序是唯一且有序的，这个顺序就是它们被编写在代码中的顺序，与处理器或其它因素无关，这种模型被称作顺序一致性模型，也是基于冯·诺依曼体系的模型。

当然，这种假设本身是合理的，在实践中也鲜有异常发生，但事实上，没有哪个现代多处理器架构会采用这种模型，因为它是在是太低效了。而在编译优化和CPU流水线中，几乎都涉及到指令重排序。

编译期重排序

编译期重排序的典型就是通过调整指令顺序，在不改变程序语义的前提下，尽可能减少寄存器的读取、存储次数，充分复用寄存器的存储值。

第一条指令计算一个值赋给变量A并存放在寄存器中，
第二条指令与A无关但需要占用寄存器（假设它将占用A所在的那个寄存器）
第三条指令使用A的值且与第二条指令无关。
- 那么如果按照顺序一致性模型，A在第一条指令执行过后被放入寄存器，第二条指令执行时A不再存在，第三条指令执行时A重新被读入寄存器，而这个过程中，A的值没有发生变化。
- 通常编译器都会交换第二和第三条指令的位置，这样第一条指令结束时A存在于寄存器中，接下来可以直接从寄存器中读取A的值，降低了重复读取的开销。

重排序对于流水线的意义

现代CPU几乎都采用流水线机制加快指令的处理速度，一般来说，一条指令需要若干个CPU时钟周期处理，而通过流水线并行执行，可以在同等的时钟周期内执行若干条指令，具体做法简单地说就是把指令分为不同的执行周期，例如读取、寻址、解析、执行等步骤，并放在不同的元件中处理，同时在执行单元EU中，功能单元被分为不同的元件，例如加法元件、乘法元件、加载元件、存储元件等，可以进一步实现不同的计算并行执行。