深入理解Java虚拟机(2)之十四-晚期(运行期)优化

Java

发布日期: 2019-07-12

文章字数: 1.9k

阅读时长: 6 分

阅读次数:

在部分商用虚拟机中，Java程序最初是通过解释器(Interpreter)进行解释执行的，当虚拟机发现某个方法或代码块的运行特别频繁时，就会把这些代码认定为“热点代码”，在运行时，会将这些代码编译成本地平台相关的机器码，并进行各种层次的优化，提高代码的执行效率。

1、HotSpot虚拟机内的即时编译器

1.1 解释器与编译器

解释器与编译器的交互

HotSpot虚拟机内置了两个即时编译器，分别为Client Compiler(C1)和Server Compiler(C2)，默认采用计时器与其中一个编译器直接配合的方式工作，虚拟机会根据自身版本与宿主机机器的硬件性能自动选择运行模式，用户也可以使用-client或-server强制指定虚拟机运行在哪个模式上。

无论采用的编译器是Client Compiler还是Server Compiler，解释器与虚拟机搭配使用的方式在虚拟机中称为“混合模式”(Mix Mode)，用户可以使用参数-Xint强制虚拟机运行在“解释模式”(Interpreter Mode)，这时编译器完全不介入工作，全部代码都使用解释方式执行。另外，也可以使用参数-Xcomp强制虚拟机运行与“编译模式”(Compiled Mode)，这时优先采用编译方式执行程序，但是解释器仍然要在编译无法进行的情况下介入执行过程。

由于即时编译器编译本地代码需要占用程序运行时间，要编译出优化程度更高的代码，所花费的时间更长；而且想要编译出优化程度更高的代码，解释器可能还要替编译器收集性能监控信息，这对解释器执行速度也有影响。为了在程序启动响应速度与运行效率之间达到最佳平衡，HotSpot虚拟机还会逐渐启用分层编译(Tiered Compilation)策略：

第0层，程序解释执行，解释器不开启性能监控功能(Profiling)，可触发第1层编译。
第1层，也称C1编译，将字节码便以为本地代码，进行简单、可靠的优化，如有必要将加入性能监控的逻辑。
第2层(或2层以上)，也称C2编译，也是将字节码编译为本地代码，但是会启用一些编译耗时较长的优化，甚至会根据性能监控信息进行一些不可靠的激进优化。

实施分层编译后，Client Compiler和Server Compiler将会同时工作，许多代码都可能会被多次编译，用Client Compiler获得更高的编译速度，用Server Compiler获取更好的编译质量，在解释执行的时候也无须再承担收集性能监控信息的任务。

1.2 编译对象与触发条件

“热点代码”有两类：

被多次调用的方法。
被多次执行的循环体。

前者很好理解。后者是为了解决一个方法只被调用一次或者少量的几次，但是方法内部出现循环多次的循环体的问题，这样循环体的代码也被执行多次，这些代码也属于“热点代码”。

对于第一种情况，由于是方法调用触发的编译，因此编译器会以整个方法作为编译对象，这种编译也是虚拟机中标准的JIT编译方式。对于第二种情况，尽管编译动作是由循环体触发的，但是编译器仍然会以整个方法作为编译对象。这种编译方式因为编译发生在方法执行过程中，因此称之为栈上替换(On Stack Replacement，简称OSR编译，即栈帧还在栈上，方法就被替换了)。

判断一段代码是不是热点代码，这样的行为称为热点探测，目前主要的热点探测判定方式有两种：

基于采样的热点探测(Sample Based Hot Spot Detection)：采用这种方式的虚拟机会周期性地检查各个线程的栈顶，如果发现某些方法经常出现在栈顶，那这个方法就是“热点代码”。基于采样的热点探测的好处是实现简单、高效，还可以很容易地获取方法调用关系(将调用堆栈展开即可)，缺点是很难精确地确定一个方法的热度，容易因为受到线程阻塞或别的外界因素影响而扰乱热点探测。
基于计数器的热点探测(Counter Based Hot Spot Detection)：采用这种方法会为每个方法(甚至是代码块)建立计数器，统计方法的执行次数，如果执行次数超过一定的阈值就认为它是“热点代码”。这种统计方法实现起来麻烦一些，需要为每个方法建立并维护计数器，而且不能直接获取到方法的调用关系，但是统计结果相对来说更加精确和严谨。

HotSpot虚拟机使用的是第二种热点探测，为每种方法准备了两类计数器：

方法调用计数器(Invocation Counter)：用于统计方法被调用的次数，默认阈值在Client下是1500次，在Server下是10000次，这个阈值可以通过-XX:CompileThreshold来人为设定。

方法调用计数器不是方法被调用的绝对次数，而是一个相对的执行频率，即一段时间内方法被调用的次数。当超过一定的时间限度，如果方法的调用次数仍然不足以让它提交给即时编译器编译，这个过程称为方法调用计数器热度的衰减(Counter Decay)，这段时间就称为次方法统计的半衰周期(Counter Half Life Time)，进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的，可以使用-XX:-UseCounterDecay来关闭热度衰减，这样统计的是方法调用的绝对次数，这样，系统运行时间够长，绝大部分方法都会被编译成本地代码。另外，可以用-XX:CounterHalfLifeTime设置半衰期的时间，单位是秒。

回边计数器，作用是统计一个方法中循环体代码执行的次数，在字节码中遇到控制流向后跳转的指令称为“回边”(Back Edge)，回边计数器的目的就是触发OSR编译。

需要通过-XX:OnStackReplacePercentage来间接调整回边计数器的阈值，计算公式如下。
- Client模式下：
  
  方法调用计数器阈值(CompileThreshold) X OSR比率(OnStackReplacePercentage) / 100
  
  其中OnStackReplacePercentage默认值为933，如果都取默认值，那Client模式虚拟机的回边计数器的阈值为13995。
- Server模式下：
  
  方法调用计数器阈值(CompileThreshold) X (OSR比率(OnStackReplacePercentage) - 解释器监控比率(InterpreterProfilePercentage)) / 100
  
  其中OnStackReplacePercentage默认值为140，InterpreterProfilePercentage默认值为33，如果都取默认值，那Server模式虚拟机回边计数器的阈值为10700。