概述
物理机的执行引擎是直接建立在处理器、缓存、指令集和操作系统层面上的
而虚拟机的执行引擎则是由软件自行实现的
JVM的主要任务是负责装载字节码到其内部,但字节码并不能够直接运行在操作系统上,因为字节码指令并非等价于本地机器指令,它内部包含的仅仅只是一些能够被JVM所识别的字节码指令、符号表、以及其他辅助信息
执行引擎的任务就是将字节码指令解释/编译为对应平台上的本地机器指令
什么是解释器,什么是JIT编译器?
解释器:当Java虚拟机启动时会根据预定义的规范对字节码采用逐行解释的方式执行
JIT(Just In Time)编译器:就是虚拟机将源代码直接编译成和本地机器平台相关的语言
为什么说Java是半编译半解释型语言?
JDK1.0时代,将Java语言定位为”解释执行“还是比较准确的,再后来,Java也发展出可以直接生成本地代码的编译器
现在JVM,在执行代码 的时候,通常都会将解释执行与编译执行二者结合起来进行
解释器分类
在Java的发展历史里,一共有两套解释执行器,即古老的字节码解释器、现在普遍使用的模板解释器
字节码解释器在执行时通过纯软件代码模拟字节码的执行,效率非常低下
模板解释器将每一条字节码和一个模板函数相关联,模板函数中能直接产生这条字节码执行时的机器码,从而很大程度上提高了解释器的性能;
在HotSpot VM中,解释器主要由Interpreter模块和Code模块构成:
Interpreter模块:实现了解释器的核心功能
Code模块:用于管理HotSpot VM在运行时生成的本地机器指令
为什么还需要解释器?
当程序启动后,解释器可以马上发挥作用,即响应速度快,编译器想要发挥作用,需要把代码编译成本地代码,需要一定的执行时间,但编译为本地代码后,执行效率高
尽管JRockit VM中程序执行性能会非常高效,但程序启动时需要花费更多时间,同时解释执行在编译器进行激进优化不成立的时候,也可以作为编译器的后备方案
JIT编译器
概念解释:
Java语言的”编译期“其实是一段”不确定“的操作过程,因为它可能是指:
1:编译器的前端,把.java文件转变成.class文件的过程
2:虚拟机的后端运行期编译器(JIT编译器,Just In Time Compiler),字节码转变成机器码的过程
3:使用静态提前编译器(AOT编译器,Ahead Of Time Compiler),直接把.java文件编译成本地机器代码过程
前端编译器:Sun的Javac、Eclipse JDF中的增量式编译器(ECJ)
JIT编译器:HotSpot VM的C1、C2编译器
AOT编译器:GNU Compiler for the Java(GCJ)、Excelsior JET
对于解释器和JIT编译器如何选择?
JIT编译器会对于热点代码做出深度优化,将其直接编译成对应平台的本地机器指令
热点代码及探测方式
一个被多次调用的方法,或者是一个方法体内部循环次数较多的循环体都可以被称之为热点代码,因此都可以通过JIT编译器编译为本地机器指令,由于这种编译方式发生在方法的执行过程中,因此也被称之为栈上替换,或简称为OSR(On Stack Replacement)编译
依靠热点探测功能来确定是否进行OSR编译的阈值
目前HotSpot采用的热点探测方式是基于计数器的热点探测
HotSpot VM将为每个方法都建立2个不同类型的计数器,分别为:
方法调用计数器:用于统计方法的调用次数
回边计数器:统计循环体执行的循环次数
方法调用计数器:
默认阈值在Client模式下是1500次
在Server模式下是10000次
可以通过-XX:CompileThreshold设定
当一个方法被调用时,会先检查该方法是否存在被JIT编译过的版本,如果存在,则优先使用编译后的本地代码来执行,如果不存在,则该方法的调用计数器加1,然后判断方法调用计数器和回边计数器之和是否超过方法调用计数器的阈值,如果已超过阈值,那么将会向JIT编译器提交一个该方法的代码编译请求
热度衰减
如果不做任何设置方法调用计数器统计的并不是方法被调用的绝对次数,而是一个相对的执行频率,即一段时间之内方法被调用的次数,当超过一定的时间限度,如果方法的调用次数仍达不到提交编译请求的阈值,那么这个方法的调用计数器会被减少一一半,这个过程称为方法调用计数器热度的衰减,而这段时间就称为此方法统计的半衰周期;
进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的,可以使用参数来关闭热度衰减,-XX:-UseCounterDecay,让方法计数器统计方法调用的绝对次数
可以使用-XX:CounterHalfLifeTime参数设置半衰周期的时间,单位是秒
回边计数器
统计一个方法中循环体代码执行的次数,在字节码中遇到控制流向后跳转的指令称为回边,该计数器的目的就是为了触发OSR编译
遇到回边指令后,如果不存在已编译版本,回边计数器加一,再判断回边计数器和方法调用计数器之和是否超过阈值,如果超过向编译器提交OSR编译请求
HotSpot VM可以设置程序执行方式
缺省情况下HotSpot VM是采用解释器与即时编译器并存的架构,当然开发人员可以根据具体的应用场景,通过命令显式地为Java虚拟机指定在运行时到底是完全采用解释器执行,还是完全采用即时编译器执行
-Xint:完全采用解释器模式执行程序
-Xcomp:完全采用即时编译器模式执行程序,如果即时编译器出现问题,解释器会介入执行
-Xmixed:采用解释器+即时编译器的混合模式共同执行程序
可以在命令行进行切换:java -Xint -version
或者在idea中的VM options中设置
HotSpot VM中JIT分类
在HotSpot VM中内嵌有两个JIT编译器,分别为Client Compiler和Server Compiler,但大多数情况下我们简称为C1编译器和C2编译器。开发人员可以通过如下命令显式指定Java虚拟机在运行时到底使用哪一种即时编译器:
-client:指定Java虚拟机运行在Client模式下,并使用C1编译器
C1编译器会对字节码进行简单和可靠的优化,耗时短。以达到更快的编译速度
C1编译器上的优化策略主要有方法内联,去虚拟化,冗余消除
方法内联:将引用的函数代码编译到引用点处,这样可以减少栈帧的生成,减少参数传递以及跳转过程
去虚拟化:对唯一的实现类进行关联
冗余消除:在运行期间把一些不会执行的代码折叠掉
-server:指定Java虚拟机运行在Server模式下,并使用C2编译器
C2进行耗时较长的优化,以及激进优化。但优化的代码执行效率更高
C2的优化是在全局层面,主要基于逃逸分析
标量替换:用标量值代替聚合对象的属性值
栈上分配:对于未逃逸的对象分配对象在栈而不是堆
同步消除:消除同步操作,通常指synchronized
分层编译策略:
程序解释执行(不开启性能监控)可以触发C1编译,将字节码编译成机器码,可以进行简单优化,也可以加上性能监控,C2编译会根据性能监控信息进行激进优化;但是在java7版本之后,一旦开发人员在程序中显式指定命令-server时,默认将会开启分层编译策略,由C1编译器和C2编译器相互协作共同来执行编译任务
自从JDK10起,HotSpot又加入一个全新的即时编译器:Graal编译器,编译效果短短几年时间就追平C2编译器,未来可期
目前带着实验状态标签,需要使用开关参数-XX:+UnlockExperimentalVMOptions -XX:+UseJVMCICompiler去激活,才能使用
jdk9引入了AOT编译器(静态提前编译器,Ahead Of Time Compiler)
java 9 引入了实验性AOT编译工具jaotc,它借助了Graal编译器,将所以输入的Java类文件转换为机器码,生成.so文件,并存放在生成的动态共享库之中
所谓AOT编译,指在程序运行之前,便将字节码转换成机器码的过程
好处:Java虚拟机加载已经预编译成二进制库,可以直接执行,不必等待即时编译器的预热,减少Java应用给人带来”第一次运行慢“的不良体验
缺点:破坏了Java”一次编译,到处运行“,必须为每个不同的硬件,OS编译对应的发行包;降低了Java链接过程的动态性,加载的代码在编译期就必须全部已知;还需要继续优化中,最初只支持Linux x64 java base