并行类加载——让tomcat玩转双十一 @双十一实战

Posted 2020-09-06 超人不会飞飞飞

原文：https://yq.aliyun.com/articles/4227?spm=5176.100239.yqblog1.20.cfRztB

摘要： 今年双十一，是应用容器的最新版本Ali-tomcat 7.0.59.x应对的第一次双十一。这个版本包含的一个主要功能是并行类加载，本文主要对并行类加载在双十一期间的支持做一个总结。 并行类加载在双十一期间最主要的业务系统，在双十一期间支撑了每秒14w订单创建，是一个非常了不起的成绩！

今年双十一，是应用容器的最新版本Ali-tomcat 7.0.59.x应对的第一次双十一。这个版本包含的一个主要功能是并行类加载，本文主要对并行类加载在双十一期间的支持做一个总结。

并行类加载在双十一期间最主要的业务系统，在双十一期间支撑了每秒14w订单创建，是一个非常了不起的成绩！

 

业务背景

由于各种原因，该业务系统比较庞大，依赖较为复杂。为了解决业务复杂性，应用引入了模块化系统，通过模块化的方式抽象出一系列的bundle，而bundle之间互相隔离，享有独立的类加载器。

由于bundle之间相互隔离，我们自然就会想到，是否能够在应用启动时多线程并行的初始化这些bundle呢？

原来的应用运行在JDK6上，Tomcat启动的时候，应用的Classloader(WebappClassLoader)在进行类加载的时候是顺序加载的，因为JDK6上Classloader.loadClass(String name)这个方法是synchonized的，如果应用里面有多个线程在同时调用loadClass方法进行类加载的话，那么锁的竞争将会非常激烈。

大家知道在JDK7上，如果调用Classloader.registerAsParallelCapable方法，则会开启并行类加载功能，把锁的级别从ClassLoader对象本身，降低为要加载的类名这个级别。换句话说只要多线程加载的不是同一个类的话，loadClass方法都不会锁住。遗憾的是，开启并行类加载必须要求一个类加载器继承链路上所有类加载器都调用registerAsParallelCapable，但tomcat7自带的WebappClassLoader并没有调用registerAsParallelCapable，所以老版本的tomcat7即使运行在JDK7上，也无法利用并行类加载的特性。

 

实现原理

从Ali-tomcat 7.0.59.2版本开始解决了这个问题，支持在WebappClassLoader中打开registerAsParallelCapable方法。但是情况没有那么简单，还需要解决的一个问题是如何兼容JDK6的问题，因为tomcat7.x版本是基于JDK6编译，同时运行在JDK6和JDK7+以上的。JDK6下是没有Classloader.registerAsParallelCapable这个方法的，所以JDK6下必须保持原有的行为，在JDK7下才能支持并行类加载功能。也就是说，即使用户配置了并行类加载，那么tomcat也必须根据运行时的JDK版本来决定是否开启并行类加载功能。Ali-tomcat通过反射机制解决了这个问题，在运行时刻对应用的WebappClassLoader尝试注册并行类加载功能，当发现没有这个方法时，会自动fall back到普通的类加载，也就是线性类加载功能。

 

并行类加载体系结构

可以看到，实际运行过程中，tomcat会自动根据JDK版本来选择是否启用并行类加载功能。当然这项功能默认是关闭的，需要用户通过配置文件显示开启。

 

 

双十一应用实际运行数据

我们看到在实际线上机器的启动时间上，当开启并行类加载功能后，模块化系统的启动时间提升了47%，应用整体启动时间提升了29%！

 

配置方式

 

1. 确认tomcat的运行环境是JRE7及以上。
2. 安装ali-tomcat 7.0.59.3版本

sudo yum install -b current taobao-tomcat-7.0.59.3

　　3.修改/home/admin/$APP/conf/tomcat/context.xml，如果这个文件不存在，则从/opt/taobao/tomcat/conf/context.xml拷贝一份。添加如下配置：

<Loader loaderClass="org.apache.catalina.loader.ParallelWebappClassLoader" />

　　4.重启Tomcat

　　5.成功启动后，应该会在控制台看到类似如下的日志:

6.	2015-10-12 14:22:50,444 org.apache.catalina.loader.ParallelWebappClassLoader <clinit>

　　

INFO: ParallelWebappClassLoader registration succeeded.

　　

开源社区贡献

并行类加载功能已经在捐献给Apache tomcat社区，并且被社区接受，在最新的Apache tomcat 7.0.65版本中已经包含该项功能。

结语

并行类加载功能在模块化业务应用，以及合并部署等等场景下对于性能有较大提升。后续Ali-tomcat会在开发体验，监控诊断等方面继续发力，帮助业务系统提升开发诊断效率！