生产环境Tomcat瓶颈和性能优化

Posted yuezisong

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了生产环境Tomcat瓶颈和性能优化相关的知识,希望对你有一定的参考价值。

生产环境Tomcat瓶颈和性能优化

  tomcat是开发中经常用到的一款容器,开发环境默认的配置,无论是内存还是线程都很低,真正拿tomcat去做生产的服务器容器,默认配置往往会发现会有很大的瓶颈。针对存在的瓶颈,主要从内存、线程、io三个方面进行优化:

 

一:Tomcat内存优化,启动时告诉JVM我要一块大内存(调优内存是最直接的方式)

 

Windows 下的catalina.bat

 

Linux 下的catalina.sh 如:

 

JAVA_OPTS=‘-Xms512m -Xmx512m‘

 

-Xms<size> JVM初始化堆的大小

 

-Xmx<size> JVM堆的最大值 实际参数大小根据服务器配置或者项目具体设置.

-Xms<size>和-Xmx<size> 设置成一样的值,避免JVM频繁的GC导致性能大起大落

 

二:Tomcat 线程优化 在server.xml中 如:

 

<Connector port="80" protocol="HTTP/1.1" maxThreads="600" minSpareThreads="100" maxSpareThreads="500" acceptCount="700"
connectionTimeout="20000"  />

 

maxThreads="X" 表示最多同时处理X个连接

 

minSpareThreads="X" 初始化X个连接

 

maxSpareThreads="X" 表示如果最多可以有X个线程,一旦超过X个,则会关闭不在需要的线程

 

acceptCount="X" 当同时连接的人数达到maxThreads时,还可以排队,队列大小为X.超过X就不处理

 

三:Tomcat IO优化

 

1:同步阻塞IO(JAVA BIO) 同步并阻塞,服务器实现模式为一个连接一个线程(one connection one thread 想想都觉得恐怖,线程可是非常宝贵的资源),当然可以通过线程池机制改善.

 

2:JAVA NIO(java new io):又分为同步非阻塞IO,异步阻塞IO 与BIO最大的区别one request one thread.可以复用同一个线程处理多个connection(多路复用).

 

3:,异步非阻塞IO(Java NIO2又叫AIO) 主要与NIO的区别主要是操作系统的底层区别.可以做个比喻:比作快递,NIO就是网购后要自己到官网查下快递是否已经到了(可能是多次),然后自己去取快递;AIO就是快递员送货上门了(不用关注快递进度)。值得注意的是,AIO模式对LINUX系统支持不友好,不建议在Linux系统使用

 

在server.xml中

 

<Connector port="80" protocol="org.apache.coyote.http11.Http11NioProtocol" 
    connectionTimeout="20000" 
    URIEncoding="UTF-8" 
    useBodyEncodingForURI="true" 
    enableLookups="false" 
    redirectPort="8443" />

 

实现对Tomcat的IO切换.

 

四:大杀器APR

 

APR是从操作系统级别来解决异步的IO问题,大幅度的提高性能. (http://apr.apache.org/).

 

APR(Apache Portable Runtime)是一个高可移植库,它是Apache HTTP Server 2.x的核心.能更好地和其它本地web技术集成,总体上让Java更有效率作为一个高性能web服务器平台而不是简单作为后台容器.

 

在产品环境中,特别是直接使用Tomcat做WEB服务器的时候,应该使用Tomcat Native来提高其性能.如果不配APR,基本上300个线程狠快就会用满,以后的请求就只好等待.但是配上APR之后,并发的线程数量明显下降,从原来的300可能会马上下降到只有几十,新的请求会毫无阻塞的进来.

 

在局域网环境测,就算是400个并发,也是一瞬间就处理/传输完毕,但是在真实的Internet环境下,页面处理时间只占0.1%都不到,绝大部分时间都用来页面传输.如果不用APR,一个线程同一时间只能处理一个用户,势必会造成阻塞。所以生产环境下用apr是非常必要的.

 

安装Apache Tomcat Native Library,直接启动就支持apr(http://tomcat.apache.org/native-doc/)它本身是基于APR的. 具体安装方法可以参考其他博客和文章. 排除代码问题Tomcat优化到这个层次,可以应对大部分性能需求.

 五、继续优化

单个tomcat即使再优化,能处理的并发连接数就在600以下,好的解决方式还没想到,可以考虑做负载均衡,用nginx或者apache


以上是关于生产环境Tomcat瓶颈和性能优化的主要内容,如果未能解决你的问题,请参考以下文章

tomcat 性能优化

tomcat性能优化

Tomcat性能优化

闲谈Tomcat性能优化

tomcat优化

有关tomcat的性能调优待完善