超详细的Tomcat性能监控及调优教程

Posted GitHub今日热榜

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了超详细的Tomcat性能监控及调优教程相关的知识,希望对你有一定的参考价值。

点击蓝字“程序员考拉”欢迎关注!



https://tomcat.apache.org/download-80.cgi


二、安装步骤


将安装包 apache-tomcat-8.5.39.tar.gz 上传至服务器 /usr/local 目录下,再执行如下步骤:


[root@admin local]# cd /usr/local
[root@admin local]# tar -zxvf apache-tomcat-8.5.39.tar.gz // 解压压缩包
[root@admin local]# mv apache-tomcat-8.5.39 tomcat-8.5.39 // 重命名tomcat目录


启动tomcat(JDK已经安装好并配置了环境变量):


[root@admin local]# cd ./tomcat-8.5.39/bin
[root@admin bin]# ./startup.sh // 启动tomcat


启动成功,如下图:


超详细的Tomcat性能监控及调优教程


三、监控


通过以下网址打开tomcat管理页面,默认端口为8080(如果不能打开则关闭服务器防火墙或者开放8080端口)


超详细的Tomcat性能监控及调优教程


右侧的 Server Status  Manager APP 和 Host Manager代表tomcat的管理页面,想要进入这三个页面首先需要配置服务器上tomcat安装目录下的conf/tomcat-users.xml文件,如果不做配置则会返回403页面,如下:


超详细的Tomcat性能监控及调优教程


在conf/tomcat-users.xml添加如下配置,再重启tomcat


<role rolename="admin"/>
<role rolename="admin-gui"/>
<role rolename="admin-script"/>
<role rolename="manager-gui"/>
<role rolename="manager-script"/>
<role rolename="manager-jmx"/>
<role rolename="manager-status"/>
<user username="admin" password="admin" roles="admin,admin-gui,admin-script,manager-gui,manager-script,manager-jmx,manager-status"/>


Tomcat8如果在上面配置的基础上,访问时会报403错误,所以需要修改conf/Catalina/localhost/manager.xml 文件(如果没有的话新建)。配置内容如下:


<Context privileged="true" antiResourceLocking="false"
         docBase="${catalina.home}/webapps/manager">
    <Valve className="org.apache.catalina.valves.RemoteAddrValve" allow="^.*$" />
</Context>


再次重启tomcat后,就能进入Server Status  Manager APP 和 Host Manager这三个页面了。


Server Status


超详细的Tomcat性能监控及调优教程


Status-JVM


  • Free memory:剩余内存;

  • Total menory:总内存;

  • Max menory:最大内存;

超详细的Tomcat性能监控及调优教程


Status-HTTP


  •     Max threads:最大线程数;

  •     Current thread count:当前线程数;

  •     Current thread busy:当前忙碌线程数;

  •     Max processing time:最大处理时间;

  •     ms Processing time:最短处理时间;

  •     Request count:请求数;

  •     Error count:错误数;

  •     Bytes received:接受字节;

  •     Bytes sent:发送字节;


Manager APP


该页面用来管理Web项目,部署在Tomcat下的项目可以通过该页面来管理,如下:


超详细的Tomcat性能监控及调优教程


Host Manager


该页面用于管理主机 


超详细的Tomcat性能监控及调优教程


四、调优


1、Tomcat的运行模式有三种:


BIO


性能比较低下,没有经过任何优化处理和支持。一个线程处理一个请求。缺点:并发量高时,线程数较多,浪费资源。Tomcat7或以下,在Linux系统中默认使用这种方式。


NIO


nio(new I/O),是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。

利用Java的异步IO处理,可以通过少量的线程处理大量的请求。


Tomcat8在Linux系统中默认使用这种方式。


Tomcat7必须修改Connector配置来启动:


<Connector port="8080"protocol="org.apache.coyote.http11.Http11NioProtocol"
        connectionTimeout="20000" redirectPort="8443"/>


APR


安装起来最困难,但是从操作系统级别来解决异步的IO问题,能够大幅度的提高性能。即Apache PortableRuntime,从操作系统层面解决IO阻塞问题。


Tomcat7或Tomcat8在Win7或以上的系统中启动默认使用这种方式。


Linux如果安装了apr和native,Tomcat直接启动就支持apr。


Tomcat启动的时候,可以通过log看到Connector使用的是哪一种运行模式:


StartingProtocolHandler ["http-bio-8080"]
StartingProtocolHandler ["http-nio-8080"]
StartingProtocolHandler ["http-apr-8080"]


超详细的Tomcat性能监控及调优教程


Tomcat7及以下版本启动启动NIO模式:


修改server.xml里的Connector节点,修改protocol为:org.apache.coyote.http11.Http11NioProtocol,如下:


修改前:


超详细的Tomcat性能监控及调优教程


超详细的Tomcat性能监控及调优教程


超详细的Tomcat性能监控及调优教程


修改后:


超详细的Tomcat性能监控及调优教程


超详细的Tomcat性能监控及调优教程


超详细的Tomcat性能监控及调优教程


为什么它不直接改成NIO的形式呢?


这个方式是利用了jdk 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)为桥梁实现的,不改成这种优化方式就是为了兼容1.4之前的JAVA项目也能跑起来。


2、线程池(执行器)


Connector节点:


官方文档:https://tomcat.apache.org/tomcat-8.5-doc/config/http.html


默认的tomcat没有启用线程池,在tomcat中每一个用户请求都是一个线程,所以可以使用线程池提高性能。这里前台其实有一个调度线程,然后调度线程会放入线程池内,然后到到一定的时候线程池的任务变成工作线程。


开启线程池:


超详细的Tomcat性能监控及调优教程


超详细的Tomcat性能监控及调优教程


超详细的Tomcat性能监控及调优教程

maxThreads配置为500,但显示为-1,查询官方文档发现:


超详细的Tomcat性能监控及调优教程


意思是该属性配置处理并发请求的最大线程数,如果不配置默认值是200。如果配置了executor属性,这个属性会被忽略。注意斜体部分提到:如果executor设置了值,使用JMX查看的时候这个值会是-1,这是正常的。


详细参数解释如下:


将原有的Executor标签内容替换成如下内容


<Executor name="tomcatThreadPool" --线程池名
     namePrefix="catalina-exec-"
     maxThreads="500"
     minSpareThreads="30"
     maxIdleTime="60000"
     prestartminSpareThreads = "true"
     maxQueueSize = "100"/>


  • maxThreads:最大并发数,默认设置 200,一般建议在 500 ~ 800,根据硬件设施和业务来判断

  • minSpareThreads:Tomcat 初始化时创建的线程数,默认设置 25

  • maxIdleTime:如果当前线程大于初始化线程,那空闲线程存活的时间,单位毫秒,默认60000=60秒=1分钟。

  • prestartminSpareThreads:在 Tomcat 初始化的时候就初始化 minSpareThreads 的参数值,如果不等于 true,minSpareThreads 的值就没啥效果了

  • maxQueueSize:最大的等待队列数,超过则拒绝请求


将原有的Connector标签内容替换成如下内容


<Connector executor="tomcatThreadPool"
     port="8080"
     protocol="org.apache.coyote.http11.Http11AprProtocol"
     connectionTimeout="60000"
     maxConnections="10000"
     redirectPort="8443"
     enableLookups="false"
     acceptCount="100"
     maxPostSize="10485760"
     maxHttpHeaderSize="8192"
     compression="on"
     disableUploadTimeout="true"
     compressionMinSize="2048"
     acceptorThreadCount="2"
     compressableMimeType="text/html,text/plain,text/css,application/javascript,application/json,application/x-font-ttf,application/x-font-otf,image/svg+xml,image/jpeg,image/png,image/gif,audio/mpeg,video/mp4"
     URIEncoding="utf-8"
     processorCache="20000"
     tcpNoDelay="true"
     connectionLinger="5"
     server="Server Version 11.0"/>


替换后访问速度肯定会比以前快


  • protocol:Tomcat 8 设置 nio2 更好:org.apache.coyote.http11.Http11Nio2Protocol

  • protocol:Tomcat 6 设置 nio 更好:org.apache.coyote.http11.Http11NioProtocol

  • protocol:Tomcat 8 设置 APR 性能飞快:org.apache.coyote.http11.Http11AprProtocol

  • connectionTimeout:Connector接受一个连接后等待的时间(milliseconds),默认值是60000。

  • maxConnections:这个值表示最多可以有多少个socket连接到tomcat上

  • enableLookups:禁用DNS查询

  • acceptCount:当tomcat起动的线程数达到最大时,接受排队的请求个数,默认值为100。

  • maxPostSize:设置由容器解析的URL参数的最大长度,-1(小于0)为禁用这个属性,默认为2097152(2M) 请注意, FailedRequestFilter 过滤器可以用来拒绝达到了极限值的请求。

  • maxHttpHeaderSize:http请求头信息的最大程度,超过此长度的部分不予处理。一般8K。

  • compression:是否启用GZIP压缩 on为启用(文本数据压缩) off为不启用, force 压缩所有数据

  • disableUploadTimeout:这个标志允许servlet容器使用一个不同的,通常长在数据上传连接超时。 如果不指定,这个属性被设置为true,表示禁用该时间超时。

  • compressionMinSize:超过最小数据大小才进行压缩

  • acceptorThreadCount:用于接受连接的线程数量。增加这个值在多CPU的机器上,尽管你永远不会真正需要超过2。 也有很多非维持连接,您可能希望增加这个值。默认值是1。

  • compressableMimeType:配置想压缩的数据类型

  • URIEncoding:网站一般采用UTF-8作为默认编码。

  • processorCache:协议处理器缓存的处理器对象来提高性能。 该设置决定多少这些对象的缓存。-1意味着无限的,默认是200。 如果不使用Servlet 3.0异步处理,默认是使用一样的maxThreads设置。 如果使用Servlet 3.0异步处理,默认是使用大maxThreads和预期的并发请求的最大数量(同步和异步)。

  • tcpNoDelay:如果设置为true,TCP_NO_DELAY选项将被设置在服务器套接字,而在大多数情况下提高性能。这是默认设置为true。

  • connectionLinger:秒数在这个连接器将持续使用的套接字时关闭。默认值是 -1,禁用socket 延迟时间。

  • server:隐藏Tomcat版本信息,首先隐藏HTTP头中的版本信息


Executor节点:


官方文档:https://tomcat.apache.org/tomcat-8.5-doc/config/executor.html


五、AJP协议


Tomcat最主要的功能是提供Servlet/JSP容器,尽管它也可以作为独立的Java Web服务器,但它对静态资源(如HTML文件或图像文件)的处理速度,以及提供的Web服务器管理功能方面都不如其他专业的HTTP服务器,如IIS和Apache服务器。因此在实际应用中,常常把Tomcat与其他HTTP服务器集成。对于不支持Servlet/JSP的HTTP服务器,可以通过Tomcat服务器来运行Servlet/JSP组件。


Tomcat服务器通过Connector连接器组件与客户程序建立连接,Connector组件负责接收客户的请求,以及把Tomcat服务器的响应结果发送给客户。默认情况下,Tomcat在server.xml中配置了两种连接器:


 

  • 第一个连接器监听8080端口,负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时,使用的就是这个连接器。

  • 第二个连接器监听8009端口,负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时,就需要用到这个连接器。


在实际应用中,如果网站的访问量非常大,为了提高访问速度,可以将多个Tomcat服务器与Apache集成,让它们共同分担运行Servlet/JSP组件的任务。JK插件的loadbalancer(负载平衡器)负责根据在workers.properties文件中预先配置的lbfactor(负载平衡因数)为这些Tomcat服务器分配工作负荷,实现负载平衡。那么,Apache和Tomcat结合的时候,会有如下现象:


  • Apache会拦截所有请求,将servlet和JSP(.jsp结尾)请求通过AJP交给Tomcat处理,然后再把结果拿到Apache然后返回;

  • Apache将静态资源的访问,(类似html/css/jpg等类型的文件)自己直接处理不交给Tomcat,直接返回;

  • Apache和Tomcat结合之后,Tomcat的HTTP Connector永远不会被用到了,而是用AJP Connector;


原文链接:https://www.cnblogs.com/L-Test/p/10611126.html



以上是关于超详细的Tomcat性能监控及调优教程的主要内容,如果未能解决你的问题,请参考以下文章

zabbix监控模板修改及调优(不完整版)

性能测试常见瓶颈分析及调优方法

快速定位隐蔽的sql性能问题及调优转载

超详细|附EXPTomcat Ajp文件读取漏洞复现(CVE-2020-1938)

Linux集群监控部署: prometheus 普罗米修斯 + Grafana(超详细)

Day704.Tomcat内存溢出的原因分析及调优 -深入拆解 Tomcat & Jetty