如何计算tomcat线程池大小？

Posted 2020-10-11 black_Style

如何计算tomcat线程池大小？

 

• 背景

　　在我们的日常开发中都涉及到使用tomcat做为服务器，但是我们该设置多大的线程池呢？以及根据什么原则来设计这个线程池呢？

　　接下来，我将介绍本人是怎么设计以及计算的。

• 目标

　　确定tomcat服务器线程池大小

• 具体方法

　　众所周知，tomcat接受一个request后处理过程中，会涉及到cpu和IO时间。其中IO等待时，cpu被动放弃执行，其他线程就可以利用这段时间片进行操作。

所以我们可以采用服务器IO优化的通用规则:

线程大小 = ( (线程io时间 + 线程cpu)  / 线程cpu time) * cpu核数

举例: 线程io时间为100ms(IO操作比如数据库查询，同步远程调用等)，线程cpu时间10ms，服务器物理机核数为4个。通过上面的公式，我们计算出来的大小是 ((100 + 10 )/10 ) *4 = 44。理论上我们有依据，但是实际计算过程中我们怎么知道线程IO时间和cpu时间呢？ 这个就涉及到实际编码过程中的怎么样监控处理时间啦。

下面我介绍本人项目中的做法

　　1. 通过java 实现内置的filter接口，我们可以拿到一个request消耗的总时间

public class MoniterFilter implements Filter {

    private static final Logger logger = LoggerFactory.getLogger(MoniterFilter.class);

    @Override
    public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException,
            ServletException {
        long start = System.currentTimeMillis();

        HttpServletRequest httpRequest = (HttpServletRequest) request;
        HttpServletResponse httpResponse = (HttpServletResponse) response;
        String uri = httpRequest.getRequestURI();
        String params = getQueryString(httpRequest);

        try {
            chain.doFilter(httpRequest, httpResponse);
        } finally {
            long cost = System.currentTimeMillis() - start;
            logger.info("access url [{}{}], cost time [{}] ms )", uri, params, cost);
        }
  
    private String getQueryString(HttpServletRequest req) {
        StringBuilder buffer = new StringBuilder("?");
        Enumeration<String> emParams = req.getParameterNames();
        try {
            while (emParams.hasMoreElements()) {
                String sParam = emParams.nextElement();
                String sValues = req.getParameter(sParam);
                buffer.append(sParam).append("=").append(sValues).append("&");
            }
            return buffer.substring(0, buffer.length() - 1);
        } catch (Exception e) {
            logger.error("get post arguments error", buffer.toString());
        }
        return "";
    }

    @Override
    public void destroy() {
    }

    @Override
    public void init(FilterConfig filterConfig) throws ServletException {
    }

}

　　2. 通过添加切面来监控线程IO耗时（jdk，cglib）

public class DaoInterceptor implements MethodInterceptor {

    private static final Logger logger = LoggerFactory.getLogger(DaoInterceptor.class);

    @Override
    public Object invoke(MethodInvocation invocation) throws Throwable {
        StopWatch watch = new StopWatch();
        watch.start();
        Object result = null;
        Throwable t = null;
        try {
            result = invocation.proceed();
        } catch (Throwable e) {
            t = e == null ? null : e.getCause();
            throw e;
        } finally {
            watch.stop();
            logger.info("({}ms)", watch.getTotalTimeMillis());

        }

        return result;
    }

}

通过上述代码就可以计算出相应时间，从而计算出线程大小啦。但是我们就到此为止了吗？

其实还没有，计算出的数值只是存在理论情况下，我们还是需要通过压测工具（Jmeter）来压测一下线服务器，同时根据qps值来动态微调刚才计算出的线程池大小。

如果文章还对大家有实际意义，请推荐一下。

http://www.cnblogs.com/tylercao/p/4733238.html