运行“空”Undertow 时每秒 HTTP 请求的限制因素是啥？

Posted 2023-02-27

【中文标题】运行“空”Undertow 时每秒 HTTP 请求的限制因素是啥？

【英文标题】：What is the limiting factor of HTTP requests per seconds when running "empty" Undertow?运行“空”Undertow 时每秒 HTTP 请求的限制因素是什么？

【发布时间】：2015-02-01 07:43:13

【问题描述】：

我正在运行一个非常简单的 Undertow 配置。包含整个代码：

public class HelloWorldUndertow 
    public static void main(String[] args) 
        Undertow undertow = Undertow.builder()
                .addHttpListener(9090, "0.0.0.0")
                .setHandler(new HttpHandler() 
                    @Override
                    public void handleRequest(HttpServerExchange exchange) throws Exception 
                        exchange.setResponseCode(200);
                        exchange.getResponseSender().send("hello!");
                    
                ).build();
        undertow.start();
    

我尝试测试每秒可以处理多少个请求。我正在使用 apache ab 工具进行测量：

ab -n 100000 -c 10 http://localhost:9090/test

我设法得到的最大数字大约是 10000 3/秒：

Concurrency Level:      10
    Time taken for tests:   10.664 seconds
    Complete requests:      100000
    Failed requests:        0
    Total transferred:      10000000 bytes
    html transferred:       600000 bytes
    Requests per second:    9377.69 [#/sec] (mean)
    Time per request:       1.066 [ms] (mean)
    Time per request:       0.107 [ms] (mean, across all concurrent requests)
    Transfer rate:          915.79 [Kbytes/sec] received

    Connection Times (ms)
    min  mean[+/-sd] median   max
    Connect:        0    0   0.2      0       1
    Processing:     0    1   0.5      1      11
    Waiting:        0    1   0.5      1      11
    Total:          0    1   0.5      1      11

    Percentage of the requests served within a certain time (ms)
    50%      1
    66%      1
    75%      1
    80%      1
    90%      2
    95%      2
    98%      2
    99%      2
    100%     11 (longest request)

我知道它很大，但我很好奇在这种情况下什么是限制因素。它不是处理器（使用 Java Mission Control 采样时应用程序运行低于 20%），也不是内存。我在 Windows 上运行它 - 也许这就是原因？

【参考方案1】：

我不能告诉你如何让它在 Windows 中运行时性能更好，但如果你在 Linux 中运行它，你可以在这里为 Jetty 进行推荐的调整：http://www.eclipse.org/jetty/documentation/current/high-load.html 总结：

sysctl -w net.core.rmem_max=16777216
sysctl -w net.core.wmem_max=16777216
sysctl -w net.ipv4.tcp_rmem="4096 87380 16777216"
sysctl -w net.ipv4.tcp_wmem="4096 16384 16777216"
sysctl -w net.core.somaxconn=4096
sysctl -w net.core.netdev_max_backlog=16384
sysctl -w net.ipv4.tcp_max_syn_backlog=8192
sysctl -w net.ipv4.tcp_syncookies=1
sysctl -w net.ipv4.ip_local_port_range="1024 65535"
sysctl -w net.ipv4.tcp_tw_recycle=1
sysctl -w net.ipv4.tcp_congestion_control=cubic

在运行代码时包含 -server JVM 参数。

然后尝试： ab -n 100000 -c 100 http://localhost:9090/test

（使用 100 个连接发出 100,000 个请求）

当我在我的 Windows7 笔记本电脑（3 岁）上运行 VMWare Player 的 Linux 虚拟机中尝试时，我每秒收到超过 100,000 个请求。