Boost Beast服务器响应延迟1秒

Question

我正在尝试使用boost :: beast创建一个HTTP服务器，但我注意到响应时间延迟了一秒。我使用高级服务器示例和同步客户端示例来对此行为进行基准测试。

还试图禁用Nagle的算法，但没有效果，似乎不是一个优化问题。

每隔几秒就会手动进行一次请求，因此服务器端的高负载是不合理的。

它似乎与boost :: asio套接字有关，因为我前段时间也创建了一个HTTP服务器（使用boost :: asio - Boost v1.64我认为，当Beast不在时）我体验了相同的高响应时间 - 这就是我改用野兽的原因。

我的问题：

这是boost :: asio套接字的已知行为吗？

可以解决这个延迟吗？

有没有理由在套接字上设置no_delay可能不起作用？

基准结果：

来自示例服务器的平均响应时间在1005毫秒到1020毫秒之间，如下面的屏幕截图所示。相比之下，同一个客户端在120毫秒内收到google.com的回复。

Here是对本地服务器的请求与www.google.com请求之间的比较

因此再次提出这个问题：这个900毫秒的延迟可以来自哪里？对于任何HTTP服务器，这都不是可接受的响应时间。

并且尝试了同样结果的fast example server和synchronous server example：响应时间超过1000毫秒。

基准设置

测试系统：

Windows 10 Pro x64
处理器Intel i7-7700,16GB RAM
提升1.66
Visual Studio 2015

使用Debug和Release版本在x86和x64中测试。正如预期的那样，唯一的区别是Debug版本增加了20-30ms。

服务器设置

我从Beast文档中获取了advanced server example
在Visual Studio 2015中创建了一个新的空控制台项目
将示例代码添加到新的cpp源文件中
在Project的属性> VC ++目录>包含目录中设置boost“... boost include”包含文件夹
在项目的属性> VC ++目录>库目录中设置boost库文件夹
在C / C ++中>预处理器添加了“_WIN32_WINNT = 0x0601”
在Debugging> Command Arguments中我添加了“0.0.0.0 8080.3”，这意味着“将服务器绑定到端口8080的所有本地地址，使用。（当前目录）作为根文件夹并在3个线程上运行服务器”。

客户端设置

我使用了Beast文档中的synchronous client
创建了一个类似的Visual Studio项目

为了测量请求时间，我在客户端代码中添加了定时器，并将响应的输出注释掉到cout：

auto start = std::chrono::steady_clock::now();
/* client code */

// printing the response to cout can slow the client
//std::cout << res << std::endl;

auto finish = std::chrono::steady_clock::now();
auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
std::cout << "request time: " << ms.count() << "
";

这是禁用TCP延迟的客户端代码：

boost::asio::connect(socket, results.begin(), results.end());
socket.set_option(tcp::no_delay(true));

这是服务器示例代码的唯一修改。以及禁用TCP延迟的服务器代码：

void
on_accept(boost::system::error_code ec)
{
    if(ec)
    {
        fail(ec, "accept");
    }
    else
    {
        // disable TCP delay
        socket_.set_option(tcp::no_delay(true));

        // Create the http_session and run it
        std::make_shared<http_session>(
                std::move(socket_),
                doc_root_)->run();
        }

        // Accept another connection
        do_accept();
}

这是修改后的客户端：

//
// Copyright (c) 2016-2017 Vinnie Falco (vinnie dot falco at gmail dot com)
//
// Distributed under the Boost Software License, Version 1.0. (See accompanying
// file LICENSE_1_0.txt or copy at http://www.boost.org/LICENSE_1_0.txt)
//
// Official repository: https://github.com/boostorg/beast
//

//------------------------------------------------------------------------------
//
// Example: HTTP client, synchronous
//
//------------------------------------------------------------------------------

//[example_http_client

#include <boost/beast/core.hpp>
#include <boost/beast/http.hpp>
#include <boost/beast/version.hpp>
#include <boost/asio/connect.hpp>
#include <boost/asio/ip/tcp.hpp>
#include <cstdlib>
#include <iostream>
#include <string>
#include <chrono>

using tcp = boost::asio::ip::tcp;       // from <boost/asio/ip/tcp.hpp>
namespace http = boost::beast::http;    // from <boost/beast/http.hpp>

// Performs an HTTP GET and prints the response
int main(int argc, char** argv)
{
    try
    {
        // Check command line arguments.
        if(argc != 4 && argc != 5)
        {
            std::cerr <<
                "Usage: http-client-sync <host> <port> <target> [<HTTP version: 1.0 or 1.1(default)>]
" <<
                "Example:
" <<
                "    http-client-sync www.example.com 80 /
" <<
                "    http-client-sync www.example.com 80 / 1.0
";
            return EXIT_FAILURE;
        }
        auto const host = argv[1];
        auto const port = argv[2];
        auto const target = argv[3];
        int version = argc == 5 && !std::strcmp("1.0", argv[4]) ? 10 : 11;

        auto start = std::chrono::steady_clock::now();

        // The io_context is required for all I/O
        boost::asio::io_context ioc;

        // These objects perform our I/O
        tcp::resolver resolver{ioc};
        tcp::socket socket{ioc};

        // Look up the domain name
        auto const results = resolver.resolve(host, port);

        // Make the connection on the IP address we get from a lookup
        boost::asio::connect(socket, results.begin(), results.end());
        //socket.set_option(tcp::no_delay(true));

        // Set up an HTTP GET request message
        http::request<http::string_body> req{http::verb::get, target, version};
        req.set(http::field::host, host);
        req.set(http::field::user_agent, BOOST_BEAST_VERSION_STRING);

        // Send the HTTP request to the remote host
        http::write(socket, req);

        // This buffer is used for reading and must be persisted
        boost::beast::flat_buffer buffer;

        // Declare a container to hold the response
        http::response<http::dynamic_body> res;

        // Receive the HTTP response
        http::read(socket, buffer, res);

        // Write the message to standard out
        //std::cout << res << std::endl;

        // Gracefully close the socket
        boost::system::error_code ec;
        socket.shutdown(tcp::socket::shutdown_both, ec);

        // not_connected happens sometimes
        // so don't bother reporting it.
        //
        if(ec && ec != boost::system::errc::not_connected)
            throw boost::system::system_error{ec};

        // If we get here then the connection is closed gracefully
        auto finish = std::chrono::steady_clock::now();
        auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(finish - start);
        std::cout << "request time: " << ms.count() << "
";

    }
    catch(std::exception const& e)
    {
        std::cerr << "Error: " << e.what() << std::endl;
        return EXIT_FAILURE;
    }
    return EXIT_SUCCESS;
}

//]

Answer 1

另一答案