Netty 从线程模型的角度看 Netty 为什么是高性能的？

Posted 2021-04-13 crossoverJie

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Netty 从线程模型的角度看 Netty 为什么是高性能的？相关的知识，希望对你有一定的参考价值。

前言

在之前的一文中认识了 Netty。

但其实只是能用，为什么要用 Netty？它有哪些优势？这些其实都不清楚。

本文就来从历史源头说道说道。

传统 IO

在 Netty 以及 NIO 出现之前，我们写 IO 应用其实用的都是用 java.io.* 下所提供的包。

比如下面的伪代码：

1ServeSocket serverSocket = new ServeSocket(8080);
2Socket socket = serverSocket.accept() ;
3BufferReader in = .... ;
4
5String request ;
6
7while((request = in.readLine()) != null){
8    new Thread(new Task()).start()
9}

大概是这样，其实主要想表达的是：这样一个线程只能处理一个连接。

如果是 100 个客户端连接那就得开 100 个线程，1000 那就得 1000 个线程。

要知道线程资源非常宝贵，每次的创建都会带来消耗，而且每个线程还得为它分配对应的栈内存。

即便是我们给 JVM 足够的内存，大量线程所带来的上下文切换也是受不了的。

并且传统 IO 是阻塞模式，每一次的响应必须的是发起 IO 请求，处理请求完成再同时返回，直接的结果就是性能差，吞吐量低。

Reactor 模型

因此业界常用的高性能 IO 模型是 Reactor。

它是一种异步、非阻塞的事件驱动模型。

通常也表现为以下三种方式：

单线程

从图中可以看出：

它是由一个线程来接收客户端的连接，并将该请求分发到对应的事件处理 handler 中，整个过程完全是异步非阻塞的；并且完全不存在共享资源的问题。所以理论上来说吞吐量也还不错。

但由于是一个线程，对多核 CPU 利用率不高，一旦有大量的客户端连接上来性能必然下降，甚至会有大量请求无法响应。
最坏的情况是一旦这个线程哪里没有处理好进入了死循环那整个服务都将不可用！

多线程

因此产生了多线程模型。

其实最大的改进就是将原有的事件处理改为了多线程。

可以基于 Java 自身的线程池实现，这样在大量请求的处理上性能提示是巨大的。

虽然如此，但理论上来说依然有一个地方是单点的；那就是处理客户端连接的线程。

因为大多数服务端应用或多或少在连接时都会处理一些业务，如鉴权之类的，当连接的客户端越来越多时这一个线程依然会存在性能问题。

于是又有了下面的线程模型。

主从多线程

该模型将客户端连接那一块的线程也改为多线程，称为主线程。

同时也是多个子线程来处理事件响应，这样无论是连接还是事件都是高性能的。

Netty 实现

以上谈了这么多其实 Netty 的线程模型与之的类似。

我们回到之前中的服务端代码：

 1    private EventLoopGroup boss = new NioEventLoopGroup();
 2    private EventLoopGroup work = new NioEventLoopGroup();
 3
 4
 5    /**
 6     * 启动 Netty
 7     *
 8     * @return
 9     * @throws InterruptedException
10     */
11    @PostConstruct
12    public void start() throws InterruptedException {
13
14        ServerBootstrap bootstrap = new ServerBootstrap()
15                .group(boss, work)
16                .channel(NioserverSocketChannel.class)
17                .localAddress(new InetSocketAddress(nettyPort))
18                //保持长连接
19                .childOption(ChannelOption.SO_KEEPALIVE, true)
20                .childHandler(new HeartbeatInitializer());
21
22        ChannelFuture future = bootstrap.bind().sync();
23        if (future.isSuccess()) {
24            LOGGER.info("启动 Netty 成功");
25        }
26    }

其实这里的 boss 就相当于 Reactor 模型中处理客户端连接的线程池。

work 自然就是处理事件的线程池了。

那么如何来实现上文的三种模式呢？其实也很简单：

单线程模型：

1private EventLoopGroup group = new NioEventLoopGroup();
2ServerBootstrap bootstrap = new ServerBootstrap()
3                .group(group)
4                .childHandler(new HeartbeatInitializer());

多线程模型：

1private EventLoopGroup boss = new NioEventLoopGroup(1);
2private EventLoopGroup work = new NioEventLoopGroup();
3ServerBootstrap bootstrap = new ServerBootstrap()
4                .group(boss,work)
5                .childHandler(new HeartbeatInitializer());

主从多线程：

1private EventLoopGroup boss = new NioEventLoopGroup();
2private EventLoopGroup work = new NioEventLoopGroup();
3ServerBootstrap bootstrap = new ServerBootstrap()
4                .group(boss,work)
5                .childHandler(new HeartbeatInitializer());