网络I/o编程模型11 netty常用的3种线程模型

Posted 2022-05-31 健康平安的活着

一 常用的线程模型

1.1 传统阻塞I/O服务模型

1.特点：采用阻塞IO模式获取输入的数据；每个连接都需要独立的线程完成数据的输入，业务处理数据返回。

2.问题：当并发数很大时候，就会常见大量的线程，占用很大系统资源；连接创建后，如果当前菜鸟仓暂时没有数据可读，该线程会阻塞在read操作，造成线程资源浪费。

1.2 Reactor模式

针对传统I/O线程模型的两个问题，提出了Reactor模式，分发者模式。基于以下两种思想的设计理念。

1.基于I/O复用模型：多个连接共用一个阻塞对象，应用程序只需要在一个阻塞对象等待，无需阻塞等待所有连接。当某个连接有新数据可以处理时，操作系统通知应用程序，线程从阻塞状态返回，开始进行业务处理。

2.基于线程池复用线程资源：不必再为每个连接创建线程，将连接完成后的业务处理任务，分配给线程信息处理，一个线程可以处理多个连接业务。

 特点：

1.Reactor模式：通过一个或者多个输入，同时传递给服务处理器的模式。(基于事件驱动)

2.服务器端程序处理传入的多个请求，并将他们同步分派到相应的处理线程，因此Reactor模式也叫Dispatcher模式

3.Recotr模式采用IO复用监听事件，收到事件后，分发给某个线程（进程），这点是网络服务器高并发处理的关键。

核心组成部分

1.reactor： reactor在一个单独的线程中运行，负责监听和分发事件，分发给适当的处理程序来对IO事件做出响应。比如 电话客服人员接到电话，然后将任务诉求分派给相应的工作人员。

2.handlers: 处理具体的I/O业务逻辑；类似公司具体干活的工作人员。

二 netty的Reactor模型

2.1 Reactor模型的单线程

1.流程

1.select 可以实现应用程序通过一个额阻塞对象监听多路连接请求。
2.reactor对象通过select监控客户端请求事件，收到事件后可通过dsipatch进行分发。
3.如果是建立连接请求事件，则由Acceptor通过Accept处理连接请求，然后创建一个Handler对象处理连接完成后的后续业务处理。
4.如果不是建立连接事件，则Reactor会分发调用，连接对应的handler来响应。
5.Handler: Read->业务处理-> send的完整业务流程。

2.缺点
1.性能问题： 所有操作均在一个线程中，无法完全发挥多核cpu的性能。
2.可靠性问题：线程意外终止，或者进入死循环，会导致整个系统通信模块不可用。
使用场景： 客户端数量少，业务处理非常快速，比如redis在处理业务的时间复杂度o(1)的情况。

2.2 Reactor模型的多线程

1.优点:

1.通过select监控客户端请求事件，收到事件后，通过dispatch进行分发。
2.如果建立连接请求，则由Acceptor通过accept处理连接请求，然后创建一个Handler对象处理完成连接后的各种操作。
3.如果不是谅解请求，则由reactor分发调用连接对应的handler来进行处理。
4.handler只负责响应事件，不做具体的业务处理，通过read读取数据后，会分发给后面的worker线程池的某个线程处理业务。
5.worker线程池会分配独立线程完成真正的业务，并将结果返回给handler。
6.handler收到响应后，通过send将结果返回给client

 优点：可以充分的利用多核cpu的处理能力。
缺点：多线程数据共享和访问比较复杂，在单线程运行，在高并发场景下容易出现性能瓶颈问题。

2.3  主从Reactor模型的多线程模式

1.流程
1.Reactor主线程MainReactor对象通过select监听连接事件，收到事件后，通过Acceptor处理连接事件。
2.当Acceptor处理连接事件后，MainReactor将连接分配给SubReactor
3.subreactor将连接加入到连接队列进行监听，并创建handler进行各种难事件处理。
4.当有新事件发生时，subreactor就会调用对应的handler进行处理。
5.handler通过read读取数据，分发给后面的worker现场进行处理。
6.worker线程池分配独立的worker线程进行业务处理，并返回结果。
7.hadler收到响应的结果后，再通过send将结果返回给client。
8.reactor主线程可以对应多个reactor子线程，即MainReactor可以关联多个SubReactor。

#优点
父线程与子线程的数据交换简单，责任明确，父线程只需要接收新的连接，子线程完成后续的业务处理。
#缺点
编程复杂度较高
#应用案例
nginx的主从Reactor多进程模型，Memcached主从多线程，netty主从多线程模型

2.4  总结

1.单Reactor单线程模型：前台接待员和服务员是同一个人，全程为顾客服务。
2.单Reactor多线程模型：前台接待员和服务员是不同人，1个前台接待员，多个服务员，接待员只负责接待。
3.主从Reactor多线程模型：多个前台接待员，多个服务生，共同协同工作。

三  netty使用的线程模型

netty主要基于主从Reactors多线程模型做了一定的改进，其中主从Reactors多线程模型有多个Reactor。

1.BossGroup 专门负责接收客户端的连接，workerGroup专门负责网络的读写。BossGroup线程维护selector，只关注Accept
2.当接收到Accept事件，获取到对应的SocketChannel，封装成NIOSocketChannel，并将其注册到某个workerGroup中的NIOEventLoop上的selector中。
3.当workGroup中的worker线程监听到selector中通道发生自己感兴趣的事件后，就由handler进行处理，注意handler已经加入到通道。

 详细流程：

1.netty抽象出两组线程池BossGroup 专门负责接收客户端的连接，workerGroup专门负责网络的读写。
2.BossGroup和WorkerGroup类型都是NioEventLoopGroup
3.NioEventLoopGroup相当于一个事件循环组，这个组中包含多个事件循环，每一个事件循环是NioEventLoop。
4.NioEventLoop 表示一个不断循环的执行处理任务的线程，每个NioEventLoop都有一个selector，用于监听绑定在其上的socket的网络通信。
5.NioEventLoopGroup 可以有多个线程，即可以包含有多个NioEventLoop
6.每个BossNioEventLoop循环执行步骤有3步：
 1.轮询accept事件，处理accept事件，与client建立连接，生成NioSocketChannel，并将其注册到某个workerNIOEventLoop上的selector。
 2.处理任务队列的任务，即runAllTasks。
7.每个Woker NIOEventLoop循环执行的步骤
  1.轮询read，write事件 ；处理i/o 事件，即read，write事件，在对应的NiosocketChannel处理。
  2.处理任务队列的任务，即runAllTasks。
8.每个WorkerNIOEventLoop 处理业务时，会使用pipeline(管道) 中包含的channel，即通过pipeline可以获取到对应管道中的处理器。