I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)

时间:2023-11-28 12:57:50

目录:

I/O模型之一:Unix的五种I/O模型

I/O模型之二:Linux IO模式及 select、poll、epoll详解

I/O模型之三:两种高性能 I/O 设计模式 Reactor 和 Proactor

I/O模型之四:Java 浅析I/O模型

一、传统的BIO

网络编程的基本模型是Client/Server模型,也就是两个进程之间进行相互通信,其中服务端提供位置信息(绑定的IP地址和监听端口),客户端通过连接操作向服务端监听的地址发起连接请求,通过三次握手建立连接,如果连接建立成功,双方就可以通过网络套接字(Socket)进行通信。

在基于传统同步阻塞模型开发中,ServerSocket负责绑定IP地址,启动监听端口,Socket负责发起连接操作,连接成功之后,双方通过输入和输出流进行同步阻塞式通信。

1.1、BIO通信模型图

首先,我们通过下面的通信模型图来熟悉下BIO的服务端通信模型:采用BIO通信模型的服务端,通常由一个独立的Acceptor线程负责监听客户端的连接,它接收到客户端连接请求之后为每个客户端创建一个新的线程进行链路处理,处理完成之后,通过输出流返回应答给客户端,线程销毁。这就是典型的一请求一应答通信模型。

I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)

  该模型最大的问题就是缺乏弹性伸缩能力,当客户端并发访问量增加后,服务端的线程个数和客户端并发访问数呈1:1的正比关系,由于线程是JAVA虚拟机非常宝贵的系统资源,当线程数膨胀之后,系统的性能将急剧下降,随着并发访问量的继续增大,系统会发生线程堆栈溢出、创建新线程失败等问题,并最终导致进程宕机或者僵死,不能对外提供服务。

它的弊端有很多:

1.性能问题:一连接一线程模型导致服务端的并发接入数和系统吞吐量受到极大限制;

2.可靠性问题:由于I/O操作采用同步阻塞模式,当网络拥塞或者通信对端处理缓慢会导致I/O线程被挂住,阻塞时间无法预测;

3.可维护性问题:I/O线程数无法有效控制、资源无法有效共享(多线程并发问题),系统可维护性差;

二、伪异步IO编程

为了解决同步阻塞IO面临的一个链路需要一个线程处理的问题,后来有人对它的线程模型进行了优化,后端通过一个线程池来处理多个客户端的请求接入,形成客户端个数M:线程池最大线程数N的比例关系,其中M可以远远大于N,通过线程池可以灵活的调配线程资源,设置线程的最大值,防止由于海量并发接入导致线程耗尽。 下面,我们结合连接模型图和源码,对伪异步IO进行分析,看它是否能够解决同步阻塞IO面临的问题。

2.1、伪异步IO模型图

采用线程池和任务队列可以实现一种叫做伪异步的IO通信框架,它的模型图如下:

I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)

当有新的客户端接入的时候,将客户端的Socket封装成一个Task(该任务实现java.lang.Runnable接口)投递到后端的线程池中进行处理,JDK的线程池维护一个消息队列和N个活跃线程对消息队列中的任务进行处理。由于线程池可以设置消息队列的大小和最大线程数,因此,它的资源占用是可控的,无论多少个客户端并发访问,都不会导致资源的耗尽和宕机。

三、NIO(多路复用器Selector)

  Java NIO的实现关键是通过多路复用IO技术实现的,多路复用的核心就是通过Selector来轮询注册在其上的Channel,当发现某个或者多个Channel处于就绪状态后,从阻塞状态返回就绪的Channel的选择键集合,进行IO操作。由于多路复用器是NIO实现非阻塞IO的关键,它又是主要通过Selector实现。

I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)

选择器使得我们能够通过较少的线程便可监视许多连接上的事件。

详细见《Java NIO系列教程(一) Java NIO 概述

四、AIO异步IO

详细见《Java NIO系列教程(八)JDK AIO编程

I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)

五、五种IO模型

  在《Unix网络编程》一书中提到了五种IO模型,分别是:阻塞IO、非阻塞IO、多路复用IO、信号驱动IO以及异步IO。

  见《I/O模型之一:Unix的五种I/O模型

六、两种I/O多路复用模式:Reactor和Proactor

因此便出现了下面的两种高性能IO设计模式:Reactor(反应堆)和Proactor(前摄器)。

见《I/O模型之三:两种高性能 I/O 设计模式 Reactor 和 Proactor》和《Netty中的三种Reactor(反应堆)

  在Reactor模式中,会先对每个client注册感兴趣的事件,然后有一个线程专门去轮询每个client是否有事件发生,当有事件发生时,便顺序处理每个事件,当所有事件处理完之后,便再转去继续轮询,如下图所示:

I/O模型之四:Java 浅析I/O模型(BIO、NIO、AIO、Reactor、Proactor)

从这里可以看出,上面的五种IO模型中的多路复用IO就是采用Reactor模式。注意,上面的图中展示的 是顺序处理每个事件,当然为了提高事件处理速度,可以通过多线程或者线程池的方式来处理事件。

可以看jdk1.8的源码,java的nio采用的是epoll(linux,window是IOCP),也即是Reactor模式:

package sun.nio.ch;
public class DefaultSelectorProvider {
//...
/**
* Returns the default SelectorProvider.
*/
public static SelectorProvider create() {
String osname = AccessController
.doPrivileged(new GetPropertyAction("os.name"));
if (osname.equals("SunOS"))
return createProvider("sun.nio.ch.DevPollSelectorProvider");
if (osname.equals("Linux"))
return createProvider("sun.nio.ch.EPollSelectorProvider");
return new sun.nio.ch.PollSelectorProvider();
}
//...
}

更详细的分析见:https://zhuanlan.zhihu.com/p/27441342?group_id=859562548406677504

在Proactor模式中,当检测到有事件发生时,会新起一个异步操作,然后交由内核线程去处理,当内核线程完成IO操作之后,发送一个通知告知操作已完成,可以得知,异步IO模型采用的就是Proactor模式

见:

I/O模型之三:两种高性能 I/O 设计模式 Reactor 和 Proactor

【转】第8章 前摄器(Proactor):用于为异步事件多路分离和分派处理器的对象行为模式

Java NIO系列教程(八)JDK AIO编程