Tomcat的BIO、NIO、APR模式对比与性能测试结果

11.11活动当天，服务器负载过大，导致部分页面出现了不可访问的状态、那后来主管就要求调优了，下面是tomcat bio、nio、apr模式以及后来自己测试的一些性能结果。

原理方面的资料都是从网上找的，并且把多个地方的整理到了一起，觉得很有意义。（后面对tomcat默认页面测试的数据是自己测出来的），tomcat 的三种模式如果用对了场合，性能绝对有大幅度的提升。当然调优也并不只在这一个方面，还有内存（堆内存、非堆内存、新生代内存）以及线程（最大线程、请求队列、备用线程、压缩、以及禁用dns轮询）等方面。

那在做tomcat bio nio apr 模式之前，先来了解下 java 的一些特性吧。

Java BIO、NIO、AIO

同步：自己亲自出马持银行卡到银行取钱（使用同步IO时，Java自己处理IO读写）。

异步：委托一小弟拿银行卡到银行取钱，然后给你（使用异步IO时，Java将IO读写委托给OS处理，需要将数据缓冲区地址和大小传给OS(银行卡和密码)，OS需要支持异步IO操作API）。

阻塞： ATM排队取款，你只能等待（使用阻塞IO时，Java调用会一直阻塞到读写完成才返回）。

非阻塞：柜台取款，取个号，然后坐在椅子上做其它事，等号广播会通知你办理，没到号你就不能去，你可以不断问大堂经理排到了没有，大堂经理如果说还没到你就不能去（使用非阻塞IO时，如果不能读写Java调用会马上返回，当IO事件分发器会通知可读写时再继续进行读写，不断循环直到读写完成）。

Java对BIO、NIO、AIO的支持：

Java BIO ：同步并阻塞，服务器实现模式为一个连接一个线程，即客户端有连接请求时服务器端就需要启动一个线程进行处理，如果这个连接不做任何事情会造成不必要的线程开销，当然可以通过线程池机制改善。

Java NIO ：同步非阻塞，服务器实现模式为一个请求一个线程，即客户端发送的连接请求都会注册到多路复用器上，多路复用器轮询到连接有I/O请求时才启动一个线程进行处理。

Java AIO(NIO.2) ：异步非阻塞，服务器实现模式为一个有效请求一个线程，客户端的I/O请求都是由OS先完成了再通知服务器应用去启动线程进行处理

BIO、NIO、AIO适用场景分析:

BIO方式适用于连接数目比较小且固定的架构，这种方式对服务器资源要求比较高，并发局限于应用中，JDK1.4以前的唯一选择，但程序直观简单易理解。

NIO方式适用于连接数目多且连接比较短（轻操作）的架构，比如聊天服务器，并发局限于应用中，编程比较复杂，JDK1.4开始支持。

AIO方式使用于连接数目多且连接比较长（重操作）的架构，比如相册服务器，充分调用OS参与并发操作，编程比较复杂，JDK7开始支持。

好，下面来看看tomcat 的 bio、nio、apr 模式

bio
bio(blocking I/O)，顾名思义，即阻塞式I/O操作，表示Tomcat使用的是传统的Java I/O操作(即java.io包及其子包)。Tomcat在默认情况下，就是以bio模式运行的。遗憾的是，就一般而言，bio模式是三种运行模式中性能最低的一种。我们可以通过Tomcat Manager来查看服务器的当前状态。

nio
是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。

apr
(Apache Portable Runtime/Apache可移植运行库)，是Apache HTTP服务器的支持库。你可以简单地理解为，Tomcat将以JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作，从而大大地提高Tomcat对静态文件的处理性能。 Tomcat apr也是在Tomcat上运行高并发应用的首选模式。

在这之前，我们先把tomcat管理界面配置起来，以便等下能更方便的观察我们的bio、nio、apr 模式

添加manager/status用户

vim /usr/local/apache-tomcat-7.0.47/conf/tomcat-users.xml
<role rolename="manager-gui"/>
<user username="tomcat" password="15715746746" roles="manager-gui"/>

配置完重启，通过ip:port/manager/status 就可以看tomcat状态了，里面有服务器的信息及tomcat信息。

bio server.xml 配置（重启生效）

    <Connector port="8080" protocol="HTTP/1.1"connectionTimeout="20000"redirectPort="8443" />

nio server.xml 配置（重启生效）

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"connectionTimeout="20000"redirectPort="8443" />

apr server.xml 配置（重启生效）

    <Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"connectionTimeout="20000"redirectPort="8443" />

当然，apr模式还需要安装 apr 、 apr-utils 、tomcat-native包

apr 安装
tar zxf apr-1.5.2.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-1.5.2/
./configure --prefix=/usr/local/apr && make && make installapr-utils 安装
tar zxf apr-util-1.5.4.tar.gz -C /usr/local/src/
cd /usr/local/src/apr-util-1.5.4/
./configure --with-apr=/usr/local/apr/ --prefix=/usr/local/apr-utils && make && make install tomcat-native安装
cd /usr/local/apache-tomcat-7.0.65/bin/
tar zxf tomcat-native.tar.gz
cd tomcat-native-1.1.33-src/jni/native
./configure --with-apr=/usr/local/apr --with-java-home=/usr/local/java/ && make && make install

安装完后记得在 /etc/profile 的JAVA变量后面多加一条APR的环境变量

设置环境变量

JAVA_HOME=/usr/local/java
JAVA_BIN=$JAVA_HOME/bin
PATH=$PATH:$JAVA_BIN
CLASSPATH=$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export JAVA_HOME JAVA_BIN PATH CLASSPATH
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib

source /etc/profile

那下面来看看 apr 的页面

到这里大致的配置就结束了，建议在做实验之前，先了解清楚java的 bio 、nio 、aio特性，在web服务器上阻塞IO(BIO)与NIO一个比较重要的不同是，客户系统使用BIO的时候往往会为每一个web请求引入多线程，每个web请求一个单独的线程，所以并发量一旦上去了，线程数就上去了，CPU就忙着线程切换，所以BIO不合适高吞吐量、高可伸缩的web服务器；而NIO则是使用单线程(单个CPU)或者只使用少量的多线程(多CPU)来接受Socket，而由线程池来处理堵塞在pipe或者队列里的请求.这样的话，只要OS可以接受TCP的连接，web服务器就可以处理该请求。大大提高了web服务器的可伸缩性。

下面是我自己的一些性能测试表格，通过jmeter压测软件（jmeter软件使用自行百度）在本地测试的（为了数据的有效以及准确性，我没测试10分钟，也就是进行一次测试，都会重启linux主机及重新打开jmeter软件。），当然你也可以选择通过云主机、自己机房的服务器以及虚拟机等测试，测试当中会涉及到很多点，例如（磁盘io、带宽、内存、cpu、以及内核配置中的tcp各种状态，甚至是各种打开文件限制，都会影响到我们的测试结果）

可以看到，随着线程的不断增多，bio 模式性能越来越差，就算是在本地，错误率和响应时间都在明显的增加、而吞吐量、样本数和每秒传输速率都在下降（当然，如果是生产环境，我们肯定通过nginx web 软件进行反向代理，提供多个tomcat 节点来提供更稳定的服务。）

而 bio 和 apr模式基本上没有变化太多，都保持在一个稳定的状态。

而后来当我进行一些 service 后端程序的测试时，发现 tomcat 性能并没有大幅度的提升，甚至会有下降的趋势。（该接口不是在同网段测试，而是跨越路由器，在网络传输中会有损耗方面，性能跟本地测试也会有所差异）

总结：

个人觉得在 tomcat bio、nio、apr 模式中，每种都会有各自适用的场合，也不能说哪个好那个不好，就像 tomcat 内存方面的配置，如果内存设置的过大，gc 垃圾回收机制就会变慢；如果内存设置的过小，tomcat又会出现内存溢出的情况，所以设置在一个合适的范围很重要，不仅不会出错，并且gc回收频繁使性能达到一个最优的结果。当然，这也需要根据不同的场合进行不同的测试才能产生最优的结果！

转载地址：https://blog.csdn.net/wanglei_storage/article/details/50225779

深度解读Tomcat中的NIO模型

https://www.jianshu.com/p/76ff17bc6dea

Tomcat的BIO、NIO、APR模式对比与性能测试结果相关推荐

Tomcat 的三种(bio,nio.apr) 高级 Connector 运行模式
Tomcat的运行模式有3种.修改他们的运行模式.3种模式的运行是否成功,可以看他的启动控制台,或者启动日志.或者登录他们的默认页面http://localhost:8080/查看其中的服务器状态. ...
spring boot内嵌tomcat优雅的开启apr模式
文章目录简介 Win下开启APR Linux下开启APR 把lib打进jar包简介环境: jdk8.spring boot 2.3.4.RELEASE.centOS7.3.win7 在sprin ...
linux tomcat apr安装,Linux下Tomcat安装并开启APR模式-Go语言中文社区
环境: CentOS 7.6 64位 apache-tomcat-8.5.43.tar.gz 安装步骤: 1.通过Xftp软件上传安装包到/opt目录 2.解压,重命名移动到/usr/local下 [ ...
深度讲解：同步/异步/阻塞/非阻塞/BIO/NIO/apr
BIO : 同步并阻塞,服务器实现模式为一个连接一个线程,即客户端有连接请求时服务器端就需要启动一个线程进行处理,如果这个连接不做任何事情会造成不必要的线程开销,当然可以通过线程池机制改善.Java ...
java reactor模式例子_JAVA BIO,NIO,Reactor模式总结
传统同步阻塞I/O(BIO) 在NIO之前编写服务器使用的是同步阻塞I/O(Blocking I/O).下面是一个典型的线程池客服端服务器示例代码,这段代码在连接数急剧上升的情况下,这个服务器代码就会 ...
Apache Tomcat 7 Configuration BIO NIO AIO APR ThreadPool
Apache Tomcat 7 Configuration Reference (7.0.93) - The Executor (thread pool) https://tomcat.apache. ...
mac下tomcat启用APR模式
前言配置完SSL,我其实还是希望通过wireshark分析一下SSL握手协议,APR模式其实是想用来尝试下能否实现握手协议的,毕竟加入了openssl.事实证明,并没有相关干系,但毕竟折腾了挺久的, ...
Tomcat之NIO和APR性能对比
寄上一篇Tomcat的接收请求方式:BIO/NIO/APR继续环境介绍 version:Apache Tomcat 8.5 操作系统:Mac OS X 10.14.5 JVM:1.8.0 测试数据场 ...
Tomcat三种模式及配置APR模式
为什么80%的码农都做不了架构师?>>> Tomcat三种模式 Tomcat Connector的三种不同的运行模式性能相差很大,有人测试过的结果如下: 这三种模式的不同之处如 ...

Tomcat的BIO、NIO、APR模式对比与性能测试结果

Tomcat的BIO、NIO、APR模式对比与性能测试结果相关推荐

最新文章

热门文章