每秒处理请求数和并发的关系

设平均响应时间为t(单位为毫秒), 并发量为c，每秒处理请求数为q，则：
q = (1000/t) * c
就是这个关系；
想要升高q，就只有两条路：1) 降低t 2) 升高c
对于'1', 只能靠优化代码实现，只能尽量做，往往提升有限；
对于'2', 通常c与你服务器程序的请求处理模型有关，如果你服务器程序是“一个线程对应一个请求”的模式，那么c的最大值就受制于你能支撑多少个线程；如果是“一个进程对应一个请求”的模式，那么c的最大值则受制于最大进程数；

在升高c的过程中，不得不注意的一点是，线程/进程数越多，上下文切换、线程/进程调度开销会增大，这会显著间接地增大t的值从而不能让q跟着c的值等比升高, 所以一味增大c通常也不会有好结果，最合适的c值应该根据实测试验得出

另外，还有一种特殊情况：若业务决定了该服务器提供的服务具有“小数据量、较长返回时间”的特征，即这是一个不忙、但很慢的业务类型，那么可以采用NIO模式提供服务，比如nginx默认就采用nio模式；
在这种模式下，c值不再与线程/进程数相关，而仅仅与“socket连接数”相关，通常“socket连接数”可以非常大，在经过特殊配置的linux服务器上，可以同时支撑百万级别的socket连接数，在这种情况下c可以达到100w;
在如此高的c值之下，就算t再大，也可以支撑出一个很高的q，同时真正的线程/进程数可以只开到跟cpu核数一致，以求最大化cpu利用率;
当然这一切的前提是该业务具有“小数据量、较长返回时间”的特征

并发量是当前保持的连接数

netstat -ntp | grep -i "6661" | wc -l
(No info could be read for "-p": geteuid()=512 but you should be root.)
89

转载于:https://www.cnblogs.com/austinspark-jessylu/p/9414464.html

每秒处理请求数和并发的关系相关推荐

java 每秒处理1000个请求_每秒处理请求数和并发是一个概念吗？
不是同一个概念,但它们之间有联系: 设平均响应时间为t(单位为毫秒), 并发量为c,每秒处理请求数为q,则: q = (1000/t) * c 就是这个关系: 想要升高q,就只有两条路:1) 降低t ...
超过响应缓冲区限制_Nginx如何限制并发连接数和连接请求数？
全网最全1500份Java学习资料.500份BAT面试真题: 关注公众号,输入"面试题",获取提取码! 首先讲解两个算发: 算法思想是: 令牌以固定速率产生,并缓存到令牌桶中: 令 ...
jmeter最大请求数_jmeter支持的最大线程数
How many threads does JMeter support? jmeter支持多少线程数转载请注明出处:雨剑电脑 http://www.expert58.com This depend ...
神经网络学习小记录72——Parameters参数量、FLOPs浮点运算次数、FPS每秒传输帧数等计算量衡量指标解析
神经网络学习小记录72--Parameters参数量.FLOPs浮点运算次数.FPS每秒传输帧数等计算量衡量指标解析学习前言网络的运算时组成我们要关注网络的什么指标 1.Parameters参数 ...
查看并发请求数及其TCP连接状态
服务器上的一些统计数据: 1)统计80端口连接数 netstat -nat|grep -i "80"|wc -l 2)统计httpd协议连接数 ps -ef|grep httpd| ...
并发请求数_nginx如何限制并发连接和请求数？
简介限制并发连接数的模块为:http_limit_conn_module,地址:http://nginx.org/en/docs/http/ngx_http_limit_conn_module.ht ...
和浏览器并发请求数有关的一些前端技术
节选自 http://www.zhihu.com/question/20474326 前端技术的逐渐成熟,衍生了domain hash, cookie free, css sprites, js/cs ...
浏览器同域名请求的最大并发数限制
当我们在浏览网页的时候,对浏览速度有一个重要的影响因素,就是浏览器的并发数量.并发数量简单通俗的讲就是,当浏览器网页的时候同时工作的进行数量. 如果同时只有2个并发连接数数量,那网页打开的时候只能依赖 ...
jmeter最大请求数_jmeter 测试某网页最大并发用户数；
在jmeter中,提到m并发,你可能马上想到线程数设置为m: 调节服务器压力的是rps,即每秒请求数:rps由线程数,循环次数,ramp-up time调节: 问题: 有一个页面,需要测试一下最大支持 ...

每秒处理请求数和并发的关系

每秒处理请求数和并发的关系相关推荐

最新文章

热门文章