nginx限制并发连接数和连接请求数
首先讲解两个算发:
算法思想是:
- 令牌以固定速率产生,并缓存到令牌桶中;
- 令牌桶放满时,多余的令牌被丢弃;
- 请求要消耗等比例的令牌才能被处理;
- 令牌不够时,请求被缓存。
--------------------------------------------------------------------------------------------------------------------------------------
漏桶算法:
算法思想是:
- 水(请求)从上方倒入水桶,从水桶下方流出(被处理);
- 来不及流出的水存在水桶中(缓冲),以固定速率流出;
- 水桶满后水溢出(丢弃)。
- 这个算法的核心是:缓存请求、匀速处理、多余的请求直接丢弃。
相比漏桶算法,令牌桶算法不同之处在于它不但有一只“桶”,还有个队列,这个桶是用来存放令牌的,队列才是用来存放请求的。
从作用上来说,漏桶和令牌桶算法最明显的区别就是是否允许突发流量(burst)的处理,漏桶算法能够强行限制数据的实时传输(处理)速率,对突发流量不做额外处理;而令牌桶算法能够在限制数据的平均传输速率的同时允许某种程度的突发传输。
Nginx按请求速率限速模块使用的是漏桶算法,即能够强行保证请求的实时处理速度不会超过设置的阈值。
------------------------------------------------------------------------------------------------------------------------------------
官方限制ip并发连接和请求有两个模块,不需要重新编译安装,nginx默认已经集成。
limit_req_zone : 限制请求数
limit_conn_zone :限制并发连接数
limit_req_zone 参数配置limit_req_zone $binary_remote_addr zone=one:10m rate=10r/s;
参数讲解:
$binary_remote_addr:远程的访问地址,此处以二进制的形式记录
zone:=one:10m :设置一个名字为one,大小为10M的缓存空间
rate=10r/s: 限制访问速率,此处设置为每秒接受10个请求(nging里是按ms及时的,此处为s)
limit_req zone=one burst=5 nodelay;
参数讲解:
zone=one:指定使用名字为one的这个缓存空间,若没有设置burst参数,结合上文,此处的配置表示为每秒接受请求10个
burst=5:因为我们的流量并不是向漏桶一样每时每刻都是匀速的,所以为了避免某一时刻出现大规模的流量出现,所以我们添加burst参数,此处配置表示为,设置一个大小为5的缓冲区,当有大量请求(爆发)过来时,访问超过了上面的限制可以先放到缓冲区内。
nodelay:一般是和burst一起使用的,如果设置了nodelay,当访问超过了频次而且缓冲区也满的情况下会直接返回503,如果设置了,则所有大的请求会等待排队。
limit_conn_log_level error; #定义当服务器由于limint被限制或缓存时,配置写入日志。延迟的记录比拒绝的记录低一个级别。例子:limit_req_log_level notice
延迟的的基本是info。
limit_conn_status 589; #当客户端配置得并发数超过了nginx限制的数量后会返回的状态值
limit_conn_zone $binary_remote_addr zone=one:10m;
limit_conn_zone $server_name zone=perserver:10m;
limit_req_zone $binary_remote_addr zone=allips:100m rate=20r/s;server {listen 8888;access_log /var/log/nginx/example_http.log;location /status {stub_status on;access_log off;allow 127.0.0.1;allow 10.0.17.27;allow 10.0.1.142;deny all;}location / {limit_conn one 5; #限制每个用户连接到服务器的数量limit_conn perserver 2000;#限制连接到服务器的总数limit_req zone=allips burst=200 nodelay;proxy_http_version 1.1;proxy_set_header Connection "";proxy_pass http://test;
#Proxy Settingsproxy_redirect off;proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;#proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-For $http_x_forwarded_for;proxy_next_upstream error timeout invalid_header http_500 http_502 http_503 http_504;proxy_ignore_client_abort on;proxy_max_temp_file_size 0;proxy_connect_timeout 90;proxy_send_timeout 90;proxy_read_timeout 90;proxy_buffer_size 4k;proxy_buffers 4 32k;proxy_busy_buffers_size 64k;proxy_temp_file_write_size 64k;}
}
总结与心得:
1.在设置完上面的参数后,使用jmeter进行压测时会发现,neginx的日志显示没秒的请求数永远是20(前段设置的rate是每秒处理20个),发现burst的参数并没有起作用,后来我把burst参数设置为2000,发现前几秒tps可以达到四五百,但是后面依旧恢复到20.并不向我想的一样,会一直超过20个tps运行先去,所以这个burst的时间也是有限制的, 并不是大流量下一直有用,所以在生产配置的时候一定要想好rate的参数值,因为burst只适用突发的以小段时间。
2.第二次我启用了两个客户端去压测,发现nginx的tps的值达到了40,因此得出结论,此处限制只是针对单个ip,并不是全局配置。两个客户端的压测时间我故意间隔了几分钟,发现出现了两次四五百的tps,后面一样回归到40tps不变。因此burst也是针对ip有限制的。
3,使用了ab进行压测,ab -n 40 -c 20 http://IP/index.html 发现我rate设置的值不管是多少永远只有一个是失败的,貌似rate没有起作用,是一个大坑。
root@in-yeerqianghe:/# ab -n 50 -c 20 http://10.0.18.128/index.html This is ApacheBench, Version 2.3 <$Revision: 1706008 $> Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/ Licensed to The Apache Software Foundation, http://www.apache.org/ Benchmarking 10.0.18.128 (be patient).....doneServer Software: nginx/1.12.2 Server Hostname: 10.0.18.128 Server Port: 80Document Path: /index.html Document Length: 14 bytesConcurrency Level: 20 Time taken for tests: 0.006 seconds Complete requests: 50 Failed requests: 49(Connect: 0, Receive: 0, Length: 49, Exceptions: 0) Non-2xx responses: 49 Total transferred: 36063 bytes HTML transferred: 26327 bytes Requests per second: 8579.27 [#/sec] (mean) Time per request: 2.331 [ms] (mean) Time per request: 0.117 [ms] (mean, across all concurrent requests) Transfer rate: 6042.86 [Kbytes/sec] receivedConnection Times (ms)min mean[+/-sd] median max Connect: 0 1 0.2 1 1 Processing: 1 1 0.5 1 2 Waiting: 1 1 0.5 1 2 Total: 1 2 0.3 2 3Percentage of the requests served within a certain time (ms)50% 266% 275% 280% 290% 395% 398% 399% 3100% 3 (longest request)
转载于:https://www.cnblogs.com/yangxiaochu/p/10637559.html
nginx限制并发连接数和连接请求数相关推荐
- 超过响应缓冲区限制_Nginx如何限制并发连接数和连接请求数?
全网最全1500份Java学习资料.500份BAT面试真题: 关注公众号,输入"面试题",获取提取码! 首先讲解两个算发: 算法思想是: 令牌以固定速率产生,并缓存到令牌桶中: 令 ...
- Linux下查看Nginx,tomcat等的并发连接数和连接状态
1.查看Web服务器(Nginx Apache)的并发请求数及其TCP连接状态: netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print ...
- 并发请求数_nginx如何限制并发连接和请求数?
简介 限制并发连接数的模块为:http_limit_conn_module,地址:http://nginx.org/en/docs/http/ngx_http_limit_conn_module.ht ...
- 查看 并发请求数及其TCP连接状态
服务器上的一些统计数据: 1)统计80端口连接数 netstat -nat|grep -i "80"|wc -l 2)统计httpd协议连接数 ps -ef|grep httpd| ...
- 查看Apache的并发请求数及其TCP连接状态
查看Apache的并发请求数及其TCP连接状态: Linux命令: netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a] ...
- 查看http的并发请求数及其TCP连接状态
统计80端口的连接数据 netstat -nat | grep -i "80" | wc -l 统计httpd协议连接数 ps -ef | grep httpd | wc -l 统 ...
- 查看Apache并发请求数及其TCP连接状态 --张宴
[ 2007-7-20 18:30 | by 张宴 ] [文章作者:张宴 本文版本:v1.1 最后修改:2007.07.27 转载请注明出处:http://blog.s135.com] 这两天 ...
- 查看httpd并发请求数及其TCP连接状态
服务器上的一些统计数据: 1)统计80端口连接数 netstat -nat|grep -i "80"|wc -l 2)统计httpd协议连接数 ps -ef|grep httpd| ...
- Nginx限制最大连接数、请求速率、下载速度
参数说明 $binary_remote_addr是同一客户端IP IP地址用二进制来储存客户端的地址,1m 可以储存 32000 个并发会话: $server_name是同一server最大并发数:( ...
- Nginx限制并发连接数和带宽
并发连接数-SBC(Simultaneous Browser Connections) 并发连接数指的是客户端向服务器发起请求,并建立了TCP连接.每秒钟服务器链接的总TCP数量,就是并发连接数. 请 ...
最新文章
- SQL Server误区30日谈-Day21-数据损坏可以通过重启SQL Server来修复
- 马斯克终结美国载人航天的“寄俄篱下”,SpaceX首次正式商业载人任务圆满成功...
- Spark你需要知道这些
- Python 学习笔记 -- 序列的基本使用
- ubifs linux,ubifs使用方法
- [WinError 127] 找不到指定的程序
- MyBatis3.x和Spring3.x的整合
- 浅谈SQL中存储过程和自定义函数的区
- 7-157 求一元二次方程的根 (20 分)
- SQL 语句(原生)
- 如何查看redhat社区的solution(或者订阅);redhat内容不全
- 大一c语言练习及答案,大一c语言习题练习及答案.doc
- 工具推荐-根据IP地址精确定位经纬度(永久免费)
- 华为技术专家深度解析Java线程状态
- Oracle DB audit
- 晶圆划片如何提高切割品质?陆芯半导体告诉你
- 计算机英语句子及译文,英语经典句子
- 1 人抵 1 万名黑客的阿里女守护神,私底下竟然是这个样子!
- Priest John's Busiest Day (2-sat)
- C# mschart 控件 框选 删除部分数据 及游标CursorX CursorY 使用
热门文章
- 创建maven工程时总是带有后缀名Maven Webapp解决办法
- mysql函数之二:left,right,substring,substring_index MySQL截取字符串函数方法
- MySQL5.6.10的安装
- ASP.NET之Response.Write说
- C#算法练习,求e,求π
- 在Eclipse中配置DOS(cmd)窗口
- Eclipse或者MyEclipse—在Eclipse或MyEclipse中的操作(2)
- 推荐一个 Java 实体映射工具 MapStruct 1
- 正确的理解MySQL的MVCC及实现原理
- 1.React学习笔记----基础模板创建+远程仓库建立