nginx配置长链接
1、更改nginx.conf配置文件,打开keepalive_requests,默认是100
keepalive_timeout 65;keepalive_requests 10000;
2、让Nginx和Server之间维持长连接,最朴素的设置如下
http {upstream backend {server 192.168.0.1:8080 weight=1 max_fails=2 fail_timeout=30s;server 192.168.0.2:8080 weight=1 max_fails=2 fail_timeout=30s;keepalive 300; // 这个很重要!连接池里面最大的空闲连接数量} location / {proxy_pass http://test-api;proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_set_header REMOTE-HOST $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_http_version 1.1; # 设置http版本为1.1proxy_set_header Connection ""; # 设置Connection为长连接(默认为no)}
具体解析如下
标题【场景描述】
HTTP1.1之后,HTTP协议支持持久连接,也就是长连接,优点在于在一个TCP连接上可以传送多个HTTP请求和响应,减少了建立和关闭连接的消耗和延迟。
如果我们使用了nginx去作为反向代理或者负载均衡,从客户端过来的长连接请求就会被转换成短连接发送给服务器端。
为了支持长连接,我们需要在nginx服务器上做一些配置。
·【要求】
使用nginx时,想要做到长连接,我们必须做到以下两点:
从client到nginx是长连接
从nginx到server是长连接
对于客户端而言,nginx其实扮演着server的角色,反之,之于server,nginx就是一个client。
【保持和 Client 的长连接】
我们要想做到Client与Nginx之间保持长连接,需要:
Client发送过来的请求携带"keep-alive"header。
Nginx设置支持keep-alive
标题【HTTP配置】
默认情况下,nginx已经开启了对client连接的 keepalive 支持。对于特殊场景,可以调整相关参数。
http {keepalive_timeout 120s; #客户端链接超时时间。为0的时候禁用长连接。
keepalive_requests 10000; #在一个长连接上可以服务的最大请求数目。#当达到最大请求数目且所有已有请求结束后,连接被关闭。#默认值为100
}
大多数情况下,keepalive_requests = 100也够用,但是对于 QPS 较高的场景,非常有必要加大这个参数,以避免出现大量连接被生成再抛弃的情况,减少TIME_WAIT。
QPS=10000 时,客户端每秒发送 10000 个请求 (通常建立有多个长连接),每个连接只能最多跑 100 次请求,意味着平均每秒钟就会有 100 个长连接因此被 nginx 关闭。
同样意味着为了保持 QPS,客户端不得不每秒中重新新建 100 个连接。
因此,如果用netstat命令看客户端机器,就会发现有大量的TIME_WAIT的socket连接 (即使此时keep alive已经在 Client 和 NGINX 之间生效)。
标题【保持和Server的长连接】
想让Nginx和Server之间维持长连接,最朴素的设置如下:
http {upstream backend {server 192.168.0.1:8080 weight=1 max_fails=2 fail_timeout=30s;server 192.168.0.2:8080 weight=1 max_fails=2 fail_timeout=30s;keepalive 300; // 这个很重要!} server {listen 8080 default_server;server_name ""; location / {proxy_pass http://backend;proxy_http_version 1.1; # 设置http版本为1.1proxy_set_header Connection ""; # 设置Connection为长连接(默认为no)}}
}
标题【upstream配置】
upstream中,有一个参数特别的重要,就是keepalive。
这个参数和之前http里面的 keepalive_timeout 不一样。
这个参数的含义是,连接池里面最大的空闲连接数量。
不理解?没关系,我们来举个例子:
场景:
有一个HTTP服务,作为upstream服务器接收请求,响应时间为100毫秒。
要求性能达到10000 QPS,我们需要在nginx与upstream服务器之间建立大概1000条HTTP请求。(1000/0.1s=10000)
最优情况:
假设请求非常的均匀平稳,每一个请求都是100ms,请求结束会被马上放入连接池并置为idle(空闲)状态。
我们以0.1s为单位:
- 我们现在keepalive的值设置为10,每0.1s钟有1000个连接
- 第0.1s的时候,我们一共有1000个请求收到并释放
- 第0.2s的时候,我们又来了1000个请求,在0.2s结束的时候释放
请求和应答都比较均匀,0.1s释放的连接正好够用,不需要建立新连接,且连接池中没有idle状态的连接。
第一种情况:
应答非常平稳,但是请求不平稳的时候
- 第0.3s的时候,我们只有500个请求收到,有500个请求因为网络延迟等原因没有进来
这个时候,Nginx检测到连接池中有500个idle状态的连接,就直接关闭了(500-10)个连接 - 第0.4s的时候,我们收到了1500个请求,但是现在池里面只有(500+10)个连接,所以Nginx不得不重新建立了(1500-510)个连接。
如果在第4步的时候,没有关闭那490个连接的话,只需要重新建立500个连接。
第二种情况:
请求非常平稳,但是应答不平稳的时候
- 第0.3s的时候,我们一共有1500个请求收到
但是池里面只有1000个连接,这个时候,Nginx又创建了500个连接,一共1500个连接 - 第0.3s的时候,第0.3s的连接全部被释放,我们收到了500个请求
Nginx检测到池里面有1000个idle状态的连接,所以不得不释放了(1000-10)个连接
造成连接数量反复震荡的一个推手,就是这个keepalive 这个最大空闲连接数。
上面的两种情况说的都是 keepalive 设置的不合理导致Nginx有多次释放与创建连接的过程,造成资源浪费。
keepalive 这个参数设置一定要小心,尤其是对于 QPS 要求比较高或者网络环境不稳定的场景,一般根据 QPS 值和 平均响应时间能大致推算出需要的长连接数量。
然后将keepalive设置为长连接数量的10%到30%。
标题【location配置】
http {server {location / {proxy_pass http://backend;proxy_http_version 1.1; # 设置http版本为1.1proxy_set_header Connection ""; # 设置Connection为长连接(默认为no)}}
}
HTTP 协议中对长连接的支持是从 1.1 版本之后才有的,因此最好通过 proxy_http_version 指令设置为 1.1。
HTTP1.0不支持keepalive特性,当没有使用HTTP1.1的时候,后端服务会返回101错误,然后断开连接。
而 “Connection” header 可以选择被清理,这样即便是 Client 和 Nginx 之间是短连接,Nginx 和 upstream 之间也是可以开启长连接的。
【另外一种高级方式】
http {map $http_upgrade $connection_upgrade {default upgrade;
'' close;
} upstream backend {server 192.168.0.1:8080 weight=1 max_fails=2 fail_timeout=30s;server 192.168.0.2:8080 weight=1 max_fails=2 fail_timeout=30s;keepalive 300;
} server {listen 8080 default_server;
server_name "";location / {proxy_pass http://backend;proxy_connect_timeout 15; #与upstream server的连接超时时间(没有单位,最大不可以超过75s)proxy_read_timeout 60s; #nginx会等待多长时间来获得请求的响应proxy_send_timeout 12s; #发送请求给upstream服务器的超时时间 proxy_http_version 1.1;proxy_set_header Upgrade $http_upgrade;proxy_set_header Connection $connection_upgrade;
}
}
}
http里面的map的作用是:
让转发到代理服务器的 “Connection” 头字段的值,取决于客户端请求头的 “Upgrade” 字段值。
如果 $http_upgrade没有匹配,那 “Connection” 头字段的值会是upgrade。
如果 $http_upgrade为空字符串的话,那 “Connection” 头字段的值会是 close。
标题【补充】
NGINX支持WebSocket。
对于NGINX将升级请求从客户端发送到后台服务器,必须明确设置Upgrade和Connection标题。
这也算是上面情况所非常常用的场景。
HTTP的Upgrade协议头机制用于将连接从HTTP连接升级到WebSocket连接,Upgrade机制使用了Upgrade协议头和Connection协议头。
为了让Nginx可以将来自客户端的Upgrade请求发送到后端服务器,Upgrade和Connection的头信息必须被显式的设置。
标题【注意】
在nginx的配置文件中,如果当前模块中没有proxy_set_header的设置,则会从上级别继承配置。
继承顺序为:http, server, location。
如果在下一层使用proxy_set_header修改了header的值,则所有的header值都可能会发生变化,之前继承的所有配置将会被丢弃。
所以,尽量在同一个地方进行proxy_set_header,否则可能会有别的问题。
nginx配置长链接相关推荐
- nginx配置长连接
2019独角兽企业重金招聘Python工程师标准>>> http {keepalive_timeout 20; --长连接timeoutkeepalive_requests 8192 ...
- Nginx配置与上游服务器的长链接
可以通过keep-alive指令配置长链接数量 upstream backend{server 192.168.61.1:9080 weight=1;server 192.168.61.1:9090 ...
- nginx配置转发时,提示no Route matched with those values
近期,在使用nginx配置转发链接时,出现提示:no Route matched with those values.服务器这边用的时KONG网关. 问题原因: 配置带kong 服务的转发不能带 ho ...
- nginx配置判断是pc端还是移动端并进行对应的链接跳转
有时候一个项目分别做了pc端和h5端 需要在pc端打开h5的链接时(反之也是一样 )自动跳转到相应的链接 我们尝试过在前端项目中进行判断 但是会有一瞬间是先打开原链接的内容再进行对应的跳转 用户体验不 ...
- 宝塔Nginx配置Mediawiki短链接
参考Mediawiki官网的这个页面:https://www.mediawiki.org/wiki/Manual:Short_URL/Page_title_-_nginx,_Root_Access,_ ...
- nginx配置参数详解
PS:Nginx使用有两三年了,现在经常碰到有新用户问一些很基本的问题,我也没时间一一回答,今天下午花了点时间,结合自己的使用经验,把Nginx的主要配置参数说明分享一下,也参考了一些网络的内容,这篇 ...
- php+php-fom+nginx配置参数调优详解
文章目录 一.前言 1.mysql配置参数: 2.注意 二.php参数配置及讲解 1.phpini的基本设置 2.php参数设置 三.php-fpm设置 1.设置子进程数,增加并发量 2.防止频繁出现 ...
- LNMP(Nginx负载均衡,SSL原理,Nginx配置SSL,生产SSL密钥对)
一.Nginx负载均衡 负载均衡:单从字面上的意思来理解就可以解释N台服务器平均分担负载,不会因为某台服务器负载高宕机而某台服务器闲置的情况.那么负载均衡的前提就是要有多台服务器才能实现,也就是两台以 ...
- nginx location 匹配 多个规则_你需要知道的Nginx配置二三事
Nginx是俄罗斯人Igor Sysoev基于C语言编写的十分轻量级的HTTP服务器,它主要有以下特点: 它是一个高性能的HTTP和反向代理服务器,同时也是一个IMAP/POP3/SMTP 代理服务器 ...
- apache 反向代理_通过 Apache 与 Nginx 配置 AJP 配置反向代理
↑ 点击上面 "时代Java"关注我们, 关注新技术,学习新知识! 前言 目前,随着公有云的出现,一些大型的服务提供商将很多的基础服务以公有云的形式发布出来,而企业则可以使用这些基 ...
最新文章
- MATLAB_9-模式识别笔记
- IOS--设计更丰富的界面
- VC6解决托盘菜单不消失
- mysql 导入json_JsonToMysql(json导入mysql数据库工具)
- python中的wx_配置 Python的wxWidgets可视开发环境 | 学步园
- keil和proteus的联调设置
- J - Fill (UVA - 10603)
- 卢伟冰晒红米Note 7Pro拍月亮样张 有无外设差别巨大
- oracle入门语,Oracle SQL 语言从入门到精通
- mysql循环建表_MySQL循环建表和结合两表的update
- scalar2color
- 平台的本质——保险公司互联网平台建设系列
- csv+jenkins+ant测试接口
- 研究预测2022年全球VoLTE市场规模达348亿美元
- Oracle 11g RAC oc4j/gsd Offline
- 15个简单的JS编码标准让你的代码更整洁
- Vue动态加载组件的两类方式(import和require)
- 【软件资源】VS2013软件安装全教程!(附VS各版本下载地址)
- 插画手绘培训,“安利25周年”插画主题创作:畅游RichJay的创业之旅!【信念篇】
- MarkDown编辑器----小书匠
热门文章
- Win7去掉/恢复快捷方式箭头
- sql面试题 查询学过“叶平”老师所教的所有课的同学的学号
- 基于SSM实现的儿童疫苗信息管理系统设计与实现毕业设计源码311930
- 建立主DNS区域和辅助DNS区域的最佳实践
- 数列求和-加强版(C语言)
- linux mono安装,Linux下Nginx + mono安装与配置
- 18个最好的代码编辑器/IDE工具
- 网页游戏外挂的设计与编写:QQ摩天大楼【二】(登陆准备-信息处理方式)
- 设计一个灵活、通用、方便的权限管理系统
- 久邦GOMO总裁朱志在2018校招生交流会分享