WebSocket轻松单台服务器5w并发jmeter实测
测试结论
- nginx最多只能维持(65535*后端服务器IP个数)条websocket的长连接,如果后端websocket服务器IP只有一个,那么就只能最多支持65535条连接。瓶颈就产生在了nginx上
- 建议采用LVS的DR模式来做负载均衡,这样最大长连接数目就只和websocket服务器资源(主要是内存)有关了,单台websocket服务器很轻松可以支撑百万级连接
websocket 相关配置
<Connector port="9999" protocol="org.apache.coyote.http11.Http11NioProtocol" connectionTimeout="20000" acceptCount="150000"maxThreads="2000" maxConnections="150000" enableLookups="false" redirectPort="8443" />
复制代码
connectionTimeout——默认设置为20秒。通过修改该参数,可以修改tomcat的请求超时时间
acceptCount——当tomcat的线程数达到maxThreads后,新的请求就会排队等待,超过排队数的请求会被拒绝,acceptCount最好大于等于maxThreads
maxThreads:
(1)、部署的程序偏计算型,主要利用cpu资源,应该将该参数设置小一点,减小同一时间抢占cpu资源的线程个数。 (2)、部署的程序对io、数据库占用时间较长,线程处于等待的时间较长,应该将该参数调大一点,增加处理个数。
maxConnections——这个值表示最多可以有多少个socket连接到tomcat上。NIO模式下默认是10000
enableLookups——为了消除DNS查询对性能的影响我们可以关闭DNS查
Nginx
location ^~ /wnhz/websocket/ {proxy_connect_timeout 60s;——该指令设置与upstream server的连接超时时间,有必要记住,这个超时不能超过75秒proxy_read_timeout 3600s;——该指令设置与代理服务器的读超时时间。它决定了nginx会等待多长时间来获得请求的响应。这个时间不是获得整个response的时间,而是两次reading操作的时间proxy_send_timeout 60s; ——这个指定设置了发送请求给upstream服务器的超时时间。超时设置不是为了整个发送期间,而是在两次write操作期间。如果超时后,upstream没有收到新的数据,nginx会关闭连接proxy_http_version 1.1;——支持websocketproxy_set_header Upgrade $http_upgrade;proxy_set_header Connection "upgrade";proxy_set_header Host $host;proxy_pass http://test/websocket/;}--------------------- 官方配置--------------------------------------location /chat/ {proxy_pass http://backend;proxy_http_version 1.1;proxy_set_header Upgrade $http_upgrade;proxy_set_header Connection "upgrade";
}
复制代码
用nginx做websocket的反向代理资源瓶颈原理
- 内存(相关数据结构的存储)、cpu、网络
内存的占用分两部分,一部分是内核中tcp协议栈结构占用的内存,一部分是nginx中维持双向连接数据结构占用的内存按照理想状况,一条tcp连接的数据结构在内存中占用大约4KB左右,nginx的内存占用,没有统计相关的结构体,这里就等于2KB(nginx的内存利用非常高效,有内存池)对于现在的服务器来说内存、cpu、网络都不会是瓶颈,因此这里不做讨论
复制代码
- 文件描述符数量
可能需要调整内核参数,文件描述符的数量其实也是和内存相关的,因为每打开一个tcp连接,就得占用一个文件描述符。内核参数:fs.file-max这是和系统资源相关的,也不会是瓶颈
复制代码
- 端口号数量
内核参数为:net.ipv4.ip_local_port_range,且最大值为65535linux内核是通过{local_ip, local_port, remote_ip, remote_port}这个四元组来标识一条唯一的tcp连接的。1)对于websocket服务器自身而言,local_ip, local_port是确定的,在内存、cpu足够的情况下,其可以支撑 (client_ip数量*2^16)条连接。也就是说只要服务器资源足够,一定不会是瓶颈。2)对于nginx服务器来说,local_ip, local_port也是确定的,不同的是,它还要作为client去连接websocket服务器,这是要占用一个端口的。因此,nginx能支撑的websocket连接数最大为:(代理的websocket服务器IP数量*2^16),如果只有一个websocket服务器IP,那么就只有65536,去掉0端口,就只有65535.
复制代码
Linux测试5wWebSocket连接
百度介绍相关可自行测试。
WebSocket轻松单台服务器5w并发jmeter实测相关推荐
- 【 Linux 】单台服务器上并发TCP连接数(转)
单台服务器上并发TCP连接数 问题:一台服务器到底能够支持多少TCP并发连接呢? 1. 文件描述符限制: 对于服务器来说,每一个TCP连接都要占用一个文件描述符,一旦文件描述符使用完 ...
- 网络编程释疑之:单台服务器上的并发TCP连接数可以有多少
曾几何时我们还在寻求网络编程中C10K问题的解决方案,但是现在从硬件和操作系统支持来看单台服务器支持上万并发连接已经没有多少挑战性了. 我们先假设单台服务器最多只能支持万级并发连接,其实对绝大多数应用 ...
- 面试官给我挖坑:单台服务器并发TCP连接数到底可以有多少 ?
点击上方"朱小厮的博客",选择"设为星标" 后台回复"k8s"领取阿里云<深入浅出k8s.pdf> 欢迎跳转到本文的原文链接:h ...
- 高性能网络编程(一):单台服务器并发TCP连接数到底可以有多少
前言 曾几何时我们还在寻求网络编程中C10K问题(有关C10K问题请见文章<The C10K problem(英文在线阅读.英文PDF版下载.中文译文)>)的解决方案,但是现在从硬件和操作 ...
- 如何扩容单台服务器的存储容量?
作者个人研发的在高并发场景下,提供的简单.稳定.可扩展的延迟消息队列框架,具有精准的定时任务和延迟队列处理功能.自开源半年多以来,已成功为十几家中小型企业提供了精准定时调度方案,经受住了生产环境的考验 ...
- SCOM 2012系列⑨单台服务器拓扑监控
为了更直观的展示出我们的服务器健康状况与各应用程序的运行状况,我们看图说话总是最直观有效的,所以我们就把服务器的各组件情况分成拓扑图似的模样给我们直观展示出来吧: 1 单台服务器拓扑图监控 首先打开& ...
- 渗透测试流程(单台服务器)
渗透测试流程(单台服务器) 转载于:https://www.cnblogs.com/sky--/p/5781432.html
- 进阶!基于CentOS7系统使用cobbler实现单台服务器批量自动化安装不同版本系统(week3_day5_part2)-技术流ken...
前言 在上一篇博文<cobbler批量安装系统使用详解-技术流ken>中已经详细讲解了cobbler的使用以及安装,本篇博文将会使用单台cobbler实现自动化批量安装不同版本的操作系统. ...
- tomcat如何增大并发_tomcat最大线程数,单台tomcat最大并发量
tomcat最大线程数,单台tomcat最大并发量,tomcat最大线程数的设置 Connector port="8080" maxThreads="150" ...
最新文章
- 个人微信公众号已开通,欢迎各位小伙伴关注
- 学了网络安全以后能做哪些岗位呢?来来来,带你们了解
- KVM虚拟机相关步骤
- php邮件代码c语言,C语言实现邮件发送功能(SMTP)源码
- 前端学习(2035)vue之电商管理系统电商系统之形成折线图
- python周志_Python几周学习内容小结
- lambda方法引用总结——烧脑吃透
- 在Windows下安装和配置Node.js环境v8.11.3与遇到的问题
- 多家航空巨头遭大规模供应链攻击
- HDU2572 终曲【字符串匹配】
- linux 软路由_软路由和硬路由的区别分析
- Java EE API
- kmemleak的使用
- c语言 printf 输出 long 整型
- android 电视 竖屏 黑边 -平板,竖视频转换成横视频,要求画面满屏不变形及没有黑边(解决方案)...
- mac教程:重置苹果Mac上的NVRAM或PRAM?
- 2020校园招聘公司列表!计算机/互联网 技术类岗位!,一直更新!
- 米 html像素转换,字体磅、像素、厘米转换
- mysql中计算百分比
- Unity用户手册2019.3(中文版)1.3.1 常见资源类型
热门文章
- Qt下Tcp通信的简单使用三
- C语言 数组排序 – 插入法排序 - C语言零基础入门教程
- java jackson 注解,java – 如何使用Jackson注释序列化此JSON?
- nvme固态硬盘开机慢_为何我使用了固态硬盘开机速度还是需要20-30秒
- qc成果报告范例_质量引领创新 扬子江勇夺医药行业QC“十五连冠”
- php生成10万个字符串,有什么好的方法可以生成十万条不重复的13位纯数字字符串...
- java 线程 函数_java – 从后台线程调用主线程上的函数
- 安装python时需要勾选_一体化污水处理设备安装时需要注意事项
- java 集合modcount_源码|jdk源码之LinkedList与modCount字段
- ps怎么更改背景图层大小_PhotoShop处理图层的一些技巧方法、PS图层处理教程