服务器系统怎么做高并发,QPS 高并发 如何设计一个支撑高并发大流量的系统?...
QPS 高并发 如何设计一个支撑高并发大流量的系统?
高并发架构相关概念
什么是并发?
并发是指并发的访问,也就是某个时间点,有多少个访问同时到来;
通常如果一个系统的日PV在千万以上,有可能是一个高并发的系统,这里需要注意的是:只是有可能是一个高并发的系统,不一定是一个高并发的系统。
并发数和QPS是不同的概念,一般说QPS会说多少并发用户下QPS,当QPS相同时,并发用户数越大,网站并发处理能力越好。当并发用户数过大时,会造成进程(线程)频繁切换,反正真正用于处理请求的时间变少,每秒能够处理的请求数反而变少,同时用户的请求等待时间也会变大。 找到最佳线程数能够让web系统更稳定,效率更高。
并发数 = QPS*平均响应时间
高并发具体关心什么?
QPS: 每秒请求或查询的数量,在互联网领域,指每秒响应请求数;
吞吐量: 单位时间内处理的请求量(通常由QPS与并发数决定);
响应时间: 从请求发出到收到响应花费的时间,例如一个系统处理一个HTTP请求需要100ms,这个100ms就是系统的响应时间;
PV: 综合浏览量,即页面浏览量或者点击量,一个访客在24小时内访问的页面数量;
UV: 独立访客 ,即一定时间范围内相同访客多次访问网站,只计算为一个独立的访客;
带宽: 计算带宽大小需要关注两个指标,峰值流量和页面的平均大小 ;
日网站带宽可以使用下面的公式来粗略计算:
日网站带宽=pv/统计时间(换算到秒)*平均页面大小(单位kB)*8
峰值一般是平均值的倍数;
QPS不等于并发连接数,QPS是每秒HTTP请求数量,并发连接数是系统同时处理的请求数量;
峰值每秒请求数(QPS) = (总PV数 * 80%) /(6小时秒数 * 20%)
压力测试: 测试能承受的最大并发,测试最大承受的QPS值。
测试工具(ab): 目标是URL,可以创建多个访问线程对同一个URL进行访问(Nginx);
ab的使用: 模拟并发请求100次(100个人),总共请求5000次(每个人请求5000次)
ab -c 100 -n 5000 待测试网站(内存和网络不超过最高限度的75%)
QPS达到50: 一般的服务器就可以应付;
QPS达到100: 假设关系型数据库的每次请求在0.01秒完成(理想),假设单页面只有一个SQL查询,那么100QPS意味着1秒中完成100次请求,但此时我们不能保证数据库查询能完成100次;
方案:数据库缓存层、数据库的负载均衡;
QPS达到800: 假设我们使用 百兆宽带,意味着网站出口的实际带宽是8M左右,假设每个页面是有10k,在这个并发的条件下,百兆带宽已经被吃完;
方案:CDN加速、负载均衡
QPS达到1000: 假设使用Redis缓存数据库查询数据,每个页面对Redis请求远大于直接对DB的请求;
Redis的悲观并发数在5W左右,但有可能之前内网带宽已经被吃光,表现出不稳定;
方案:静态HTML缓存
QPS达到2000: 文件系统访问锁都成为了灾难;
方案:做业务分离,分布式存储;
高并发解决方案案例
流量优化: 防盗链处理(把一些恶意的请求拒之门外)
前端优化: 减少HTTP请求、添加异步请求、启用浏览器的缓存和文件压缩、CDN加速、建立独立的图片服务器;
服务端优化: 页面静态化处理、并发处理、队列处理;
数据库优化: 数据库的缓存、分库分表、分区操作、读写分离、负载均衡
Web服务器优化: 负载均衡
高并发下的经验公式
通过QPS和PV计算部署服务器的台数
单台服务器每天PV计算
公式1:每天总PV = QPS * 3600 * 6
公式2:每天总PV = QPS * 3600 * 8
服务器计算
服务器数量 = ceil( 每天总PV / 单台服务器每天总PV )
峰值QPS和机器计算公式
原理: 每天80%的访问集中在20%的时间里,这20%时间叫做峰值时间
公式: ( 总PV数 * 80% ) / ( 每天秒数 * 20% ) = 峰值时间每秒请求数(QPS)
机器: 峰值时间每秒QPS / 单台机器的QPS = 需要的机器。
服务器系统怎么做高并发,QPS 高并发 如何设计一个支撑高并发大流量的系统?...相关推荐
- 如何设计一个能够扩展到百万用户的系统?
作者 | Trung Anh Dang 译者 | 弯月 出品 | CSDN(ID:CSDNnews) 设计一个能够支持数亿用户的系统并非易事,对软件架构师来说是一个很大的挑战. 以下是本文涵盖的一些主 ...
- Java设计一个简化的教师年终业绩考核系统
利用JAVA设计一个简化的教师年终业绩考核系统 /* 该系统包括一个接口和三个类:一个接口Calculateable具有一个抽象方法getGrade(), 用于根据职工的工作量分数计算职工的业绩等级数 ...
- 阿里面试官:高并发大流量秒杀系统如何正确的解决库存超卖问题?(建议收藏)
大家好,我是冰河~~ 在[精通高并发系列]的<实践出真知:全网最强秒杀系统架构解密!!>一文中,冰河详细的阐述了高并发秒杀系统的架构设计,也简单提到了如何扣减商品的库存. 也许不少小伙伴会 ...
- 如何设计一个亿级消息量的 IM 系统
来源:https://xie.infoq.cn/article/19e95a78e2f5389588debfb1c IM核心概念 用户 :系统的使用者 消息 :是指用户之间的沟通内容.通常在IM系统中 ...
- 今日推荐:如何设计一个支撑数亿用户的系统
点击上方"朱小厮的博客",选择"设为星标" 后台回复"书",获取 后台回复"k8s",可领取k8s资料 要设计出一套能支 ...
- 如何设计一个支持1亿用户使用的系统
高可用架构设计最核心的就是两点:解耦和冗余.解耦包括业务状态分离(无状态架构设计).分库分表等.冗余包括缓存.CDN.主从备份.主主备份.GeoDNS 等.一个好的架构设计需要在产品迭代的不同阶段选择 ...
- 如何设计一个支撑数亿用户的系统
欢迎关注方志朋的博客,回复"666"获面试宝典 要设计出一套能支撑几十亿人的系统是很困难的.对于软件架构师来说,这一直是一项很大的挑战,但是,从现在开始,看完我的文章,你就会觉得容 ...
- 设计一个简单分页存储管理系统_【系统架构】如何设计一个简单灵活的收银系统?看这里!(1)...
在电商项目中,收银系统是一个不可或缺的功能,因为你不仅要通过它来进行收款.退款,而且也要通过它进行财务的对账.报税等.因此,如何设计一个简单灵活的收银系统,对于开发电商项目来说非常重要. 那如何设计一 ...
- 设计一个百万级的消息推送系统
2019独角兽企业重金招聘Python工程师标准>>> 前言 首先迟到的祝大家中秋快乐. 最近一周多没有更新了.其实我一直想憋一个大招,分享一些大家感兴趣的干货. 鉴于最近我个人的工 ...
最新文章
- springboot-mysql-pagehelper分页插件集成
- aop切面排除某个类_AOP 你看这一篇就够了
- Python2爬虫学习系列教程
- 少有人走过的路:分析-策略-产品
- 查看服务器cpu是否支持VT
- java 数据库数据写接口_Java读取接口数据并保存到数据库
- 《第3选择》学习笔记
- 我们需要StringBuffer么?
- VMware linux 克隆机的配置
- Sql 行转列问题总结
- sqlserver查询补全时间_mssql 按日期分组(group by)查询统计的时候,没有数据补0的解决办法...
- 90后程序员健康现状:掉头发、油腻、腰椎间盘突出……
- javascript中的||运算符
- c语言控制安卓桌面,让你自己编写的Android的Launcher成为系统中第一个启动应用程序,也是唯一的Launcher...
- 2021年下半年系统集成项目管理工程师下午真题及答案解析
- 求解:OPENWRT v21.02固件使用rtl8153b,链路不通?
- FPGA 20个例程篇:12.千兆网口实现MDIO接口读写
- CCF-CSP刷题网站推荐(含100分答案)
- 生活中的逻辑谬误02.稻草人谬误
- 计算机与单片机串口程序,51单片机与电脑串口通信,并用数码管显示的两种方法...
热门文章
- 一种增强的md5加密算法
- poto——剧院魅影——phantom of the opera
- enum枚举类型的范例
- HDU - 6464 免费送气球(线段树二分)
- 【转载】用平常语言介绍神经网络
- 怎样在javascript中直接设置好打印方式为横向或纵向(測試未果)
- MapBar和MapInfo中的比例尺[更新:MapBar比例尺是正确的]
- 算法(一):二分查找法
- C++_结构体的定义和使用_结构体数组---C++语言工作笔记025
- 大数据之-Hadoop之HDFS的API操作_文件上传---大数据之hadoop工作笔记0056