目录

  • 概述
  • 最简单的系统架构
  • 负载均衡+分库分表 + 读写分离系统架构
  • 负载均衡+分库分表 + 读写分离+缓存集群系统架构
  • 负载均衡+分库分表 + 读写分离+缓存集群+消息中间件集群系统架构
  • php7进阶到架构师相关阅读

概述

这是关于php进阶到架构之高并发实战学习的第篇文章:系统如何支撑高并发

  • 第一篇:系统如何支撑高并发

最简单的系统架构

你的系统就部署在一台机器上,背后连接了一台数据库,数据库部署在一台服务器上。

举个例子,你的系统部署的机器是 4 核 8G,数据库服务器是 16 核 32G。

假设你的系统用户量总共10 万,日活用户按照不同系统的场景有区别,我们取一个较为客观的比例,10% ,每天活跃的用户就 1 万。

按照 28 法则,每天高峰期算它 4 个小时,高峰期活跃的用户占比达到 80%,就是 8000 人活跃在 4 小时内。

然后每个人对你的系统发起的请求,我们算他每天是 20 次。那么高峰期 8000 人发起的请求也才 16 万次,平均到 4 小时内的每秒(14400 秒),每秒也就 10 次请求。

好吧!完全跟高并发搭不上边,对不对?

然后系统层面每秒是 10 次请求,对数据库的调用每次请求都会有好几次数据库操作的,比如做做 crud 之类的。

那么我们取一个一次请求对应 3 次数据库请求吧,那这样的话,数据库层每秒也就 30 次请求,对不对?按照这台数据库服务器的配置,支撑是绝对没问题的。上述描述的系统,用一张图表示,就是下面这样:

最简单的系统架构

负载均衡+分库分表 + 读写分离系统架构

假设此时用户量继续增长,达到了 1000 万注册用户,然后每天日活用户是 100 万。

那么此时对系统层面的请求量会达到每秒 1000/s,系统层面,你可以继续通过集群化的方式来扩容,反正前面的负载均衡层会均匀分散流量过去的。

但是,这时数据库层面接受的请求量会达到 3000/s,这个就有点问题了。

此时数据库层面的并发请求翻了100倍,你一定会发现线上的数据库负载越来越高。

每次到了高峰期,磁盘 IO、网络 IO、内存消耗、CPU 负载的压力都会很高,很担心数据库服务器能否抗住。

没错,一般来说,对那种普通配置的线上数据库,建议就是读写并发加起来,按照上述我们举例的那个配置,不要超过 3000/s。

因为数据库压力过大,首先一个问题就是高峰期系统性能可能会降低,因为数据库负载过高对性能会有影响。

另外一个,压力过大把你的数据库给搞挂了怎么办?

所以此时你必须得对系统做分库分表 + 读写分离,也就是把一个库拆分为多个库,部署在多个数据库服务上,这是作为主库承载写入请求的。

然后每个主库都挂载至少一个从库,由从库来承载读请求。

此时假设对数据库层面的读写并发是 3000/s,其中写并发展到了 1000/s,读并发展到了 2000/s。

那么一旦分库分表之后,采用两台数据库服务器上部署主库来支撑写请求,每台服务器承载的写并发就是 500/s。

每台主库挂载一个服务器部署从库,那么 2 个从库每个从库支撑的读并发就是 1000/s。

简单总结,并发量继续增长时,我们就需要 聚焦在数据库层面:分库分表、读写分离。此时架构图如下:

负载均衡+分库分表 + 读写分离系统架构图

负载均衡+分库分表 + 读写分离+缓存集群系统架构

接着就好办了,如果你的注册用户量越来越大,此时你可以不停的加机器,比如说系统层面不停加机器,就可以承载更高的并发请求。

然后数据库层面如果写入并发越来越高,就扩容加数据库服务器,通过分库分表是可以支持扩容机器的,如果数据库层面的读并发越来越高,就扩容加更多的从库。

但是这里有一个很大的问题:数据库其实本身不是用来承载高并发请求的,所以通常来说,数据库单机每秒承载的并发就在几千的数量级,而且数据库使用的机器都是比较高配置,比较昂贵的机器,成本很高。

如果你就是简单的不停的加机器,其实是不对的。

所以在高并发架构里通常都有缓存这个环节,缓存系统的设计就是为了承载高并发而生

所以单机承载的并发量都在每秒几万,甚至每秒数十万,对高并发的承载能力比数据库系统要高出一到两个数量级。

所以你完全可以根据系统的业务特性,对那种写少读多的请求,引入缓存集群

具体来说,就是在写数据库的时候同时写一份数据到缓存集群里,然后用缓存集群来承载大部分的读请求。

这样的话,通过缓存集群,就可以用更少的机器资源承载更高的并发。

比如说上面那个图里,读请求目前是每秒 2000/s,两个从库各自抗了 1000/s 读请求,但是其中可能每秒 1800 次的读请求都是可以直接读缓存里的不怎么变化的数据的。

那么此时你一旦引入缓存集群,就可以抗下来这 1800/s 读请求,落到数据库层面的读请求就 200/s。

架构图如下:

负载均衡+分库分表 + 读写分离+缓存集群系统架构图

按照上述架构,它的好处是什么呢?

可能未来你的系统读请求每秒都几万次了,但是可能 80%~90% 都是通过缓存集群来读的,而缓存集群里的机器可能单机每秒都可以支撑几万读请求,所以耗费机器资源很少,可能就两三台机器就够了。

你要是换成是数据库来试一下,可能就要不停的加从库到 10 台、20 台机器才能抗住每秒几万的读并发,那个成本是极高的。

好了,我们再来简单小结,承载高并发需要考虑的第三个点:

  • 不要盲目进行数据库扩容,数据库服务器成本昂贵,且本身就不是用来承载高并发的。
  • 针对写少读多的请求,引入缓存集群,用缓存集群抗住大量的读请求。

负载均衡+分库分表 + 读写分离+缓存集群+消息中间件集群系统架构

接着再来看看数据库写这块的压力,其实是跟读类似的。

假如说你所有写请求全部都落地数据库的主库层,当然是没问题的,但是写压力要是越来越大了呢?

比如每秒要写几万条数据,此时难道也是不停的给主库加机器吗?

可以当然也可以,但是同理,你耗费的机器资源是很大的,这个就是数据库系统的特点所决定的。

相同的资源下,数据库系统太重太复杂,所以并发承载能力就在几千/s的量级,所以此时你需要引入别的一些技术。

比如说消息中间件技术,也就是 MQ 集群,它可以非常好的做写请求异步化处理,实现削峰填谷的效果。

假如说,你现在每秒是 1000/s 次写请求,其中比如 500 次请求是必须请求过来立马写入数据库中的,但是另外 500 次写请求是可以允许异步化等待个几十秒,甚至几分钟后才落入数据库内的。

那么此时你完全可以引入消息中间件集群,把允许异步化的每秒 500 次请求写入 MQ,然后基于 MQ 做一个削峰填谷。

比如就以平稳的 100/s 的速度消费出来,然后落入数据库中即可,此时就会大幅度降低数据库的写入压力。

此时,架构图变成了下面这样:

负载均衡+分库分表 + 读写分离+缓存集群+消息中间件集群系统架构

大家看上面的架构图,首先消息中间件系统本身也是为高并发而生,所以通常单机都是支撑几万甚至十万级的并发请求的。

所以,它本身也跟缓存系统一样,可以用很少的资源支撑很高的并发请求,用它来支撑部分允许异步化的高并发写入是没问题的,比使用数据库直接支撑那部分高并发请求要减少很多的机器使用量。

而且经过消息中间件的削峰填谷之后,比如就用稳定的 100/s 的速度写数据库,那么数据库层面接收的写请求压力,不就成了 500/s + 100/s = 600/s 了么?

大家看看,是不是发现减轻了数据库的压力?

到目前为止,通过下面的手段,我们已经可以让系统架构尽可能用最小的机器资源抗住了最大的请求压力,减轻了数据库的负担:

  • 系统集群化。
  • 数据库层面的分库分表+读写分离。
  • 针对读多写少的请求,引入缓存集群。
  • 针对高写入的压力,引入消息中间件集群。

初步来说,简单的一个高并发系统的阐述是说完了。但是,故事到这里还远远没有结束。高并发这个话题本身是非常复杂的,远远不是一些文章可以说的清楚的,它的本质就在于,真实的支撑复杂业务场景的高并发系统架构其实是非常复杂的

一个完整而复杂的高并发系统架构中,一定会包含:

  • 各种复杂的自研基础架构系统。
  • 各种精妙的架构设计(比如热点缓存架构设计、多优先级高吞吐 MQ 架构设计、系统全链路并发性能优化设计,等等)。
  • 还有各种复杂系统组合而成的高并发架构整体技术方案。
  • 还有 NoSQL(Elasticsearch 等)/负载均衡/Web 服务器等相关技术。

php7进阶到架构师相关阅读

https://www.kancloud.cn/gofor/gofor

最后,欢迎大家留言补充,讨论~~~

怎么检测并发处理能力达每秒2万次_系统如何支撑高并发相关推荐

  1. 面试最让你手足无措的一个问题:你的系统如何支撑高并发?

    (1)一道面试题的背景引入 这篇文章,我们聊聊大量同学问我的一个问题,面试的时候被问到一个让人特别手足无措的问题:你的系统如何支撑高并发? 大多数同学被问到这个问题压根儿没什么思路去回答,不知道从什么 ...

  2. 面试官问了我这个高并发问题:你的系统如何支撑高并发?我竟回答不上来

    1)一道面试题的背景引入 这篇文章,我们聊聊大量同学问我的一个问题,面试的时候被问到一个让人特别手足无措的问题:你的系统如何支撑高并发? 大多数同学被问到这个问题压根儿没什么思路去回答,不知道从什么地 ...

  3. 面试官绝杀:系统是如何支撑高并发的?

    作者 | 中华石杉 责编 | 伍杏玲 很多人面试的时候被问到一个让人特别手足无措的问题:你的系统如何支撑高并发? 大多数同学被问到这个问题压根儿没什么思路去回答,不知道从什么地方说起,其实本质就是没经 ...

  4. 面试官,再也别问我的系统如何支持高并发了

    1.一道面试题的背景引入 这篇文章,我们聊聊大量同学问我的一个问题,面试的时候被问到一个让人特别手足无措的问题:你的系统如何支撑高并发? 大多数同学被问到这个问题压根儿没什么思路去回答,不知道从什么地 ...

  5. 500并发 一台服务器的性能_面试官绝杀:系统是如何支撑高并发的?

    作者 | 中华石杉 责编 | 伍杏玲 本文经授权转载石杉的架构笔记(ID:shishan100) 很多人面试的时候被问到一个让人特别手足无措的问题:你的系统如何支撑高并发? 大多数同学被问到这个问题压 ...

  6. mysql每秒支持多少并发_如何设计一个高并发系统?

    面试题 如何设计一个高并发系统? 面试官心理分析 说实话,如果面试官问你这个题目,那么你必须要使出全身吃奶劲了.为啥?因为你没看到现在很多公司招聘的 JD 里都是说啥,有高并发就经验者优先. 如果你确 ...

  7. 浪潮信息边缘服务器m5多少钱,浪潮边缘计算服务器NE5260M5发布!最高性能可达每秒70万亿次...

    12月21日,浪潮边缘计算服务器NE5260M5宣布对燧原科技全新发布的人工智能推理加速卡 "云燧i10"完成兼容适配与深度优化,可根据客户需求支持2-4张云燧i10,为边缘AI推 ...

  8. 小米开源监控系统OpenFalcon应对高并发7种手段

    2019独角兽企业重金招聘Python工程师标准>>> 小米开源监控系统OpenFalcon应对高并发7种手段 原创 2016-04-01 秦晓辉 高可用架构 编者按:本文是秦晓辉在 ...

  9. 服务器系统怎么做高并发,QPS 高并发 如何设计一个支撑高并发大流量的系统?...

    QPS 高并发 如何设计一个支撑高并发大流量的系统? 高并发架构相关概念 什么是并发? 并发是指并发的访问,也就是某个时间点,有多少个访问同时到来: 通常如果一个系统的日PV在千万以上,有可能是一个高 ...

最新文章

  1. ARP病毒查找与防范
  2. c语言博客作业02--循环结构
  3. 雷观(十一):接私活有利有弊,我们应该根据自己的实际情况选择接私活
  4. node 同步js代码-超越昨天的自己系列(5)
  5. 1026 Table Tennis (30 分) 未完成【难度: 难 / 知识点: 模拟】
  6. python3精要(18)-函数主要概念
  7. tf记录 之 tf.boolean_mask函数
  8. jquery attr 设定src中含有(宏)符号的问题解决
  9. Office文件嵌入特殊字体
  10. 数据库实验2:数据库的建立与维护
  11. 驰骋工作流引擎表单设计器--表单装载前数据填充
  12. Vue实现CNode
  13. python编写个人信息查询_使用Python改写的身份证信息查询小程序
  14. python里面的pip是什么意思_python中pip问题
  15. 保护系统 WinXP故障恢复控制台完全指引
  16. oracle vm 产品介绍,Oracle VM Server for SPARC 产品概述
  17. 笔记本外接显示器,过一段会自动休眠
  18. 如何将网易云音乐的歌单同步到spotify
  19. elementui表格获取mysql数据_vue+element-ui表格封装tag使用slot插槽标签
  20. C#中什么是类,类和对象的关系,类的访问修饰符?

热门文章

  1. 中秋快乐:数据库的全家福指尖细数识几何?
  2. MindSpore:不用摘口罩也知道你是谁
  3. linux分区概念理解,在linux安装中的分区概念(转)
  4. 运用经验模态分解方法(EMD)对实测探地雷达数据进行处理
  5. docker中使用git_如何在 Docker 中使用 Docker
  6. Spyder里面好像不能用汉字
  7. c++ 设置类型别名
  8. db2 兼容 oracle 语法,db2 case when和oracle兼容有关问题
  9. 产品报价单模板_外贸干货 | 外贸人的好东西,报价单这样做才专业!
  10. Java 计算两个日期相差的天数