性能：你知道并发用户数应该怎么算吗
我们知道，一个性能测试中，往往会有各种各样的指标，比如TPS、RPS、QPS、HPS、CPM等。我们在实际工作的时候，应该对这些概念有统一的认识。
建议使用TPS作为关键的性能指标。另外，TPS中的T要根据实际的业务产生变化
那么，问题又来了，TPS和并发数是什么关系呢？在并发中谁来承载“并发”这个概念呢？
这里，我们必须要先区分一下“绝对并发”和“相对并发”这两个概念
- 绝对并发指的是同一时刻的并发数
- 相对并发指的是一个时间段内发生的事情
什么是并发
下面我们就来说一下“并发”这个概念。
我们假设上图中的这些小人是严格按照这个逻辑到达系统的，那显然，系统的绝对并发用户数是 4。如果描述 1 秒内的并发用户数，那就是 16。是不是显而易见？
但是，在实际的系统中，用户通常是这样分配的：
也就是说，这些用户会分布在不同的服务、网络等对象中。这时候“绝对并发”这个概念就难以描述了，你说的是哪部分的绝对并发呢？
要说积分服务，那是 2；要说库存服务，那是 5；要说订单服务，它自己是 5 个请求正在处理，但同时它又 hold 住了 5 个到库存服务的链接，因为要等着它返回之后，再返回给前端。所以将绝对并发细分下去之后，你会发现头都大了，不知道要描述什么了。
有人说，我们可以通过CPU啊，IO啊，或者内存来描述绝对并发，来看CPU在同一时刻处理的任务数。如果是这样的话，绝对并发还用算吗？那肯定是CPU的个数呀。有人说，CPU 1ns 就可以处理好多个任务了，这里的 1ns 也是时间段呀。要说绝对的某个时刻，任务数肯定不会大于 CPU 物理个数。
所以，“绝对并发”这个概念，不管是用来描述硬件细化的层面，还是用来描述业务逻辑的层面，都是没有什么意义的。
我们只要描述并发就好了，不用有“相对”和“绝对”的概念，这样可以简化沟通，也不会出错。
那如何来描述上面的并发用户数呢？建议用TPS来承载并发这个概念。
并发数是16TPS，也就是1s内整个系统处理了16个事务。
在线用户数、并发用户数怎么计算
那么新问题又来了，在线用户数和并发用户数有应该如何计算？下面我们接着来看示意图。
如上图所示，总共有32个用户进入了系统，但是绿色的用户并没有什么动作，那么显然，在线用户是是32个，并发用户数是16个，这时的并发数就是50%。
但是在一个系统中，通常都是下面这个样子的：
为了能hold住更多的用户，我们通常都会把一些数据放到redis这样的缓存服务器中。所以在线用户数什么算呢？如果仅从上面这种简单图来看，其实就是缓存服务器能够有多大，能hold住多少用户需要的数据。最多再加上超时路上的用户数（问题：超时路上的用户数是什么）
假设一个用户进入系统之后，需要用10K内存来维护一个用户的信息，那么 10G 的内存就能 hold 住 1,048,576 个用户的数据，这就是最大在线用户数了。在实际的项目中，我们还会将超时放在一起来考虑。
但是并发用户数不同，他们需要在系统中执行某个动作。我们要测试的重中之重，就是统计这些正在执行动作的并发用户数。
当我们统计生产环境中的在线用户数时，并发用户数也是要同时统计的。这里会涉及到一个概念：并发度
要想计算并发用户和在线用户之间的关系，都需要有并发度。
做性能的人都知道，我们有时会接到一个需求，那就是一定要测试出来系统最大在线用户数是多少。这个需求怎么做呢？
在此之前，我们需要先理解压力工具中的线程或用户数到底是不是用来描述性能表现的？我们通过一个示意图来说明：
通过这个图，我们可以看到一个简单的计算逻辑：
- 如果有 10000 个在线用户数，同时并发度是 1%，那显然并发用户数就是 100。
- 如果每个线程的 20TPS（每秒能够处理20个事务），显然只需要 5 个线程就够了（5*20TPS = 100，5个线程就能应对100个并发用户数的请求）（请注意，这里说的线程指的是压力机的线程数）。
- 这时对 Server 来说，它处理的就是 100TPS（5*20TPS=100TPS），平均响应时间是 50ms。50ms 就是根据1000ms/20TPS 得来的（请注意，这里说的平均响应时间会在一个区间内浮动，但只要TPS 不变，这个平均响应时间就不会变）。
- 如果我们有两个 Server 线程来处理，那么一个线程就是 50TPS，这个很直接吧。
- 请大家注意，这里有一个转换的细节，那就是并发用户数到压力机的并发线程数。这一步，我们通常怎么做呢？就是基准测试的第一步。关于这一点，我们在后续的场景中交待。
而我们通常说的并发这个词，依赖TPS来承载的时候，指的都是server端的处理能力，并不是压力工具上的并发线程数。在上面的例子中，我们说的并发就是指服务器上100TPS的处理能力。
实例
实例：JMeter（1 个线程） - Nginx - Tomcat - MySQL
我们可以看到，JMeter的平均响应时间基本都在5ms，因为只有一个压力机线程，所以它的TPS应该接近1000ms/5ms=200TPS。从测试结果上看，也确实是接近的。那为什么会少一点呢？因为这里算的是平均数，并且这个数据是30s刷新一次，用30s的时间内完成的事务数除以30s得到的，但是如果事务还没有完成，就不会计算在内了；同时，如果在这段时间内由一两个时间长的事务，也会拉低TPS。
那么对于服务端呢，我们来看看服务端线程的工作情况。
可以看到在服务端，我开了 5 个线程，但是服务端并没有一直干活，只有一个在干活的，其他的都处于空闲状态。
这是一种很合理的状态。但是你需要注意的是，这种合理的状态并不一定是对的性能状态。
- 并发用户数（TPS）是 193.6TPS。如果并发度为 5%，在线用户数就是193.6/5%=3872。
- 响应时间是 5ms。
- 压力机并发线程数是 1。这一条，我们通常也不对非专业人士描述，只要性能测试工程师自己知道就可以了
下面我们换一下场景，在压力机上启动 10 个线程。结果如下：
平均响应时间在 25ms，我们来计算一处，(1000ms/25ms)*10=400TPS，而最新刷出来的一条是 396.2，是不是非常合理？
再回来看看服务端的线程：
同样是 5 个线程，现在就忙了很多。
- 并发用户数（TPS）是 396.2TPS。如果并发度为 5%，在线用户数就是396.2/5%=7924。
- 响应时间是 25ms。
- 压力机并发线程数是 10。这一条，我们通常也不对非专业人士描述，只要性能测试工程师自己知道就可以了。
也就是说计算公式为：
T P S = 1000 m s 响 应 时 间 （ 单 位 m s ） ∗ 压 力 机 线 程 数 TPS= \frac{1000ms}{响应时间（单位ms）} * 压力机线程数 TPS=响应时间（单位ms）1000ms∗压力机线程数
也就是说，对于压力工具来说，只要不报错，我们就关心TPS和响应时间就可以了，因为TPS反应出来的是和服务器对应的处理能力，至于压力线程数量是多少，并不关键。也就是说，没有必要在乎Jmeter是BIO还是AIO
那是不是可以这样理解，服务端有多少线程，就可以支持多少个压力机上的并发线程。但这取决于TPS有多少，如果服务端处理得快，那压力机的并发线程就可以更多一点。
这个逻辑看似很合理，但是通常服务端都是由业务逻辑的，既然有业务逻辑，显然不会比压力机块
应该说，服务端需要更多的线程来处理压力机线程发过来的请求。所以我们用几台压力机就可以压十几台服务端的性能了
如果在一个微服务的系统中，因为每个服务都只做一件事情，拆分的很细，我们要注意整个系统的容量水位，而不是看某一个服务的能力，这就是拉平整个系统的容量。
总结
- 通常所说的并发都是指服务端的并发，而不是指压力机上的并发线程数，因为服务端的并发才是服务器的处理能力。
- 性能中常说的并发，是用 TPS 这样的概念来承载具体数值的。
- 压力工具中的线程数、响应时间和 TPS 之间是有对应关系的。
性能：你知道并发用户数应该怎么算吗相关推荐
- 05丨指标关系：你知道并发用户数应该怎么算吗？
高楼 我在性能综述的那三篇文章中,描述了各种指标,比如 TPS.RPS.QPS.HPS.CPM 等.我也强调了,我们在实际工作的时候,应该对这些概念有统一的认识. 这样的话,在使用过程中,一个团队或企 ...
- 03 并发用户数怎么计算么
QPS(TPS)= 并发数/平均响应时间 这样的话,在使用过程中,一个团队或企业从上到下都具有同样的概念意识,就可以避免出现沟通上的偏差.我说一个故事.我以前接触过一个咨询项目.在我接触之前,性能测试 ...
- TPS、QPS、系统吞吐量、并发用户数区别及性能术语的理解
一.QPS/TPS QPS:Queries Per Second意思是"每秒查询率",是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标 ...
- 并发用户数和TPS的关系
2019独角兽企业重金招聘Python工程师标准>>> 在20并发用户数下,TPS测出来是170,响应时间是2S. 那么在外部流量是150QPS的情况下是扛得住的.(150<1 ...
- 一文搞清楚，QPS、TPS、并发用户数、吞吐量
作者 | Fysddsw_lc 来源 | http://juejin.im/post/5c2cb5e15188257a937fbfaf 一文辨明QPS.TPS.PV.UV.DAU.MAU.并发用户数. ...
- 关于系统用户数，并发用户数，在线用户数，吞吐量
1. 关于系统用户数,并发用户数和在线用户数 系统用户数 侠义上来说,可以理解为系统注册用户数:广义上来说,可以理解为所有访问过系统的用户数 在线用户数 侠义上来说,可以理解为已登录系统的用户数:广 ...
- WEB网站压力测试方案 压力测试如何换算并发用户数
http://wenku.baidu.com/view/bedf1a93daef5ef7ba0d3c29.html 压力测试通过确定一个系统的瓶颈或者不能接收的性能点,来获得系统能提供的最大的服务级别 ...
- LoadRunner之并发用户数与迭代关系---并发数与迭代的区别
Q1: 例如在LR里,我要测100个用户同时并发登陆所用时间,那我是不是在录制好脚本后,需要参数化"用户名","密码"以及在那个记事本里构造100个真实的用户名 ...
- [转载]性能测试中TPS和并发用户数估算
并发用户数:是指现实系统中操作业务的用户,在性能测试工具中,一般称为虚拟用户数(Virutal User). 并发用户数和注册用户数.在线用户数的概念不同, 1.并发用户数一定会对服务器产生压力的, ...
最新文章
- 最短路径算法 Floyd-傻子也能看懂的弗洛伊德算法（转）
- Logistic Regression(逻辑回归) +python3.6(pycharm)实现
- C#把数据写到硬盘指定位置
- 小白学python买什么书-0基础小白学python有没有什么书可以推荐的？
- 2013年新疆中小学教师计算机水平考试机试题(复习版),2013年新疆中小学教师计算机水平考试笔试题(复习版8套含答案)...
- J-4 Java语言基础
- 有什么办法动态更改yml的值吗_基于Redis实现Spring Cloud Gateway的动态管理
- Mysql Too many connections解决方法
- 浏览器打开位置服务器,如何启动http服务器，然后打开web浏览器？
- 节省大量教科书的三种潜在风险方法
- Sequence with Digits CodeForces - 1355A（暴力+数学）
- nslookup 包含在那个包中_nslookup命令详解
- matplolib绘图
- 我的markdown学习笔记
- vb 获取系统声音的电平_专业音响系统中常见问题，看看你懂几个？
- 计算机专业学生专利,2019.6 电子与计算机工程学院学生喜获三项国家专利
- sql 日期函数往前推当前时间指定天数
- 【易语言界面开发系列教程之 （EX_UI使用系列教程--第10讲（EXui右键菜单演示案例））】
- qq企业邮箱怎么删除邮件服务器,腾讯企业邮箱删除邮件方法
- 2013年全国计算机一级上机,2013年全国高校计算机联合考试一级机试试题(1)