【高并发】- 指标介绍

什么是高并发
高并发系统有哪些关键指标

高并发系统介绍

本文主要讲解高并发系统的概念，在实际开发过程中为什么要使用高并发系统，相比于传统系统，能带来怎样的改变。

1.1 高并发介绍

高并发（Hign Concurrency），通常是指通过设计保证系统能够同时处理很多请求。

（即在同一个时间点，有很多的请求同时访问同一个接口）

高并发意味着短时间内有大流量进入系统，需要运用技术手段来抵抗这种大流量的冲击。

场景：比如流行的淘宝“双十一”、京东“618”、热门车次车票开售以及各种电商秒杀抢购活动的场景等。

1.2 高并发系统关键指标介绍

响应时间（Response Time）：从第一次发出请求到收到系统完整相应数据所需的时间。【响应时间是反映系统性能的重要指标，直接反映了系统响应的快慢】。
吞吐量（Throughput）：单位时间内，系统所处理的用户请求数。
每秒请求数（QPS）：服务器在一秒内处理了多少个请求，主要用来表示【读】请求。
每秒事务数（TPS）：服务器每秒处理的事务数。
访问量（PV：Page View）：页面浏览量。用户每次对网站中的1个网页访问1次均被记录1次。用户对同一个页面的多次访问被累计记录。（PV是评价网站流量最常用的指标之一）。
独立访客（UV：Unique Visitor）：访问某个站点或点击某个链接的不同IP地址数。
网络流量：并发情况的一个重要指标，包含流入/流出流量。

关键指标详细介绍：

不同角度分析吞吐量：

TPS包括以下3个过程：

响应时间反映了系统快慢，从以下两个角度出发：
1. 从用户角度出发，响应时间决定用户的体验感，即响应时间越长，用户体验越差，造成用户流失；反之可提高用户留存率。
2. 从系统本身出发，响应时间决定系统的性能问题，即响应时间越短，表示系统性能越高，可更好处理业务；反之系统性能越差，甚至可能丢失相关请求/系统不可用，影响公司业务。
吞吐量反映了系统的负载能力，能够通过吞吐量来分析系统的性能瓶颈
1. 从业务角度看，吞吐量可以用“请求数/秒”、“人数/天” 或 “处理业务数/小时”等单位来衡量
2. 从网络角度看，吞吐量可以用“字节数/秒”来衡量
  
  一般来说，在没有遇到性能瓶颈时，吞吐量与虚拟用户数之间存在一定联系，可以采用以下公式来计算吞吐量：
  
  F = VU × R / T
  
  其中，F表示吞吐量，VU表示虚拟用户个数，R表示每个虚拟用户发出的请求数，T表示性能测试所用的时间。
每秒请求数（QPS）反映系统在流量高峰时性能指标，通过分析QPS，可以分析出所需机器数量，帮助系统更好进行掌控。

一般来说，绝大部分系统在白天的请求量比较大，且依据二八原则，80%的流量是在20%的时间段内产生的。

场景：

假设每天有5 000 000 个请求，预估QPS = （5 000 000 × 0.8）/（12 × 60 × 60 × 0.2）= 462。所以当前系统每天平均QPS为462，一般来说，为了保险起见，再预留20%左右也是可以的。一般还需要计算当天最高QPS，这样对系统的掌控力度会更强。

系统最高QPS，可以通过同平均QPS的倍数计算出来。例如，分析业务得到最高QPS大概是平均QPS的2倍，则当前系统峰值QPS ≈ 924 左右。

在预估出QPS后，用【峰值QPS / 单台机器最高可承受的QPS】，就能计算出需要部署多少台服务器。即：

机器数 = 峰值QPS / 单台机器最高可承受的QPS

（单台最高可承受的QPS可以通过压测来得出）

假设单台机器通过压力测试得出最高可承受的QPS为100，那么所需要的机器数量为：924 / 100 ≈ 10台
每秒事务数（TPS）反映整个系统的交互性能指标，一个事务包括“客户机向服务器发送请求 + 服务器响应”的过程，所以当系统TPS下降时，也表示整个交互过程也会受到影响。
1. 客户端请求服务端。
2. 在服务端内部进行业务逻辑处理。
3. 服务端响应客户端。
访问量（PV）反映网站是否处于活跃的流量状态中，当访问量多了，某种程度上也可以反映出系统业务方向是符合当前社会行情的。
独立访客（UV）反映系统每天真实访问数量，通过UV指标，可以反映出系统每天平均的用户数，后续也可以通过用户数进行专项分析及营销。
网络流量，系统因受限于宽带，所以网络流量（也简称流量）是并发情况的一个重要指标，主要涉及以下两个方面：
1. 流入流量：从外部访问服务器所消耗的流量。
2. 流出流量：服务器对外响应的流量。

此篇文章是高并发系列讲解的第一章，主要讲解高并发系统中的关键指标及介绍，让大家在后续文章中，这些关键指标会贯穿文章中。因此会先把基础参数内容定义清楚，大家在后续过程中也可以更好理解。

如果喜欢文章的话，可以关注及分享，让大家一起学习。

【高并发】- 指标介绍相关推荐

高可用高并发单机介绍以及在不同场景下锁的不同选择
高可用高并发单机场景下使用锁的不同选择 1.高可用+高并发使用redis 分布式锁或者数据库的乐观锁(即在数据库表中加上一个版本号字段,每次修改数据都判断一下版本号是否与之前一致)或者一些 ...
高并发线程/锁/内存处理模型
文章目录锁与线程一.进程/线程的基本介绍进程线程 1 线程的调度与时间片 2 优先级 3 生命周期进程与线程的区别二.线程的使用 2.1 Thread类的介绍 2.2 创建线程的方法 Th ...
高并发到底要怎么算才是高并发?
什么是并发: 并发,在操作系统中,是指一个时间段中有几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理机上运行,但任一个时刻点上只有一个程序在处理机上运行. 什么是高并发: 高并发( ...
「万字干货」高并发系统分析与大型互联网架构介绍
(篇幅较长,建议大家先收藏再看哦~) 在初步地学习并掌握了基础的编程之后,如何提高编程能力是每个开发者关心的问题.对于 Java 的学习者来说,高并发是每个开发者技术进阶的必经之路.但是高并发的技术要 ...
高并发架构系列：Spring Cloud的核心成员、以及架构实现详细介绍
高并发架构系列:Spring Cloud的核心成员.以及架构实现详细介绍什么是微服务微服务的概念源于Martin Fowler所写的一篇文章"Microservices". 微 ...
(更新时间)2021年5月28日商城高并发秒杀系统(.NET Core版) 01-系统设计介绍
秒杀项目目标:从0到1构建一个高并发的秒杀系统三个阶段从0到1构建一个电商系统从0到1构建秒杀系统从0到1构建高并发秒杀系统为了完成这个目标,我们需要知道几个前提什么是电商什么是秒杀 ...
【高并发】面试官：性能优化有哪些衡量指标？需要注意什么？
点击上方蓝色"冰河技术",关注并选择"设为星标" 持之以恒,贵在坚持,每天进步一点点! 作者个人研发的在高并发场景下,提供的简单.稳定.可扩展的延迟消息队列框架 ...
阿里P8架构师谈：高并发网站的监控系统选型、比较、核心监控指标
在高并发分布式环境下,对于访问量大的业务.接口等,需要及时的监控网站的健康程度,防止网站出现访问缓慢,甚至在特殊情况出现应用服务器雪崩等场景,在高并发场景下网站无法正常访问的情况,这些就会涉及到分布式 ...
tcp的无延时发送_高并发架构的TCP知识介绍
这是关于高并发架构网络协议基础知识的第二篇,编程路上的基础心法! 做为一个有追求的程序员,不能只满足增删改查,我们要对系统全方面无死角掌控.掌握了这些基本的网络知识后,相信一方面日常排错中会事半功倍, ...

【高并发】- 指标介绍

【高并发】- 指标介绍相关推荐

最新文章

热门文章