谷粒商城：18.性能压测
一、压力测试
压力测试考察当前软硬件环境下系统所能承受的最大负荷并帮助找出系统瓶颈所在。压测都 是为了系统在线上的处理能力和稳定性维持在一个标准范围内，做到心中有数。
使用压力测试，我们有希望找到很多种用其他测试方法更难发现的错误。有两种错误类型是: 内存泄漏，并发与同步。
有效的压力测试系统将应用以下这些关键条件:重复，并发，量级，随机变化。
1.1. 性能指标
响应时间（Response Time: RT）
响应时间指用户从客户端发起一个请求开始，到客户端接收到从服务器端返回的响 应结束，整个过程所耗费的时间。
HPS（Hits Per Second） ：每秒点击次数，单位是次/秒。
TPS（Transaction per Second）：系统每秒处理交易数，单位是笔/秒。
QPS（Query per Second）：系统每秒处理查询次数，单位是次/秒。
对于互联网业务中，如果某些业务有且仅有一个请求连接，那么 TPS=QPS=HPS，一般情况下用 TPS 来衡量整个业务流程，用 QPS 来衡量接口查询次数，用 HPS 来表示对服务器单击请求。
无论 TPS、QPS、HPS,此指标是衡量系统处理能力非常重要的指标，越大越好，根据经验，一般情况下：
- 金融行业：1000TPS~50000TPS，不包括互联网化的活动
- 保险行业：100TPS~100000TPS，不包括互联网化的活动
- 制造行业：10TPS~5000TPS
- 互联网电子商务：10000TPS~1000000TPS
- 互联网中型网站：1000TPS~50000TPS
- 互联网小型网站：500TPS~10000TPS
最大响应时间（Max Response Time） 指用户发出请求或者指令到系统做出反应（响应） 的最大时间。
最少响应时间（Mininum ResponseTime） 指用户发出请求或者指令到系统做出反应（响应）的最少时间。
90%响应时间（90% Response Time） 是指所有用户的响应时间进行排序，第 90%的响应时间。
从外部看，性能测试主要关注如下三个指标
- 吞吐量：每秒钟系统能够处理的请求数、任务数。
- 响应时间：服务处理一个请求或一个任务的耗时。
- 错误率：一批请求中结果出错的请求所占比例。
1.2. JMeter
1.2.1. JMeter 安装
https://jmeter.apache.org/download_jmeter.cgi
下载对应的压缩包，解压
下载地址
运行bin目录下 jmeter.bat 即可
设置语言
1.2.2. JMeter 压测示例
添加线程组
线程组参数详解：
- 线程数：虚拟用户数。一个虚拟用户占用一个进程或线程。设置多少虚拟用户数在这里 也就是设置多少个线程数。
- Ramp-Up Period(in seconds)准备时长：设置的虚拟用户数需要多长时间全部启动。如果线程数为 10，准备时长为 2，那么需要 2 秒钟启动 10 个线程，也就是每秒钟启动 5 个线程。
- 循环次数：每个线程发送请求的次数。如果线程数为 10，循环次数为 100，那么每个线程发送 100 次请求。总请求数为 10*100=1000 。如果勾选了“永远”，那么所有线程会一直发送请求，一到选择停止运行脚本。
- Delay Thread creation until needed：直到需要时延迟线程的创建。
- 调度器：设置线程组启动的开始时间和结束时间(配置调度器时，需要勾选循环次数为永远)
- 持续时间（秒）：测试持续时间，会覆盖结束时间
- 启动延迟（秒）：测试延迟启动时间，会覆盖启动时间
- 启动时间：测试启动时间，启动延迟会覆盖它。当启动时间已过，手动只需测试时当前时间也会覆盖它。
- 结束时间：测试结束时间，持续时间会覆盖它。
添加 HTTP 请求
1.2.3. 添加监听器
1.2.4. 启动压测&查看分析结果
结果分析
有错误率同开发确认，确定是否允许错误的发生或者错误率允许在多大的范围内；
Throughput 吞吐量每秒请求的数大于并发数，则可以慢慢的往上面增加；若在压测的机器性能很好的情况下，出现吞吐量小于并发数，说明并发数不能再增加了，可以慢慢的 往下减，找到最佳的并发数；
压测结束，登陆相应的 web 服务器查看 CPU 等性能指标，进行数据的分析;
最大的 tps，不断的增加并发数，加到 tps 达到一定值开始出现下降，那么那个值就是最大的 tps。
最大的并发数：最大的并发数和最大的 tps 是不同的概率，一般不断增加并发数，达到一个值后，服务器出现请求超时，则可认为该值为最大的并发数。
压测过程出现性能瓶颈，若压力机任务管理器查看到的 cpu、网络和 cpu 都正常，未达到 90%以上，则可以说明服务器有问题，压力机没有问题。
影响性能考虑点包括：
数据库、应用程序、中间件（tomact、Nginx）、网络和操作系统等方面
首先考虑自己的应用属于 CPU 密集型还是 IO 密集型
1.3. JMeter Address Already in use 错误解决
windows 本身提供的端口访问机制的问题。
Windows 提供给 TCP/IP 链接的端口为 1024-5000，并且要四分钟来循环回收他们。就导致我们在短时间内跑大量的请求时将端口占满了。
cmd 中，用 regedit 命令打开注册表
在 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters 下
右击 parameters，添加一个新的 DWORD，名字为 MaxUserPort
然后双击 MaxUserPort，输入数值数据为 65534，基数选择十进制（如果是分布式运行的话，控制机器和负载机器都需要这样操作哦）
修改配置完毕之后记得重启机器才会生效
https://support.microsoft.com/zh-cn/help/196271/when-you-try-to-connect-from-tcp-ports-grea ter-than-5000-you-receive-t
TCPTimedWaitDelay：30
二、性能监控
2.1. JVM内存模型
程序计数器 Program Counter Register：
- 记录的是正在执行的虚拟机字节码指令的地址，
- 此内存区域是唯一一个在JAVA 虚拟机规范中没有规定任何OutOfMemoryError 的区域
虚拟机：VM Stack
描述的是 JAVA 方法执行的内存模型，每个方法在执行的时候都会创建一个栈帧， 用于存储局部变量表，操作数栈，动态链接，方法接口等信息
局部变量表存储了编译期可知的各种基本数据类型、对象引用
线程请求的栈深度不够会报 StackOverflowError 异常
栈动态扩展的容量不够会报 OutOfMemoryError 异常
虚拟机栈是线程隔离的，即每个线程都有自己独立的虚拟机栈
本地方法：Native Stack
- 本地方法栈类似于虚拟机栈，只不过本地方法栈使用的是本地方法
堆：Heap
- 几乎所有的对象实例都在堆上分配内存
2.2. 堆
所有的对象实例以及数组都要在堆上分配。堆是垃圾收集器管理的主要区域，也被称为“GC 堆”；也是我们优化最多考虑的地方。
堆可以细分为：
新生代
- Eden 空间
- From Survivor 空间
- To Survivor 空间
老年代
永久代/元空间
Java8 以前永久代，受 jvm 管理，java8 以后元空间，直接使用物理内存。因此， 默认情况下，元空间的大小仅受本地内存限制。
垃圾回收
从 Java8 开始，HotSpot 已经完全将永久代（Permanent Generation）移除，取而代之的是一个新的区域—元空间（MetaSpace）
2.3. jconsole 与 jvisualvm
Jdk 的两个小工具 jconsole、jvisualvm（升级版的 jconsole）;通过命令行启动，可监控本地和远程应用。远程应用需要配置
2.3.1. jvisualvm 能干什么
监控内存泄露，跟踪垃圾回收，执行时内存、cpu 分析，线程分析…
运行：正在运行的
休眠：sleep
等待：wait
驻留：线程池里面的空闲线程
监视：阻塞的线程，正在等待锁
2.3.2. 安装插件方便查看 gc
Cmd 启动 jvisualvm
工具 → 插件
如果 503 错误解决：
打开网址
https://visualvm.github.io/pluginscenters.html
cmd 查看自己的 jdk 版本，找到对应的复制下面查询出来的链接。并重新设置上即可
安装Visual GC插件
安装完成后重启jvisualvm，即可借助插件分析垃圾回收过程
2.4. 监控指标
2.4.1. 中间件指标
- 当前正在运行的线程数不能超过设定的最大值。一般情况下系统性能较好的情况下，线 程数最小值设置 50 和最大值设置 200 比较合适。
- 当前运行的 JDBC 连接数不能超过设定的最大值。一般情况下系统性能较好的情况下，JDBC 最小值设置 50 和最大值设置 200 比较合适。
- ＧＣ频率不能频繁，特别是 FULL GC 更不能频繁，一般情况下系统性能较好的情况下，JVM 最小堆大小和最大堆大小分别设置 1024M 比较合适。
测试Nginx
添加查看结果树、汇总报告、聚合报告
使用
docker stats监控linux的cpu使用、内存等启动测试，观察Nginx的cpu、内存使用情况
结论：Nginx主要占用CPU
测试网关
使用jvisualvm监测网关
网关也比较占用CPU
测试简单服务
测试网关+简单服务
测试全链路
测试首页渲染
测试三级分类数据获取
2.4.2. 数据库指标
- SQL 耗时越小越好，一般情况下微秒级别。
- 命中率越高越好，一般情况下不能低于 95%。
- 锁等待次数越低越好，等待时间越短越好。
2.4.3. 测试结果
| 压测内容 | 压测线程数 | 吞吐量/s | 90%响应时间 | 99%响应时间 |
|---|---|---|---|---|
| Nginx | 50 | 2335 | 11 | 944 |
| Gateway | 50 | 10367 | 8 | 31 |
| 简单服务 | 50 | 11341 | 8 | 17 |
| 首页一级菜单渲染 | 50 | 270(db,thymeleaf) | 267 | 365 |
| 首页渲染（开缓存） | 50 | 290 | 251 | 365 |
| 首页渲染（开缓存、优化数据库、关日 志） | 50 | 700 | 105 | 183 |
| 三级分类数据获取 | 50 | 2(db)/8(加索引) | … | … |
| 三级分类（优化业务） | 50 | 111 | 571 | 896 |
| 三级分类（ 使用redis作为缓存） | 50 | 411 | 153 | 217 |
| 首页全量数据获取 | 50 | 7(静态资源) | ||
| Nginx+Gateway | 50 | |||
| Gateway+简单服务 | 50 | 3126 | 30 | 125 |
| 全链路 | 50 | 800 | 88 | 310 |
2.4.5. 测试结论
- 中间件越多，性能损失越大，大多都损失在网络交互了；
- 业务：
- Db（MySQL 优化）
- 模板的渲染速度（缓存）
- 静态资源
2.5. JVM 分析&调优
jvm 调优，调的是稳定，并不能带给你性能的大幅提升。服务稳定的重要性就不用多说了， 保证服务的稳定，gc 永远会是 Java 程序员需要考虑的不稳定因素之一。复杂和高并发下的服务，必须保证每次 gc 不会出现性能下降，各种性能指标不会出现波动，gc 回收规律而且干净，找到合适的 jvm 设置。Full gc 最会影响性能，根据代码问题，避免 full gc 频率。可以适当调大年轻代容量，让大对象可以在年轻代触发 yong gc，调整大对象在年轻代的回收频次，尽可能保证大对象在年轻代回收，减小老年代缩短回收时间；
2.5.1. 几个常用工具
jstack：查看 jvm 线程运行状态，是否有死锁现象等等信息
jinfo：可以输出并修改运行时的 java 进程的 opts。
jps：与 unix 上的 ps 类似，用来显示本地的 java 进程，可以查看本地运行着几个 java
程序，并显示他们的进程号。
jstat：一个极强的监视 VM 内存工具。可以用来监视 VM 内存内的各种堆和非堆的大小
及其内存使用量。
jmap：打印出某个 java 进程（使用 pid）内存内的所有’对象’的情况（如：产生那些对象，
及其数量）
2.5.2. 命令示例
jstat 工具特别强大，有众多的可选项，详细查看堆内各个部分的使用量，以及加载类的数量。使用时，需加上查看进程的进程 id，和所选参数。-
- jstat -class pid：显示加载 class 的数量，及所占空间等信息
- jstat -compiler pid：显示 VM 实时编译的数量等信息。
- jstat -gc pid：可以显示 gc 的信息，查看 gc 的次数，及时间
- jstat -gccapacity pid：堆内存统计，三代（young,old,perm）内存使用和占用大小
- jstat -gcnew pid：新生代垃圾回收统计
- jstat -gcnewcapacity pid：新生代内存统计
- jstat -gcold pid：老年代垃圾回收统计
除了以上一个参数外，还可以同时加上 两个数字，如：jstat -printcompilation 3024 250 6 是
每 250 毫秒打印一次，一共打印 6 次，还可以加上-h3 每三行显示一下标题。
- jstat -gcutil pid 1000 100 : 1000ms 统计一次 gc 情况统计 100 次；
在使用这些工具前，先用 JPS 命令获取当前的每个 JVM 进程号，然后选择要查看的 JVM。
jinfo 是 JDK 自带的命令，可以用来查看正在运行的 java 应用程序的扩展参数，包括 Java System 属性和 JVM 命令行参数；也可以动态的修改正在运行的 JVM 一些参数。当系统崩溃时，jinfo 可以从 core 文件里面知道崩溃的 Java 应用程序的配置信息
- jinfo pid：输出当前 jvm 进程的全部参数和系统属性
- jinfo -flag name pid：可以查看指定的 jvm 参数的值；打印结果：-无此参数，+有
- jinfo -flag [+|-]name pid：开启或者关闭对应名称的参数（无需重启虚拟机）
- jinfo -flag name=value pid：修改指定参数的值
- jinfo -flags pid：输出全部的参数
- jinfo -sysprops pid：输出当前 jvm 进行的全部的系统属性
jmap 可以生成 heap dump 文件，也可以查看堆内对象分析内存信息等，如果不使用这个命令，还可以使用-XX:+HeapDumpOnOutOfMemoryError 参数来让虚拟机出现 OOM 的时候自动生成 dump 文件。
- jmap -dump:live,format=b,file=dump.hprof pid
dump 堆到文件，format 指定输出格式，live 指明是活着的对象，file 指定文件名。eclipse 可以打开这个文件 - jmap -heap pid
打印 heap 的概要信息，GC 使用的算法，heap 的配置和使用情况，可以用此来判断内存目前的使用情况以及垃圾回收情况 - jmap -finalizerinfo pid 打印等待回收的对象信息
- jmap -histo:live pid 打印堆的对象统计，包括对象数、内存大小等。jmap -histo:live 这个
命令执行，JVM 会先触发 gc，然后再统计信息 - jmap -clstats pid
打印Java 类加载器的智能统计信息，对于每个类加载器而言，对于每个类加载器而言，它的名称，活跃度，地址，父类加载器，它所加载的类的数量和大小都会被打印。此外，包含 的字符串数量和大小也会被打印。 - -F 强制模式。如果指定的 pid 没有响应，请使用 jmap -dump 或 jmap -histo 选项。此模式下，不支持 live 子选项。
- jmap -F -histo pid
jstack 是 jdk 自带的线程堆栈分析工具，使用该命令可以查看或导出 Java 应用程序中线程堆栈信息。
- jstack pid 输出当前 jvm 进程的全部参数和系统属性
2.5.3. 调优项
官方文档：https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html#BGBCIEFC
2.5.4. Nginx动静分离
- 以后将所有项目的静态资源都应该放在nginx里面
- 指定返回规则：/static/**所有请求都由Nginx直接返回
2.5.4.1. nginx创建static目录
2.5.4.2. 将静态资源放到static中
2.5.4.3. 修改界面内容
将界面静态资源前面全部加上/static/
2.5.4.4. 修改Nginx配置
重启nginx
2.5.4.5. 测试
配置完成后可以直接通过Nginx访问静态资源
2.5.5. 配置JVM内存分配
设置最大内存1024M
-Xmx1024m固定内存为1024M
-Xmx1024m -Xmx1024m设置新生代
Eden+幸存者区内存-Xmn512m
-Xmx1024m -Xmx1024m -Xmn512m
通过增大内存提高压力测试能力
2.5.6. 优化业务逻辑
@Override
public Map<String, List<Catelog2Vo>> getCatalogJson() {System.out.println("查询了数据库.....");List<CategoryEntity> selectList = baseMapper.selectList(null);List<CategoryEntity> level1Categorys = getParent_cid(selectList, 0L);//2、封装数据Map<String, List<Catelog2Vo>> parent_cid = level1Categorys.stream().collect(Collectors.toMap(k -> k.getCatId().toString(), v -> {//1、每一个的一级分类，查到这个一级分类的二级分类List<CategoryEntity> categoryEntities = getParent_cid(selectList, v.getCatId());//2、封装上面面的结果List<Catelog2Vo> catelog2Vos = null;if (categoryEntities != null) {catelog2Vos = categoryEntities.stream().map(l2 -> {Catelog2Vo catelog2Vo = new Catelog2Vo(v.getCatId().toString(), null, l2.getCatId().toString(), l2.getName());//1、找当前二级分类的三级分类封装成voList<CategoryEntity> level3Catelog = getParent_cid(selectList, l2.getCatId());if (level3Catelog != null) {List<Catelog2Vo.Catelog3Vo> collect = level3Catelog.stream().map(l3 -> {//2、封装成指定格式Catelog2Vo.Catelog3Vo catelog3Vo = new Catelog2Vo.Catelog3Vo(l2.getCatId().toString(), l3.getCatId().toString(), l3.getName());return catelog3Vo;}).collect(Collectors.toList());catelog2Vo.setCatalog3List(collect);}return catelog2Vo;}).collect(Collectors.toList());}return catelog2Vos;}));return parent_cid;
}
谷粒商城：18.性能压测相关推荐
- 谷粒商城项目篇8_分布式高级篇_商城首页、性能压测、优化（Nginx动静分离）
目录 商城首页 整合thymeleaf springmvc的WebMvcAutoConfiguration 首页三级分类渲染 Nginx代理 Nginx代理会丢掉host信息 压力测试 性能检测 性能 ...
- Mall商城的高级篇的开发（二）性能压测和性能监控
Mall商城的高级篇的开发(二) 性能压测–压力测试 压力测试考察当前软件硬件环境下系统所能承受的最大负荷并帮助找出系统的瓶颈所在.压测都是为了系统在上线的处理能力和稳定性维持在一个标准的范围内,做到 ...
- 压测接口线程数设置_ZAT掌门性能压测巡检系统实战和落地
项目背景 随着业务拓展,对于接口性能的要求也在上升,各部门也开始针对部分慢接口进行优化,从测试角度针对这些优化需求进行测试时不仅要保证对应接口的功能正常使用同时也要验证接口优化成果.在日常的开发工作中 ...
- sysbench性能压测以及mysql性能压测
sysbench性能压测以及mysql性能压测 一.Sysbench是一个模块化的.跨平台.多线程基准测试工具,主要用于各种不同系统的参数下的数据库负载情况. 主要测试方式 cpu性能 磁盘io性能 ...
- sysbench数据库性能压测详解
文章目录 0.参考资料&适用范围 1.安装 2.压测 2.1.CPU压测 2.2.MySQL数据库压测 2.2.1.选项说明 2.2.2.压测步骤 0.参考资料&适用范围 参考资料: ...
- 高性能分布式缓存redis(持久化原理 安全策略 过期删除内存淘汰策略 性能压测 高可用 Redis Cluster)
redis redis(持久化原理 安全策略 过期删除&内存淘汰策略 性能压测 高可用 Redis Cluster) 1. 持久化原理 1.1 持久化流程(落盘) 1.2 RDB详解 1.2. ...
- Centos 异步 IO framework io_uring,基本原理,程序示例与性能压测
尊重原创版权: https://www.conghengx.com/hot/37285.html 更多内容参考: https://www.conghengx.com/ Linux 异步 I/O 框架 ...
- 一文说清FISCO BCOS性能压测（附实例教程）
"我的区块链能跑多少TPS?""能不能达到'官方'所说的峰值?""为啥总是压不上去?是我的机器不够好吗?" 如今,区块链技术被广泛应用在各行 ...
- 软件性能测试分析与调优实践之路-JMeter对RPC服务的性能压测分析与调优-手稿节选
一.JMeter 如何通过自定义Sample来压测RPC服务 RPC(Remote Procedure Call)俗称远程过程调用,是常用的一种高效的服务调用方式,也是性能压测时经常遇到的一种服务调用 ...
- 后端服务性能压测实践
转自:https://mp.weixin.qq.com/s/XW9geHZ9odHdI7srDiKBIg 目录 背景 环境检测 压力机及压力工具检测 Linux openfiles limit 设置 ...
最新文章
- ORL Faces Database介绍
- cv2.matchTemplate()函数的应用,匹配图片后画出矩形
- MySQL 错误对照表
- 通过分析一个C程序的汇编指令执行过程，理解计算机的工作。
- 前端：JS字符串操作函数类库
- 前端小知识点(2)：普通字符串和new String有什么区别
- 前端学习（2968）：实现路由跳转的两种方式
- Flask 上下文源码解析
- 昇腾AI处理器软件栈--神经网络软件架构
- 8005.ros2 添加boost库asio编程
- 关于缓存穿透，缓存击穿，缓存雪崩，热点数据失效问题的解决方案
- 爬虫：python爬虫学习笔记之Beautifulsoup正则表达式
- Python学习中的知识点小记录(廖雪峰)
- ai人工智能操控什么意思_为什么AI会（永远）接管
- Python识别表格图_还在为员工的考勤记录保存在一行发愁吗，python帮你5秒搞定...
- Sublime text 2 无需注册码的破解方法，只改2个字节
- 马未都说收藏：陶瓷篇（8、9）元青花、永宣青花
- 广州小程序开发公司哪家好？广州小程序开发公司排行前十？
- Feelings on Life
- Redis占用大量内存并且报错 Can‘t save in background: fork: Cannot allocate memory