一、性能监控
- 1. JVM 内存模型
- 2. 堆
- 3. JConsole 与 JVisualVm
- - ① 用途
  - ② 安装插件方便查看 gc
- 4. 监控指标
- - ① 中间件指标
  - ② 数据库指标
- 五、JVM 分析&调优
- - ① 几个常用工具
  - ② 命令示例
  - ③ 调优项
二、压力测试
- 1. 性能指标
- 2. JMeter
- - ① JMeter 安装
  - ② 使用示例
- 3、JMeter Address Already in use 错误解决
三、优化
- 1. 首页渲染优化
- 2. Nginx 动静分离

一、性能监控

1. JVM 内存模型

程序计数器 Program Counter Register：
- 记录的是正在执行的虚拟机字节码指令的地址，
- 此内存区域是唯一一个在JAVA虚拟机规范中没有规定任何OutOfMemoryError的区域
虚拟机：VM Stack
- 描述的是 JAVA 方法执行的内存模型，每个方法在执行的时候都会创建一个栈帧，用于存储局部变量表，操作数栈，动态链接，方法接口等信息
- 局部变量表存储了编译期可知的各种基本数据类型、对象引用
- 线程请求的栈深度不够会报 StackOverflowError 异常
- 栈动态扩展的容量不够会报 OutOfMemoryError 异常
- 虚拟机栈是线程隔离的，即每个线程都有自己独立的虚拟机栈
本地方法：Native Stack
- 本地方法栈类似于虚拟机栈，只不过本地方法栈使用的是本地方法 堆：Heap
几乎所有的对象实例都在堆上分配内存

2. 堆

所有的对象实例以及数组都要在堆上分配。堆是垃圾收集器管理的主要区域，也被称为 “GC堆”；也是我们优化最多考虑的地方。

堆可以细分为：

新生代
Eden 空间
From Survivor 空间
To Survivor 空间
老年代
永久代/元空间
Java 8 以前永久代，受 JVM 管理，java8 以后元空间，直接使用物理内存。因此，默认情况下，元空间的大小仅受本地内存限制。

垃圾回收

从 Java8 开始，HotSpot 已经完全将永久代 (Permanent Generation) 移除，取而代之的是一个新的区域—元空间 (MetaSpace)

3. JConsole 与 JVisualVm

JDK 的两个小工具 JConsole、JVisualVm (升级版的 JConsole)，通过命令行启动，可监控本地和远程应用。远程应用需要配置。

① 用途

监控内存泄露，跟踪垃圾回收，执行时内存、cpu 分析，线程分析…

运行：正在运行的
休眠：sleep
等待：wait
驻留：线程池里面的空闲线程
监视：阻塞的线程，正在等待锁

② 安装插件方便查看 gc

4. 监控指标

① 中间件指标

当前正在运行的线程数不能超过设定的最大值。一般情况下系统性能较好的情况下，线程数最小值设置 50 和最大值设置 200 比较合适。
当前运行的 JDBC 连接数不能超过设定的最大值。一般情况下系统性能较好的情况下，JDBC 最小值设置 50 和最大值设置 200 比较合适。
Ｃ频率不能频繁，特别是 FULL GC 更不能频繁，一般情况下系统性能较好的情况下，JVM 最小堆大小和最大堆大小分别设置 1024M 比较合适。

② 数据库指标

SQL 耗时越小越好，一般情况下微秒级别。
命中率越高越好，一般情况下不能低于 95%。
锁等待次数越低越好，等待时间越短越好。

压测内容	压测线程数	吞吐量/s	90%响应时间	99%响应时间
Nginx	50	2335	11	944
Gateway	50	10367	8	31
简单服务	50	11341	8	17
首页一级菜单渲染	50	270(db，thymeleaf)	267	365
首页渲染（开缓存）	50	290	251	365
首页渲染（开缓存、优化数据库、关日志）	50	700	105	183
三级分类数据获取	50	2(db) 8(加索引)	…	…
三级分类（优化业务）	50	111	571	896
三级分类 (使用 redis 作为缓存)	50	411	153	217
首页全量数据获取	50	7(静态资源)
Nginx+Gateway	50
Gateway+简单服务	50	3126	30	125
全链路	50	800	88	310

中间件越多，性能损失越大，大多都损失在网络交互了；
业务：
- Db（MySQL 优化）
- 模板的渲染速度（缓存）
- 静态资源

五、JVM 分析&调优

JVM 调优，调的是稳定，并不能带给你性能的大幅提升。服务稳定的重要性就不用多说了，保证服务的稳定，gc 永远会是 Java 程序员需要考虑的不稳定因素之一。复杂和高并发下的服务，必须保证每次 gc 不会出现性能下降，各种性能指标不会出现波动，gc 回收规律而且干净，找到合适的 jvm 设置。Full gc 最会影响性能，根据代码问题，避免full gc 频率。可以适当调大年轻代容量，让大对象可以在年轻代触发 yong gc，调整大对象在年轻代的回收频次，尽可能保证大对象在年轻代回收，减小老年代缩短回收时间。

① 几个常用工具

工具	说明
jstack	查看 jvm 线程运行状态，是否有死锁现象等等信息
jinfo	可以输出并修改运行时的 java 进程的 opts。
jps	与 unix 上的 ps 类似，用来显示本地的 java 进程，可以查看本地运行着几个java程序，并显示他们的进程号。
jstat	一个极强的监视 VM 内存工具。可以用来监视 VM 内存内的各种堆和非堆的大小及其内存使用量。
jmap	打印出某个 java 进程（使用 pid）内存内的所有’对象’的情况（如：产生那些对象，及其数量）

② 命令示例

jstat 工具特别强大，有众多的可选项，详细查看堆内各个部分的使用量，以及加载类的数量。使用时，需加上查看进程的进程 id，和所选参数。

命令	说明
jstat -class pid	显示加载 class 的数量，及所占空间等信息
jstat -compiler pid	显示 VM 实时编译的数量等信息。
jstat -gc pid	可以显示 gc 的信息，查看 gc 的次数，及时间
jstat -gccapacity pid	堆内存统计，三代(young,old,perm)内存使用和占用大小
jstat -gcnew pid	新生代垃圾回收统计
jstat -gcnewcapacity pid	新生代内存统计
jstat -gcold pid	老年代垃圾回收统计

除了以上一个参数外，还可以同时加上两个数字，如：jstat -printcompilation 3024 250 6 是每 250 毫秒打印一次，一共打印 6 次，还可以加上 -h3 每三行显示一下标。

jstat -gcutil pid 1000 100 : 1000ms 统计一次 gc 情况统计 100 次

在使用这些工具前，先用 JPS 命令获取当前的每个 JVM 进程号，然后选择要查看的 JVM。

jinfo 是 JDK 自带的命令，可以用来查看正在运行的 java 应用程序的扩展参数，包括JavaSystem 属性和 JVM 命令行参数；也可以动态的修改正在运行的 JVM 一些参数。当系统崩溃时，jinfo 可以从 core 文件里面知道崩溃的 Java 应用程序的配置信息。

命令	说明
jinfo pid	输出当前 jvm 进程的全部参数和系统属性
jinfo -flag name pid	可以查看指定的 jvm 参数的值；打印结果：-无此参数，+有
jinfo -flag [+	-]name pid
jinfo -flag name=value pid	修改指定参数的值
jinfo -flags pid	输出全部的参数
jinfo -sysprops pid	输出当前 jvm 进行的全部的系统属性

jmap 可以生成 heap dump 文件，也可以查看堆内对象分析内存信息等，如果不使用这个命令，还可以使用 -XX:+HeapDumpOnOutOfMemoryError 参数来让虚拟机出现OOM的时候自动生成 dump 文件。

命令	说明
jmap -dump:live,format=b,file=dump.hprof pid	dump 堆到文件，format 指定输出格式，live 指明是活着的对象，file 指定文件名。eclipse 可以打开这个文件
jmap -heap pid	打印 heap 的概要信息，GC 使用的算法，heap 的配置和使用情况，可以用此来判断内存目前的使用情况以及垃圾回收情况
jmap -finalizerinfo pid	打印等待回收的对象信息
jmap -histo:live pid	打印堆的对象统计，包括对象数、内存大小等。
jmap -histo:live	这个命令执行，JVM 会先触发 gc，然后再统计信息
jmap -clstats pid	打印 Java 类加载器的智能统计信息，对于每个类加载器而言，对于每个类加载器而言，它的名称，活跃度，地址，父类加载器，它所加载的类的数量和大小都会被打印。此外，包含的字符串数量和大小也会被打印。
-F	强制模式。如果指定的 pid 没有响应，请使用 jmap -dump 或jmap -histo 选项。此模式下，不支持 live 子选项。jmap -F -histo pid

jstack 是 jdk 自带的线程堆栈分析工具，使用该命令可以查看或导出 Java 应用程序中线程堆栈信息。
jstack pid 输出当前 jvm 进程的全部参数和系统属性

③ 调优项

官方文档：https://docs.oracle.com/javase/8/docs/technotes/tools/unix/java.html#BGBCIEFC

二、压力测试

压力测试考察当前软硬件环境下系统所能承受的最大负荷并帮助找出系统瓶颈所在。压测都是为了系统在线上的处理能力和稳定性维持在一个标准范围内，做到心中有数。使用压力测试，我们有希望找到很多种用其他测试方法更难发现的错误。有两种错误类型是: 内存泄漏，并发与同步。

有效的压力测试系统将应用以下这些关键条件：重复，并发，量级，随机变化。

1. 性能指标

响应时间 (Response Time: RT) ：响应时间指用户从客户端发起一个请求开始，到客户端接收到从服务器端返回的响应结束，整个过程所耗费的时间。
HPS (Hits Per Second) ：每秒点击次数，单位是次/秒。
TPS (Transaction per Second)：系统每秒处理交易数，单位是笔/秒。
QPS (Query per Second) ：系统每秒处理查询次数，单位是次/秒。对于互联网业务中，如果某些业务有且仅有一个请求连接，那么TPS=QPS=HPS，一般情况下用 TPS 来衡量整个业务流程，用 QPS 来衡量接口查询次数，用HPS 来表示对服务器单击请求。
无论 TPS、QPS、HPS,此指标是衡量系统处理能力非常重要的指标，越大越好，根据经验，一般情况下：
- 金融行业：1000TPS~50000TPS，不包括互联网化的活动
- 保险行业：100TPS~100000TPS，不包括互联网化的活动
- 制造行业：10TPS~5000TPS
- 互联网电子商务：10000TPS~1000000TPS
- 互联网中型网站：1000TPS~50000TPS
- 互联网小型网站：500TPS~10000TPS
最大响应时间 (Max Response Time) 指用户发出请求或者指令到系统做出反应 (响应) 的最大时间。
最少响应时间 (Mininum ResponseTime) 指用户发出请求或者指令到系统做出反应 (响应) 的最少时间。
90%响应时间 (90% Response Time) 是指所有用户的响应时间进行排序，第90%的响应时间。
从外部看，性能测试主要关注如下三个指标
- 吞吐量：每秒钟系统能够处理的请求数、任务数。
- 响应时间：服务处理一个请求或一个任务的耗时。
- 错误率：一批请求中结果出错的请求所占比例。

2. JMeter

① JMeter 安装

https://jmeter.apache.org/download_jmeter.cgi 下载对应的压缩包，解压运行 jmeter.bat 即可

② 使用示例

A、添加线程组

线程组参数详解：

线程数：虚拟用户数。一个虚拟用户占用一个进程或线程。设置多少虚拟用户数在这里也就是设置多少个线程数。
Ramp-Up Period (in seconds) 准备时长：设置的虚拟用户数需要多长时间全部启动。如果线程数为 10，准备时长为 2，那么需要 2 秒钟启动 10 个线程，也就是每秒钟启动5 个线程。
循环次数：每个线程发送请求的次数。如果线程数为 10，循环次数为100，那么每个线程发送 100 次请求。总请求数为 10*100=1000 。如果勾选了“永远”，那么所有线程会一直发送请求，一到选择停止运行脚本。
Delay Thread creation until needed：直到需要时延迟线程的创建。
调度器：设置线程组启动的开始时间和结束时间(配置调度器时，需要勾选循环次数为永远)
持续时间 (秒)：测试持续时间，会覆盖结束时间
启动延迟 (秒)：测试延迟启动时间，会覆盖启动时间
启动时间：测试启动时间，启动延迟会覆盖它。当启动时间已过，手动只需测试时当前时间也会覆盖它。
结束时间：测试结束时间，持续时间会覆盖它。

B、添加 HTTP 请求

C、添加监听器

D、启动压测&查看分析结果

结果分析

有错误率同开发确认，确定是否允许错误的发生或者错误率允许在多大的范围内；
Throughput 吞吐量每秒请求的数大于并发数，则可以慢慢的往上面增加；若在压测的机器性能很好的情况下，出现吞吐量小于并发数，说明并发数不能再增加了，可以慢慢的往下减，找到最佳的并发数；
压测结束，登陆相应的 web 服务器查看 CPU 等性能指标，进行数据的分析;
最大的 tps，不断的增加并发数，加到 tps 达到一定值开始出现下降，那么那个值就是最大的 tps。
最大的并发数：最大的并发数和最大的 tps 是不同的概率，一般不断增加并发数，达到一个值后，服务器出现请求超时，则可认为该值为最大的并发数。
压测过程出现性能瓶颈，若压力机任务管理器查看到的 cpu、网络和cpu 都正常，未达到 90%以上，则可以说明服务器有问题，压力机没有问题。
影响性能考虑点包括：数据库、应用程序、中间件(tomact、Nginx)、网络和操作系统等方面
首先考虑自己的应用属于 CPU 密集型还是 IO 密集型

3、JMeter Address Already in use 错误解决

windows 本身提供的端口访问机制的问题。

Windows 提供给 TCP/IP 链接的端口为 1024-5000，并且要四分钟来循环回收他们。就导致我们在短时间内跑大量的请求时将端口占满了。

1、cmd 中，用 regedit 命令打开注册表

2、在 HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters 下

A、右击 parameters，添加一个新的 DWORD，名字为 MaxUserPort
B、然后双击 MaxUserPort，输入数值数据为 65534，基数选择十进制(如果是分布式运行的话，控制机器和负载机器都需要这样操作哦)

3、修改配置完毕之后记得重启机器才会生效

https://support.microsoft.com/zh-cn/help/196271/when-you-try-to-connect-from-tcp-ports-greater-than-5000-you-receive-t

TCPTimedWaitDelay：30

三、优化

1. 首页渲染优化

Thymeleaf 开启缓存

数据库字段加上索引

日志降级，只打印错误日志

2. Nginx 动静分离

新建 static 文件夹，我们将静态资源放到 static 文件夹下

上传项目中的静态资源到虚拟机中

index.html 页面中索取静态资源时路径加上 /static/

修改 nginx 配置，这样配置是由于做了外部挂载。。。。我们实际改的是 docker 中的 nginx

谷粒商城高级篇 (七) --------- 性能压测相关推荐

谷粒商城高级篇上（未完待续）
谷粒商城高级篇(上)保姆级整理之前整理了基础篇,Typora提示将近20000词,谷粒商城基础篇保姆级整理在学高级篇的时候,不知不觉又整理了两万多词,做了一阶段,先发出来,剩余部分整理好了再发.自 ...
谷粒商城高级篇笔记1
这里写自定义目录标题 0.ElasticSearch 1.Nginx配置域名问题 01.Nginx(反向代理) 配置 02.Nginx(负载均衡)+ 网关配置 03.Nginx动静分离 2.JMet ...
【谷粒商城高级篇】商品服务商品上架
谷粒商城笔记合集分布式基础篇分布式高级篇高可用集群篇 ===简介&环境搭建=== ===Elasticsearch=== 项目简介与分布式概念(第一.二章) Elasticsearch: ...
【谷粒商城高级篇】商城业务：商品检索
谷粒商城笔记合集分布式基础篇分布式高级篇高可用集群篇 ===简介&环境搭建=== ===Elasticsearch=== 项目简介与分布式概念(第一.二章) Elasticsearch: ...
【谷粒商城高级篇】Elasticsearch：全文检索
谷粒商城笔记合集分布式基础篇分布式高级篇高可用集群篇 ===简介&环境搭建=== ===Elasticsearch=== 项目简介与分布式概念(第一.二章) Elasticsearch: ...
【笔记/后端】谷粒商城高级篇
文章目录一.ElasticSearch 1 基本概念 2 安装 2.1 安装ElasticSearch 2.2 安装Kibana 3 初步检索 3.1 _cat 查看ES的节点信息 3.2 索引一个 ...
谷粒商城-高级篇-aiueo
105 初步检索 105.1 _cat GET /_cat/nodes : 查看所有节点 GET /_cat/health : 查看es健康状况 GET /_cat/master : 查看主节点 GE ...
谷粒商城高级篇资料_一文搞定剑指offer面试题【分文别类篇】
点击上方"蓝字",关注了解更多数组: 面试题3:数组中重复的数字面试题4:二维数组中的查找面试题21:调整数组顺序使奇数位于偶数前面面试题39:数组中出现次数超过一半的数字 ...
谷粒商城高级篇爬坑笔记--错误异常信息乱码问题
由于高级篇开发相对较多,配置的内容较少,本人编写过程中没有遇到特别大的问题,唯一的问题就是消息乱码: 项目定义了如下的异常类: UNKNOW_EXCEPTION(10000,"系统未知异常& ...

谷粒商城高级篇 (七) --------- 性能压测

目录

一、性能监控

1. JVM 内存模型

2. 堆

3. JConsole 与 JVisualVm