性能与压力测试

Posted 2021-09-10 合格的搬砖人

性能监控

jvm 内存模型

程序计数器 Program Counter Register：
■记录的是正在执行的虚拟机字节码指令的地址，
■此内存区域是唯 个在JAVA虚拟机规范中没有规定任何OutOfMemoryError的区
域

虚拟机：VM Stack
■描述的是JAVA方法执行的内存模型，每个方法在执行的时候都会创建一个栈帧, 用于存储局部变量表，操作数栈，动态链接，方法接口等信息
■局部变量表存储了编译期可知的各种基本数据类型、对象引用
■线程请求的栈深度不够会报StackOverflowError异常
■栈动态扩展的容量不够会报OutOfMemoryError异常
■虚拟机栈是线程隔离的，即每个线程都有自己独立的虚拟机栈
•本地方法：Native Stack
■ 本地方法栈类似于虚拟机栈，只不过本地方法栈使用的是本地方法
•堆：Heap
■ 几乎所有的对象实例都在堆上分配内存

堆

所有的对象实例以及数组都要在堆上分配。堆是垃圾收集器管理的主要区域，也被称为“GC 堆”；也是我们优化最多考虑的地方。
堆可以细分为：
•新生代
■Eden空间
■From Survivor 空间
■To Survivor 空间
•老年代
•永久代/元空间
■Java8以前永久代，受jvm管理，java8以后元空间，直接使用物理内存。因此， 默认情况下，元空间的大小仅受本地内存限制。

垃圾回收

从Java8开始，HotSpot已经完全将永久代(Permanent Generation)移除，取而代之的是一个新的区域一元空间(MetaSpace)

jconsole 与 jvisualvm

Jdk 的两个小工具 jconsole、jvisualvm（升级版的 jconsole）;通过命令行启动，可监控本地和 远程应用。远程应用需要配置

jvisualvm 能干什么

监控内存泄露，跟踪垃圾回收，执行时内存、cpu 分析，线程分析…

运行：正在运行的 休眠：sleep 等待：wait 驻留：线程池里面的空闲线程 监视：阻塞的线程，正在等待锁

安装插件方便查看 gc

•Cmd 启动 jvisualvm
•工具-> 插件


• 如果503错误解决：
■打开网址 https://visualvm.github.io/pluginscenters.html
■ cmd查看自己的jdk版本，找到对应的

■ 复制下面查询出来的链接。并重新设置上即可

监控指标

中间件指标

•当前正在运行的线程数不能超过设定的最大值。一般情况下系统性能较好的情况下，线 程数最小值设置50和最大值设置200比较合适。
•当前运行的JDBC连接数不能超过设定的最大值。一般情况下系统性能较好的情况下， JDBC最小值设置50和最大值设置200比较合适。
•GC频率不能频繁，特别是FULLGC更不能频繁，一般情况下系统性能较好的情况下， JVM最小堆大小和最大堆大小分别设置1024M比较合适。

数据库指标

•SQL耗时越小越好，一般情况下微秒级别。
•命中率越高越好，一般情况下不能低于95%。
•锁等待次数越低越好，等待时间越短越好。
• 中间件越多，性能损失越大，大多都损失在网络交互了。
• 业务：
■Db （mysql 优化）
■模板的渲染速度（缓存）
■静态资源

JVM分析&调优

jvm调优，调的是稳定，并不能带给你性能的大幅提升。服务稳定的重要性就不用多说了， 保证服务的稳定，gc永远会是Java程序员需要考虑的不稳定因素之一。复杂和高并发下的 服务，必须保证每次gc不会出现性能下降，各种性能指标不会出现波动，gc回收规律而且 干净，找到合适的jvm设置。Full gc最会影响性能，根据代码问题，避免full gc频率。可以 适当调大年轻代容量，让大对象可以在年轻代触发yong gc，调整大对象在年轻代的回收频 次，尽可能保证大对象在年轻代回收，减小老年代缩短回收时间

压力测试

压力测试考察当前软硬件环境下系统所能承受的最大负荷并帮助找出系统瓶颈所在。压测都 是为了系统在线上的处理能力和稳定性维持在一个标准范围内，做到心中有数。
使用压力测试，我们有希望找到很多种用其他测试方法更难发现的错误。有两种错误类型是: 内存泄漏，并发与同步。
有效的压力测试系统将应用以下这些关键条件:重复，并发，量级，随机变化。

性能指标

•响应时间(Response Time: RT)
响应时间指用户从客户端发起一个请求开始，到客户端接收到从服务器端返回的响 应结束，整个过程所耗费的时间。
•HPS(Hits Per Second):每秒点击次数，单位是次/秒。
•TPS (Transaction per Second):系统每秒处理交易数，单位是笔/秒。
•QPS(Query per Second):系统每秒处理查询次数，单位是次/秒。
对于互联网业务中，如果某些业务有且仅有一个请求连接，那么TPS=QPS=HPS, 一 般情况下用TPS来衡量整个业务流程，用QPS来衡量接口查询次数，用HPS来表 示对服务器单击请求。
•无论TPS、QPS、HPS，此指标是衡量系统处理能力非常重要的指标，越大越好，根据经 验，一般情况下：
金融行业：1000TPS~50000TPS，不包括互联网化的活动
保险行业：100TPS~100000TPS，不包括互联网化的活动
制造行业：10TPS~5000TPS
互联网电子商务：10000TPS~1000000TPS
互联网中型网站：1000TPS~50000TPS
互联网小型网站：500TPS~10000TPS
•最大响应时间(Max Response Time)指用户发出请求或者指令到系统做出反应(响应) 的最大时间。
•最少响应时间(Mininum ResponseTime)指用户发出请求或者指令到系统做出反应(响 应)的最少时间。
•90%响应时间(90% Response Time)是指所有用户的响应时间进行排序，第90%的响
应时间。
• 从外部看，性能测试主要关注如下三个指标
吞吐量：每秒钟系统能够处理的请求数、任务数。 响应时间：服务处理一个请求或一个任务的耗时。 错误率：一批请求中结果出错的请求所占比例。

JMeter

JMeter 安装

下载地址
下载对应的压缩包，解压运行jmeter.bat即可

JMeter压测示例

添加线程组

线程组参数详解：
•线程数：虚拟用户数。一个虚拟用户占用一个进程或线程。设置多少虚拟用户数在这里 也就是设置多少个线程数。
•Ramp-Up Period（in seconds）准备时长：设置的虚拟用户数需要多长时间全部启动。如果 线程数为10,准备时长为2,那么需要2秒钟启动10个线程，也就是每秒钟启动5个 线程。
•循环次数：每个线程发送请求的次数。如果线程数为10,循环次数为100,那么每个线 程发送100次请求。总请求数为10*100=1000。如果勾选了“永远〃，那么所有线程会 一直发送请求，一到选择停止运行脚本。
•Delay Thread creation until needed：直到需要时延迟线程的创建。
•调度器：设置线程组启动的开始时间和结束时间（配置调度器时，需要勾选循环次数为 永远）
•持续时间（秒）：测试持续时间，会覆盖结束时间
•启动延迟（秒）：测试延迟启动时间，会覆盖启动时间
•启动时间：测试启动时间，启动延迟会覆盖它。当启动时间已过，手动只需测试时当前 时间也会覆盖它。
•结束时间：测试结束时间，持续时间会覆盖它。

添加 HTTP 请求

添加监听器

启动压测&查看分析结果

结果分析

• 有错误率同开发确认,确定是否允许错误的发生或者错误率允许在多大的范围内；
• Throughput吞吐量每秒请求的数大于并发数，则可以慢慢的往上面增加；若在压测的机 器性能很好的情况下，出现吞吐量小于并发数，说明并发数不能再增加了，可以慢慢的 往下减，找到最佳的并发数；
• 压测结束，登陆相应的web服务器查看CPU等性能指标，进行数据的分析；
• 最大的tps，不断的增加并发数，加到tps达到一定值开始出现下降，那么那个值就是 最大的tps。
• 最大的并发数：最大的并发数和最大的tps是不同的概率，一般不断增加并发数，达到 一个值后，服务器出现请求超时，则可认为该值为最大的并发数。
• 压测过程出现性能瓶颈，若压力机任务管理器查看到的cpu、网络和cpu都正常，未达
  到90%以上，则可以说明服务器有问题，压力机没有问题。
• 影响性能考虑点包括：
  数据库、应用程序、中间件（tomact、nginx）、网络和操作系统等方面
• 首先考虑自己的应用属于CPU密集型还是IO密集型

JMeter Address Already in use 错误解决

windows本身提供的端口访问机制的问题。
Windows提供给TCP/IP链接的端口为1024-5000，并且要四分钟来循环回收他们。就导致 我们在短时间内跑大量的请求时将端口占满了。
1.cmd中，用regedit命令打开注册表
2.在 HKEY_LOCAL_MACHINE\\SYSTEM\\CurrentControlSet\\Services\\Tcpip\\Parameters 下，
1.右击 parameters，添加一个新的 DWORD，名字为 MaxUserPort
2 .然后双击MaxUserPort，输入数值数据为65534，基数选择十进制（如果是分布式运 行的话，控制机器和负载机器都需要这样操作哦）
3.修改配置完毕之后记得重启机器才会生效
https://support.microsoft.com/zh-cn/help/196271/when-you-try-to-connect-from-tcp-ports-grea ter-than-5000-you-receive-t
TCPTimedWaitDelay： 30