支持JDK19虚拟线程的web框架,之三:观察运行中的虚拟线程

Posted 程序员欣宸

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了支持JDK19虚拟线程的web框架,之三:观察运行中的虚拟线程相关的知识,希望对你有一定的参考价值。

欢迎访问我的GitHub

这里分类和汇总了欣宸的全部原创(含配套源码):https://github.com/zq2599/blog_demos

《支持JDK19虚拟线程的web框架》系列文章链接

本篇概览

  • 本篇是《支持JDK19虚拟线程的web框架》系列的第三篇,在前面两篇咱们一起了解和体验了支持虚拟线程的web服务,功能性能都试过,整个开发过程也完整执行,算是对quarkus和虚拟线程有了初步的了解,但也留下两个问题
  1. 虚拟线程和常规子线程的区别,究竟能不能看出来?前文已经验证了性能上区别不大,那还有别的方式来观察和区分吗?
  2. 能不能稍微深入一点,仅凭一个@RunOnVirtualThread注解就强行写两篇博客,实在是太忽悠人了
  • 本文聚焦第一个问题,与大家一起深入了解虚拟线程,重点在理论结合实际,将官方资料在实战中得到印证
  • 至于第二个问题,留待下一篇…

设置

  • 开始深入学习前有个设置需要确认,否则会导致访问服务失败,请打开前文开发的quarkus应用,下图红色箭头指向的配置必须存在,且值必须是0.0.0.0
  • 如果没有上述配置,IDEA启动的应用就只会监听127.0.0.1这块网卡,如此依赖外部测试工具访问此应用的服务就无法成功
  • 那么就开始吧:如何直观地、清楚地看出虚拟线程和常规子线程的区别?

准备工作

  • 工欲善其事…咱们先把必要的工具装上:IDEA的JProfiler插件,安装步骤如下图

  • 接下来请在自己电脑上安装JProfiler,注意,这一步必须要做,详细的安装和注(po)册(jie)过程就不写在本文中了,请自行搜索相关资料
  • 完成上述准备后,点击下图箭头所指按钮,这样就指定了JProfiler去监控分析启动后的应用进程
  • IDEA会拉起JProfiler
  • 出现新的窗口如下图,再点击右下角的确定按钮
  • 现在JProfiler已经在监控quarkus应用的进程了,界面如下
  • 如下图,点击线程历史菜单,就能看到当前应用进程内的所有线程,注意按照步骤2过滤一下,只看存活的线程
  • 接下来,咱们就要用JProfiler来观察常规线程和虚拟线程的区别了
  • 先回忆一下,前文中,咱们开发的quarkus应用有两个web服务类,分别是:
  1. VTPersonResource.java,该服务类使用了虚拟线程来执行web响应,对应web路径:/vt/persons

  2. PoolPersonResource.java,该服务类未使用虚拟线程,所以执行web响应的是传统线程池中的子线程,对应web路径:/pool/persons

  • 接下来,压测工具k6先后压测上述两个接口,用JProfiler观察进程中线程的变化情况

不使用虚拟线程时的线程状况

  • 咱们先发请求到/pool/persons,也就是先不用虚拟线程,看看传统线程池响应web服务的时候,在JProfiler中是啥样的
  • 《上篇》那样,用K6压测接口/pool/persons,脚本如下,注意IP地址不能用localhost,因为这是在docker容器内运行的,localhost代表容器的回环网卡,而并非宿主机的:
import http from 'k6/http';
import  sleep, check  from 'k6';

export let options = 
  vus: 10,
  duration: '60s',
;

export default function () 
  let r = Math.floor(Math.random() * 6) + 1;
  const res = http.get(`http://192.168.3.187:8080/pool/persons/$r`);
  check(res, 
    'is status 200': (res) => res.status === 200,
    'body size is > 0': (r) => r.body.length > 0,
  );
  sleep(1);

  • 在压测期间去看JProfiler,如下图红框,新增了10个线程,它们就是负责处理web响应的线程(前文的实战中,我们已见过web响应的内容,里面就有线程名称,红框中的和它们一致)

  • 下图是K6的测试报告,可见一共发起了570次请求,然而压测期间JProfiler上新增的线程只有上图中的十个,这也印证了线程池的逻辑:每个线程执行完业务逻辑后,回到线程池,下一次请求到来时,该线程继续执行业务逻辑
  • k6压测结束后,等上三十秒再去看JProfiler,如下图,那些处理web响应的子线程已经不见了(或者说不是存活状态了)
  • 如果您熟悉Java的线程池原理,对以上情况就一目了然:线程池空闲时,保留线程数不超过corePoolSize
  • 既然看过了传统线程池的服务情况,接着改看虚拟线程的情况了,两边对比着看收获一定不小

思考:用JProfiler观察虚拟线程,你到底想收获什么?(本篇精华段落)

  • 大家好,接下来这一段话,个人觉得是本篇的精华,因为这是欣宸自己在迷茫中找到方向的一种方法(或者套路),希望能给您带来参考

  • 在用JProfiler观察虚拟线程之前,咱们先来捋捋:接下来咱们究竟想看到什么,能用文字说清楚吗?这个问题很重要!

  • 仅仅是想看一眼虚拟线程吗?那无非就是看到几个新增的线程,名字有些特殊,仅此而已,这能有啥收获?

  • 不要急于动手,咱们都应该冷静下来,认真思考,让这个问题能用文字表达出来,而不是仅仅在心中有个运行JProfiler的冲动:借助JProfiler,咱们真正想要的是证虚拟线程的来龙去脉,也就是把官方文档中的理论,在JProfiler中找到实现!

  • 所以,先阅读虚拟线程的官方文档吧,放心,咱们只看最关键的部分即可,不会涉及长篇大论

  • 打开java官方文档,找到虚拟线程定义的那段,如下图,注意红框中的内容以及我的中文注解(我将下面这幅图称为本篇最有价值的地方)

  • 没错,官方文档虽多,但咱们没必要全看,上面这段才是关键,看完后捋捋流程图如下
  • 看到上图,您应该会有以下三个疑惑:
  1. ForkJoin线程池啥时候创建的?会不会销毁?
  2. 调度器(scheduler)啥时候创建的?会不会销毁?
  3. carrier啥时候创建的?会不会销毁?
  • 如果这些关键问题没说清楚,上面的流程图算不算是捋了个寂寞…
  • 要想搞清楚为什么没有回答上面三个问题,咱们把官方文档滚动到最顶部,如下图
  • 上图红框表明,这是一篇JEP文档,即: JDK Enhancement Proposal ,这类文档只提出标准,而非实现,真正实现的这个标准的,是各个JVM虚拟机厂家(例如Oracle),所以,要想回答上面三个问题,只能去查找具体JDK软件的实现
  • 简单的说:别纠结那三个问题,我答不上来…
  • 咱们继续,接下来更精彩
  • 看过官方资料后,再回到最初的问题,咱们想通过JProfiler得到什么?相信您已经很清楚了吧,我觉得是这三样:
  1. 调度器,scheduler(ForkJoin线程池中的线程)
  2. 执行虚拟线程任务的真实线程,carrier
  3. 虚拟线程
  • 现在开始压测吧,继续用k6,如下图,脚本中的地址要改成使用虚拟线程的web服务
  • 压测期间去观察JProfiler,如下图,完全符合预期,说实话,第一次看到这些内容时,自己的内心是很激动的,这种知识点得到印证的感觉真是太好了

  • 再看看那些不再存活的线程,如下图,大量VirtualThreads存在,这也符合虚拟线程的特性:不复用,执行完毕就结束

  • 等到压测结束后,scheduler、carrier、虚拟线程,它们都不再存活,如下图
  • 如此看来,在执行任务的时候,会出现sheduler和carrier来完成虚拟线程中的任务,等到这些任务执行完毕,所有真实线程、虚拟线程都被结束,不再存活
  • 至此,借助JProfiler观察常规线程和虚拟线程的实战就完成了,经过了这些理论结合实际的操作和分析,相信您对虚拟线程的认知已经更具体和全面,如今它不再神秘或者高深莫测,咱们也更有信心学好它用好它

我有个想法

  • 码字码到这里,我想抛出一个大胆的想法和大家一起讨论:今天咱们借助JProfiler观察到了scheduler、carrier、虚拟线程等的创建、运行、结束等过程,我这里用的虚拟机是azul JDK,所以JProfiler中看到的也只是azul JDK对虚拟线程规范的实现情况,如果换成其他JDK,例如Oracle JDK,那么在JProfiler中看到的scheduler、carrier、虚拟线程它们会不会有所不同呢?(例如scheduler可能会存活得久一些)毕竟JEP 425只是个标准,没有明确规定实现,而azul JDK和Oracle JDK属于不同厂商的实现
  • 当然了这只是个猜测,篇(lan)幅(de)所(dong)限(shou)就不在本篇做这些事情了,当我相信会有爱动手的读者去实战操作的,麻烦您告诉欣宸一下您的验证结果,谢谢啦!
  • 写到这里,虚拟线程的文章可以完结了吗?不会,接下来咱们还要畅游quarkus,揭秘@RunOnVirtualThread注解背后的故事,看看优秀的框架是如何玩转虚拟线程的,上广告词:欣宸原创,不辜负您的期待!

你不孤单,欣宸原创一路相伴

  1. Java系列
  2. Spring系列
  3. Docker系列
  4. kubernetes系列
  5. 数据库+中间件系列
  6. DevOps系列

以上是关于支持JDK19虚拟线程的web框架,之三:观察运行中的虚拟线程的主要内容,如果未能解决你的问题,请参考以下文章

支持JDK19虚拟线程的web框架,之一:体验

支持JDK19虚拟线程的web框架,之四:看源码,了解quarkus如何支持虚拟线程

支持JDK19虚拟线程的web框架,之四:看源码,了解quarkus如何支持虚拟线程

支持JDK19虚拟线程的web框架,之二:完整开发一个支持虚拟线程的quarkus应用

支持JDK19虚拟线程的web框架,之五(终篇):兴风作浪的ThreadLocal

支持JDK19虚拟线程的web框架,之五(终篇):兴风作浪的ThreadLocal