Tomcat修正JDK原生线程池bug的实现原理

 更新时间:2021年08月19日 10:33:21   作者:JavaEdge.  
这篇文章主要介绍了Tomcat是如何修正JDK原生线程池bug的,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下

为提高处理能力和并发度,Web容器一般会把处理请求的任务放到线程池,而JDK的原生线程池先天适合CPU密集型任务,于是Tomcat改造之。

Tomcat 线程池原理

其实ThreadPoolExecutor的参数主要有如下关键点:

限制线程个数

限制队列长度

而Tomcat对这俩资源都需要限制,否则高并发下CPU、内存都有被耗尽可能。
因此Tomcat的线程池传参:

// 定制的任务队列
taskqueue = new TaskQueue(maxQueueSize);

// 定制的线程工厂
TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
							                 daemon,
							                 getThreadPriority()
);

// 定制线程池
executor = new ThreadPoolExecutor(getMinSpareThreads(),
								  getMaxThreads(),
				 			      maxIdleTime, 
				 			      TimeUnit.MILLISECONDS,
				 			      taskqueue,
				 			      tf);

Tomcat对线程数也有限制,设置:

  • 核心线程数(minSpareThreads)
  • 最大线程池数(maxThreads)

Tomcat线程池还有自己的特色任务处理流程,通过重写execute方法实现了自己的特色任务处理逻辑:

  1. 前corePoolSize个任务时,来一个任务就创建一个新线程
  2. 再有任务,就把任务放入任务队列,让所有线程去抢。若队列满,就创建临时线程
  3. 总线程数达到maximumPoolSize,则继续尝试把任务放入任务队列
  4. 若缓冲队列也满了,插入失败,执行拒绝策略

和 JDK 线程池的区别就在step3,Tomcat在线程总数达到最大数时,不是立即执行拒绝策略,而是再尝试向任务队列添加任务,添加失败后再执行拒绝策略。

具体又是如何实现的呢?

public void execute(Runnable command, long timeout, TimeUnit unit) {
    submittedCount.incrementAndGet();
    try {
        // 调用JDK原生线程池的execute执行任务
        super.execute(command);
    } catch (RejectedExecutionException rx) {
       // 总线程数达到maximumPoolSize后,JDK原生线程池会执行默认拒绝策略
        if (super.getQueue() instanceof TaskQueue) {
            final TaskQueue queue = (TaskQueue)super.getQueue();
            try {
                // 继续尝试把任务放入任务队列
                if (!queue.force(command, timeout, unit)) {
                    submittedCount.decrementAndGet();
                    // 若缓冲队列还是满了,插入失败,执行拒绝策略。
                    throw new RejectedExecutionException("...");
                }
            } 
        }
    }
}

定制任务队列

Tomcat线程池的execute方法第一行:

submittedCount.incrementAndGet();

任务执行失败,抛异常时,将该计数器减一:

submittedCount.decrementAndGet();

Tomcat线程池使用 submittedCount 变量维护已提交到线程池,但未执行完的任务数量。

为何要维护这样一个变量呢?

Tomcat的任务队列TaskQueue扩展了JDK的LinkedBlockingQueue,Tomcat给了它一个capacity,传给父类LinkedBlockingQueue的构造器。

public class TaskQueue extends LinkedBlockingQueue<Runnable> {

  public TaskQueue(int capacity) {
      super(capacity);
  }
  ...
}

capacity参数通过Tomcat的maxQueueSize参数设置,但maxQueueSize默认值Integer.MAX_VALUE:当前线程数达到核心线程数后,再来任务的话线程池会把任务添加到任务队列,并且总会成功,就永远无机会创建新线程了。

为解决该问题,TaskQueue重写了LinkedBlockingQueue#offer,在合适时机返回false,表示任务添加失败,这时线程池就会创建新线程。

什么叫合适时机?

public class TaskQueue extends LinkedBlockingQueue<Runnable> {

  ...
   @Override
  // 线程池调用任务队列的方法时,当前线程数 > core线程数
  public boolean offer(Runnable o) {

      // 若线程数已达max,则不能创建新线程,只能放入任务队列
      if (parent.getPoolSize() == parent.getMaximumPoolSize()) 
          return super.offer(o);
          
      // 至此,表明 max线程数 > 当前线程数 > core线程数
      // 说明可创建新线程:
      
      // 1. 若已提交任务数 < 当前线程数
      //    表明还有空闲线程,无需创建新线程
      if (parent.getSubmittedCount()<=(parent.getPoolSize())) 
          return super.offer(o);
          
      // 2. 若已提交任务数 > 当前线程数
      //    线程不够用了,返回false去创建新线程
      if (parent.getPoolSize()<parent.getMaximumPoolSize()) 
          return false;
          
      // 默认情况下总是把任务放入任务队列
      return super.offer(o);
  }
  
}

所以Tomcat维护 已提交任务数 是为了在任务队列长度无限时,让线程池还能有机会创建新线程。

到此这篇关于Tomcat是如何修正JDK原生线程池bug的的文章就介绍到这了,更多相关Tomcat JDK原生线程池内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • Nginx/Httpd反代tomcat配置教程

    Nginx/Httpd反代tomcat配置教程

    这篇文章主要介绍了Nginx/Httpd反代tomcat配置教程以及一些常见的反代服务器,本文通过图文的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-07-07
  • 解决IDEA配置tomcat启动报错问题

    解决IDEA配置tomcat启动报错问题

    这篇文章主要介绍了解决IDEA配置tomcat启动报错问题,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-09-09
  • 详解Tomcat是如何实现异步Servlet的

    详解Tomcat是如何实现异步Servlet的

    这篇文章主要介绍了详解Tomcat是如何实现异步Servlet的,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-10-10
  • Python Flask微信小程序登录流程及登录api实现代码

    Python Flask微信小程序登录流程及登录api实现代码

    这篇文章主要介绍了Python Flask微信小程序登录流程及登录api实现方法,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-06-06
  • Tomcat安装配置方法图文教程

    Tomcat安装配置方法图文教程

    这篇文章主要为大家详细介绍了Tomcat安装配置方法图文教程,java环境变量如何配置,Eclipse安装配置方法图文教程 ,为大家分享了三个教程,感兴趣的小伙伴们可以参考一下
    2016-06-06
  • Tomcat高效部署与性能优化方式

    Tomcat高效部署与性能优化方式

    本文介绍了如何高效部署Tomcat并进行性能优化,以确保Web应用的稳定运行和高效响应,高效部署包括环境准备、安装Tomcat、配置Tomcat、部署应用和启动Tomcat,性能优化包括调整JVM参数、优化连接池、启用压缩功能、禁用不必要的组件和监控与调优
    2025-02-02
  • CentOS系统下安装Tomcat7的过程详解

    CentOS系统下安装Tomcat7的过程详解

    今天开始学习Tomcat7 ,学习前首先需要安装,我用的系统是CentOS系统,所以下面这篇文章主要介绍了CentOS系统下安装Tomcat7的过程,需要的朋友可以参考下,下面来一起看看吧。
    2016-12-12
  • Tomcat之配置文件的具体使用

    Tomcat之配置文件的具体使用

    Tomcat服务器的配置文件主要在conf文件夹中,本文就详细的来介绍一下Tomcat之配置文件的具体使用,具有一定参考价值,感兴趣的可以了解一下
    2023-10-10
  • 快速解决Tomcat启动慢的问题,超简单

    快速解决Tomcat启动慢的问题,超简单

    这篇文章主要介绍了快速解决Tomcat启动慢的问题,超简单!具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-10-10
  • Windows如何设置定时重启Tomcat

    Windows如何设置定时重启Tomcat

    本文主要介绍了Windows如何设置定时重启Tomcat,可以使用Windows系统的计划任务程序,在这里设置定时执行的.bat批处理文件,具有一定的参考价值,感兴趣的可以了解一下
    2024-01-01

最新评论