线程明明空闲,任务为什么还是被拒绝了?
线上偶发 RejectedExecutionException 告警时,我的第一反应是先翻线程池配置:核心线程 32,最大线程 32,队列长度 16。业务侧是按批提交任务的,每批干完才会塞下一批。单看纸面数字,这个池子明明留着余量,按理说不该触发拒绝策略。
先把队列调大后,报错确实停了。但这种止血只能说明故障跟“瞬时容量”有关,并没能解释刚才到底发生了什么。等顺着源码把整个链路摸了一遍我才意识到,以前我对 corePoolSize + queueCapacity 的理解太静态了——它只代表池子在某一时刻最多能兜住多少在途任务,可没答应过每次批量提交都能稳稳接住。
在两批任务之间加 Sleep,一点用都没有
把现场逻辑脱敏、砍掉业务枝节后,骨架大概长这样:
1 | ThreadPoolExecutor pool = new ThreadPoolExecutor( |
外层有 CountDownLatch 拦着,上一批任务没跑完,绝对不会进下一批。按我当时的算盘,32 个线程加上 16 个队列槽位,池子一共能吞下 48 个任务;只要单批任务数远小于 48,怎么都不至于报错。
我最先怀疑的是批次交接的瞬间:会不会上一批刚调完 countDown(),Worker 线程还没来得及收尾腾出空位,下一批就已经砸进来了?为了验证这个猜想,我在两批之间硬塞了个 sleep(100),后来干脆一路加到了 2 秒,结果照样崩。
这个测试直接把“上一批没撤干净”的嫌疑洗清了,但也把我逼到了真正的盲区:那 2 秒钟的停顿是卡在批次开头的;一旦进了内层 for 循环,主线程还是会在极短的几微秒内,像机关枪一样连续调几十次 execute。
拔掉 CountDownLatch,报错反而更看脸了
接着我把目光转向了 CountDownLatch。试着把 await() 拿掉之后,现象变得更诡异了:有时候能一口气多跑好几批,有时候刚跑两步就抛异常。就算把单批任务数往小了调,也只是降低了报错的概率,没法彻底根除。
看似更乱的现象,反而漏出了最关键的底牌——结果高度依赖当时的线程调度。 如果是死板的参数算错了,程序应该每次都精准地死在同一个地方;现在这种“时灵时不灵”的症状,十有八九是主线程往队列里塞任务、和 Worker 线程从队列里捞任务这两件事,在时间线上撞车了。
回头看,CountDownLatch 在这儿管的事其实很有限。它只能保证“上一批清空了再发下一批”,但根本管不住主线程在同一批里塞任务的有多快。哪怕上一批干干净净地收了工,下一批任务瞬间涌进来时,照样能把一个只有 16 格的短队列当场撑爆。
哪怕核心线程全闲着,新任务也得先去队列挂号
为了在本地盯死任务入队的每一个动作,我把线程池参数缩到了最简:2 个核心线程、2 个最大线程、队列长度只给 1,然后打断点跟进 ThreadPoolExecutor.execute()。
它的主干逻辑其实就三步:
- 如果当前工作线程数(
workerCount)小于corePoolSize,直接 new 一个核心线程把任务领走; - 如果工作线程数已经满了,就调
workQueue.offer()试着把任务塞进队列; - 如果连队列都塞不进了,再去试着建非核心线程;要是连
maximumPoolSize也到顶了,当场触发拒绝策略。
以前看这段代码最容易滑过去的一个细节是:第一步判断的是“池子里有几个注册在案的线程”,而不是“有几个线程正在干活”。
只要线程池预热完了,32 个核心线程哪怕全在摸鱼等活干,workerCount 也是实打实的 32。这时候主线程再丢新任务进来,第一步是直接跳过的——提交线程根本不会把活儿直接塞给某个闲着的 Worker,而是必须老老实实走第二步,先把任务扔进 workQueue,等那边阻塞在 take() 上的 Worker 自己醒过来认领。
而在 corePoolSize == maximumPoolSize 的固定线程池里,一旦第二步的 offer() 返回 false,第三步连扩容的机会都没有,默认的 AbortPolicy 啪一下就把 RejectedExecutionException 甩出来了。
长度为 1 的队列,把这几微秒的时间差扒得干干净净
把队列缩成 1 之后,翻车现场的慢动作回放是这样的:
1 | 池子里已经有 2 个 Worker 线程,此时全在空闲等活 |
说白了,ArrayBlockingQueue.offer() 是个一点脾气都不惯着的非阻塞方法:调用的那一纳秒有空位就返 true,没空位扭头就返 false,半点不会站在原地等消费者腾地方。Worker 线程确实在努力通过 take() 往外搬任务,但它能不能在主线程下一次 offer() 砸下来之前抢到 CPU 并把槽位腾出来,全看操作系统的调度脸色。

把这个锅扣在生产者与消费者“乱序”头上其实不太严谨,它就是标准并发模型下的正常时序竞争。主线程没义务停下来等 Worker 消费,而 ThreadPoolExecutor 故意用非阻塞的 offer(),本来就是为了在队列满载时能立刻切去扩容或者报错,好让调用方第一时间知道池子兜不住了。
这里还得补一块拼图:如果单批任务数严格小于等于队列长度(比如队列是 16,每批最多也就发 16 个),而且上一批真的彻底跑完了,那就算所有 Worker 都在睡觉、一个都没来得及取,这 16 个任务也该稳稳当当地全躺进队列里,绝对不会报错。换句话说,单拿文首那段脱敏后的简化代码,如果设定 batchSize <= 16,是复现不出异常的。当时线上之所以在 32/32/16 的配置下炸了,是因为单批塞进去的任务量(或者叠加其他共用池子的旁路任务后)本来就已经超过了 16 这个队列槽位数。只有当“单波连续提交量 > 队列剩余容量”时,上面那个抢时间片的生死竞速才会真正上演。
把队列拉长能止血,但别当成万金油
后来把队列从 16 扩到 160,相当于给缓冲区修了个大水库:哪怕 Worker 线程一时半会儿还没睡醒,主线程一口气砸过来的一整批任务也能全在队列里先蹲着,报错自然就消失了。
排查的时候我还做过一个野路子实验:自己写个包装队列,在 offer() 里面强行加一点自旋或短暂等待,给 Worker 留出取任务的时间窗口。实验里确实不报错了,但这纯属自欺欺人——它硬生生把非阻塞的 offer() 改成了半阻塞,靠拖慢主线程来掩盖问题,真上生产肯定要出别的乱子。换回标准的 ArrayBlockingQueue,异常立马原形毕露。
虽然这次线上故障最终是靠调大队列平息的,但队列长度真不能按“调到不报错为止”的路子去配。队列越长,抗瞬时毛刺的能力确实越强,但代价是任务在队列里干等的时间(RT)会被拉长,内存占用也会跟着涨。到底设多大,得把单批任务量、单个任务的执行耗时、业务能忍受的最大延迟摆在一起算总账。
如果上游提交方本身允许降速,其实还有两个更稳妥的抓手:要么在业务入口把单批的 batchSize 切小一点;要么把拒绝策略换成 CallerRunsPolicy。后者在队列满载时,会直接让提交任务的主线程自己把活儿干了——主线程一去干活,自然就没空接着往池子里狂塞新任务了,相当于天然形成了一道背压(Backpressure)。当然,前提是你的调用线程经得起这段阻塞。
踩完坑后的几点复盘
回头看,这次排查最让我栽跟头的,就是脑子里那个 32 + 16 = 48 的刻板算式。
这个总容量只有在特定的时间切片下才算数:线程池刚冷启动那会儿,前 32 个任务确实会直接触发创建核心线程,第 33 到 48 个任务进队列;可一旦池子跑热了、32 个 Worker 全员就位,哪怕它们全闲着,新来的任务也得一律先过队列这道独木桥。这时候,决定你能不能抗住一波瞬时并发循环的,往往不是那 32 个线程,而是那短短 16 格的队列,外加操作系统的线程调度手速。
所以以后再碰到线程池抛拒绝异常,不能光盯着 corePoolSize、maximumPoolSize 和 queueCapacity 这三个静态数字看,更得看任务砸进来那一瞬间的 poolSize、activeCount、队列水位以及主线程的提交速率。
把队列调大,本质上只是拿空间换时间,替系统多扛了一会儿突发洪峰,并没有让线程池干活的速度变快半分。往后再改这类参数,除了盯着拒绝次数归零,还得顺手看一眼高峰期的队列堆积深度和任务端到端耗时——别把显性的报错消掉了,却换成了隐性的全链路排队。