스레드 풀 생성 시 Executors 사용을 지양하고 ThreadPoolExecutor를 직접 사용해야 하는 이유

스레드 풀의 정의와 필요성

스레드 풀(Thread Pool)은 작업자 스레드들의 집합을 관리하고 재사용하는 설계 패턴입니다. 스레드 풀을 활용하면 다음과 같은 이점을 얻을 수 있습니다.

  • 리소스 효율성: 스레드 생성 및 소멸에 드는 비용을 줄여 메모리 사용량을 최적화합니다.
  • 반응성 향상: 요청이 들어올 때마다 스레드를 생성하는 대신 기존 스레드를 할당하여 처리 지연을 최소화합니다.
  • 안정성 확보: 무분별한 스레드 생성으로 인한 시스템 과부하와 OutOfMemoryError(OOM)를 방지합니다.

ThreadPoolExecutor 구조 이해

Executors 유틸리티 클래스가 제공하는 정적 팩토리 메서드들은 내부적으로 ThreadPoolExecutor 객체를 반환합니다. 하지만 이러한 편의 메서드들은 설정을 미리 지정해두기 때문에 운영 환경에서는 리스크가 큽니다. 따라서 ThreadPoolExecutor의 생성자를 직접 호출하여 파라미터를 명시하는 것이 좋습니다.

ThreadPoolExecutor의 핵심 생성자 파라미터는 다음과 같습니다.

  • corePoolSize: 스레드 풀에서 상시 유지할 기본 스레드 수입니다.
  • maximumPoolSize: 풀이 확장될 수 있는 최대 스레드 수입니다.
  • keepAliveTime: corePoolSize보다 초과된 스레드가 유휴 상태로 유지될 수 있는 최대 시간입니다.
  • unit: keepAliveTime의 시간 단위입니다.
  • workQueue: 작업이 실행되기 전에 대기하는 큐(BlockinQueue)입니다.
  • threadFactory: 새로운 스레드를 생성할 때 사용하는 팩토리입니다.
  • handler: 작업 큐가 가득 차고 최대 스레드 수에 도달했을 때의 거부 정책(RejectedExecutionHandler)입니다.

작업 실행 흐름

스레드 풀에 작업(Runnable)이 제출되면 다음 순서로 처리가 진행됩니다.

  1. 현재 실행 중인 스레드 수가 corePoolSize 미만이면, 새로운 스레드를 생성하여 작업을 실행합니다.
  2. corePoolSize 이상이라면, 작업을 workQueue에 넣습니다.
  3. 큐가 꽉 찼다면, maximumPoolSize까지 새로운 스레드를 생성하여 작업을 실행합니다.
  4. 최대 스레드 수에 도달했고 큐도 꽉 찼다면, handler에 정의된 거부 정책을 수행합니다.

Executors 사용의 위험성 분석

Executors를 사용하여 생성되는 대표적인 세 가지 스레드 풀과 그 문제점을 분석해 보겠습니다.

1. Executors.newCachedThreadPool()

이 메서드는 필요할 때마다 스레드를 생성하고, 유휴 스레드는 60초 후에 회수합니다. 내부 구조를 보면 SynchronousQueue를 사용하며 최대 스레드 수가 Integer.MAX_VALUE로 설정되어 있습니다.

// 내부 구조와 유사한 설정
ExecutorService cachedPool = new ThreadPoolExecutor(
    0, 
    Integer.MAX_VALUE, 
    60L, TimeUnit.SECONDS, 
    new SynchronousQueue<Runnable>()
);

문제는 요청이 폭주할 때 스레드 생성을 제한하지 않는다는 점입니다. Integer.MAX_VALUE는 실제 무한대나 다름없으므로, 시스템 메모리가 고갈되어 OOM이 발생할 위험이 매우 높습니다.

2. Executors.newFixedThreadPool(int nThreads)

지정된 개수(nThreads)만큼의 스레드를 고정적으로 유지합니다. LinkedBlockingQueue를 사용하며 이 큐의 기본 용량은 Integer.MAX_VALUE입니다.

// 내부 구조와 유사한 설정
ExecutorService fixedPool = new ThreadPoolExecutor(
    nThreads, 
    nThreads, 
    0L, TimeUnit.MILLISECONDS, 
    new LinkedBlockingQueue<Runnable>()
);

여기서 문제는 maximumPoolSize가 corePoolSize와 같아 스레드 수는 제한되지만, 작업을 저장하는 큐에 제한이 없다는 점입니다. 작업 생성 속도가 소비 속도보다 빠르면 큐가 무한히 커지며 결국 메모리 부족 오류를 유발합니다.

3. Executors.newSingleThreadExecutor()

단일 스레드로 작업을 처리하는 FixedThreadPool의 특수한 형태입니다. 역시 LinkedBlockingQueue를 사용하므로 위와 동일한 OOM 리스크를 내포하고 있습니다.

OutOfMemoryError 재현 테스트

newCachedThreadPool을 사용하여 시스템 리소스를 고갈시키는 테스트 코드를 작성해 보겠습니다. 실행을 위해 JVM 메모리 옵션(-Xms10m -Xmx10m)을 제한하여 설정해야 합니다.

import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;

public class OOMSimulation {
    public static void main(String[] args) {
        // 위험한 CachedThreadPool 사용 (권장하지 않음)
        ExecutorService executor = Executors.newCachedThreadPool();
        long taskCounter = 0;
        
        while (true) {
            taskCounter++;
            try {
                executor.execute(() -> {
                    // 스레드가 즉시 종료되지 않도록 대기 (OOM 유도)
                    try {
                        Thread.sleep(Long.MAX_VALUE);
                    } catch (InterruptedException e) {
                        Thread.currentThread().interrupt();
                    }
                });
            } catch (Exception e) {
                System.err.println("Exception occurred at task count: " + taskCounter);
                e.printStackTrace();
                break;
            }
        }
    }
}

위 코드를 실행하면 스레드가 계속 생성되다가 결국 java.lang.OutOfMemoryError: unable to create new native thread 또는 힙 메모리 관련 OOM이 발생합니다.

안전한 스레드 풀 설정 가이드

운영 환경에서 안전한 스레드 풀을 구축하기 위해서는 ThreadPoolExecutor를 직접 사용하고 시스템 상황에 맞는 파라미터를 설정해야 합니다.

1. 적절한 풀 크기 산정

  • CPU 집중형 작업: 코어 수와 비슷하게 설정합니다. (예: Runtime.getRuntime().availableProcessors() + 1)
  • I/O 집중형 작업: 코어 수보다 많게 설정하여 I/O 대기 시간 동안 다른 작업을 처리하게 합니다.

2. 유한한 큐(Fixed Queue) 사용

LinkedBlockingQueue 생성 시 용량을 지정하여 무한한 메모리 사용을 방지해야 합니다.

BlockingQueue<Runnable> workQueue = new LinkedBlockingQueue<>(1000); // 최대 1000개까지만 대기

3. 거부 정책(Rejection Policy) 처리

기본 정책인 AbortPolicy는 예외를 던지므로, 상황에 따라 더 유연한 정책을 선택하거나 커스텀 핸들러를 구현해야 합니다.

  • CallerRunsPolicy: 작업을 호출한 스레드(보통 메인 스레드)가 직접 실행합니다. 이는 스로틀링(Throttling) 효과를 주어 시스템 부하를 완화합니다.
  • Custom Handler: 로그를 남기거나 다른 저장소에 실패한 작업을 기록하는 로직을 직접 구현합니다.

결론적으로 Executors의 편의 메서드보다는 ThreadPoolExecutor를 사용하여 큐 용량, 최대 스레드 수, 거부 정책을 명시적으로 제어하는 것이 안정적인 애플리케이션 개발의 필수 요소입니다.

태그: java ThreadPoolExecutor concurrency Executors OOM

10월 12일 16:10에 게시됨