대용량 분석 리포트 API 지연 해소: 코드 리팩토링 및 JVM 튜닝

성능 병목 진단 및 분석 환경

이벤트 추적 데이터를 기반으로 한 리포트 분석 기능에서 약 3만 건의 레코드 처리 시 응답 지연(30s Timeout)이 발생하는 현상을 해결하였다. 데이터베이스 쿼리 실행 계획 분석 결과 인덱스가 정상적으로 적용되어 있어, 병목 지점은 애플리케이션 계층의 객체 라이프사이클 관리, 정렬 로직, 수식 연산, 그리고 JVM 메모리 할당 전략에 집중되었다. 문제 해결을 위해 Arthas를 활용한 메서드 단위 트레이싱, JProfiler 및 VisualVM을 통한 히프 영역 사용량 모니터링, GC 로그 분석을 병행하였다.

차원 정렬 로직의 비교 연산 최적화

차원(Dimension) 데이터 정렬 과정에서 `Comparator` 구현체 내부에 구현된 동적 타입 추론 로직이 주요 지연 원인으로 확인되었다. 기존 구현은 매 비교 호출마다 문자열을 수치형, 날짜형, 일반 문자형으로 순차적으로 파싱 시도하며, 이 과정에서 임의 객체가 대량 생성되어 빈번한 Minor GC를 유발했다.

해결 방안으로 정렬 대상의 데이터 타입을 사전에 명시적으로 전달받도록 아키텍처를 변경하고, `ConcurrentHashMap` 기반의 로컬 캐시를 도입하여 파싱 결과를 재사용하도록 구조를 개편하였다.

public class DimensionSortEngine {
    private final ConcurrentMap> resolvedCache = new ConcurrentHashMap<>();
    private final SortDirection direction;

    public DimensionSortEngine(SortDirection direction) {
        this.direction = direction;
    }

    public int evaluate(String leftRaw, String rightRaw) {
        Comparable leftParsed = cacheAndParse(leftRaw);
        Comparable rightParsed = cacheAndParse(rightRaw);
        
        return direction == SortDirection.ASCENDING
                ? leftParsed.compareTo(rightParsed)
                : rightParsed.compareTo(leftParsed);
    }

    private Comparable cacheAndParse(String value) {
        return resolvedCache.computeIfAbsent(value, this::parseExplicitly);
    }

    private Comparable parseExplicitly(String raw) {
        // 사전 설정된 타입 정보에 따른 파싱 (try-catch 블록 기반 추론 제거)
        DataType targetType = resolveTargetType(raw);
        return switch (targetType) {
            case NUMERIC -> Double.parseDouble(raw);
            case TEMPORAL -> LocalDateTime.parse(raw, DateTimeFormatter.ISO_LOCAL_DATE_TIME);
            default -> raw;
        };
    }
}

지표 연산 루프 내 객체 생성 제어

지표 계산 루프 내부에서 매 반복마다 `Calculator` 인스턴스, 컨텍스트 DTO, `DecimalFormat`을 생성하는 패턴이 관찰되었다. 특히 `NumberFormat.getInstance()`는 Locale 기반 인스턴스를 생성하는 오버헤드가 있어, 반복 실행 시 메모리 할당 부하가 누적된다.

계산기 클래스를 상태 비저장(Stateless) 유틸리티로 전환하여 정적 상수로 관리하고, 반복문 외부에서 단일 컨텍스트 객체를 재사용하도록 수정하였다. 포맷팅 패턴과 `DecimalFormat` 인스턴스도 정적 캐시 계층으로 분리하였다.

public final class MetricAggregator {
    public static final MetricAggregator SINGLETON = new MetricAggregator();
    private static final Map PATTERN_REGISTRY = new ConcurrentHashMap<>();
    private static final Map FORMATTER_REGISTRY = new ConcurrentHashMap<>();

    private MetricAggregator() {}

    public String computeAggregation(AggregationContext ctx) {
        // 컨텍스트 상태 갱신 (객체 재사용)
        ctx.refreshCurrentRow(ctx.fetchCurrentDimension());
        Double rawMetric = ctx.getFormulaEngine().calculate(ctx);
        return formatValue(rawMetric, ctx.getPrecision());
    }

    private String formatValue(double num, int digits) {
        String pattern = PATTERN_REGISTRY.computeIfAbsent(digits, d -> "#." + "#".repeat(d));
        DecimalFormat formatter = FORMATTER_REGISTRY.computeIfAbsent(pattern, p -> {
            DecimalFormat df = (DecimalFormat) NumberFormat.getInstance(Locale.KOREA);
            df.setRoundingMode(RoundingMode.HALF_UP);
            df.applyPattern(p);
            return df;
        });
        return formatter.format(num);
    }
}

수식 필터링 및 직렬화 오버헤드 개선

Arthas의 `trace` 명령어를 통해 `FormulaEvaluator` 실행 경로를 분석한 결과, 조건부 필터링 로직 내 `createContextMap` 메서드에서 JSON 역직렬화가 병목으로 작용함을 확인했다. 데이터베이스에서 조회된 트래킹 데이터의 페이로드 필드가 매 필터링 호출마다 반복적으로 역직렬화되며 CPU 사이클을 소모하고 있었다.

해결책으로 데이터 적재 단계에서 JSON 페이로드를 1회 역직렬화하여 전용 데이터 클래스에 매핑하고, 이후 모든 계산 및 필터링 과정에서는 기 변환된 객체 레퍼런스를 직접 참조하도록 변경하였다.

public final class EnrichedTrackingRecord {
    private final Long recordId;
    private final Map coreFields;
    private final PayloadContext preParsedPayload;

    public EnrichedTrackingRecord(RawTrackingRow raw) {
        this.recordId = raw.getId();
        this.coreFields = BeanToMapConverter.convert(raw);
        // 조회 시점에 1회만 역직렬화 수행
        this.preParsedPayload = JsonMapper.deserialize(raw.getPayloadJson(), PayloadContext.class);
    }

    public Map buildFilterContext() {
        Map context = new HashMap<>(coreFields);
        context.putAll(preParsedPayload.getFlattenedAttributes());
        return context;
    }
}

응답 페이로드 축소 및 전송 계층 튜닝

분석 결과 JSON 응답의 구조가 과도하게 중첩되어 있고, 불필요한 키가 다수 포함되어 있어 네트워크 대역폭을 비효율적으로 점유하고 있었다. 다음 조치를 통해 페이로드 크기를 약 50% 절감하였다.

  • 프론트엔드에서 사용하지 않는 필드를 응답 직렬화 설정에서 제외.
  • 반복되는 JSON 키의 명칭을 축약형으로 매핑.
  • Spring Boot의 기본 압축 모듈 활성화: server.compression.enabled=true, min-response-size=2097152 설정 적용으로 gzip 인코딩을 자동으로 처리.

JVM 메모리 할당 및 가비지 컬렉션 최적화

대용량 데이터를 인메모리에서 집계하는 작업 특성상, 고정된 히프 크기는 OOM 또는 GC Stop-The-World 지연을 유발할 수 있다. 단일 쿼리 결과 제한치를 (최대 히프 크기 - 안전 마진) / 개체 평균 크기 공식으로 동적으로 계산하여 메모리 과적재를 방지하였다.

또한 G1 컬렉터 환경에서 -XX:+UseStringDeduplication 플래그를 활성화하였다. JSON 파싱 과정에서 발생하는 동일한 리터럴 문자열 인스턴스를 내부적으로 공유하여, 중복 참조 제거를 통해 히프 점유율을 평균 15% 이상 절감하였다. -XX:+PrintStringDeduplicationStatistics 로그 확인 결과, 약 22만 개의 문자열 중 88% 이상이 중복으로 식별되어 메모리 사용량이 21MB에서 2.1MB 수준으로 축소됨을 검증하였다.

태그: g1-gc-string-deduplication arthas-trace-profiling spring-boot-response-compression aviator-expression-cache json-deserialization-optimization

10월 15일 20:21에 게시됨