ByteBuf 구조

ByteBuf는 Netty의 핵심 구성 요소 중 하나로, 바이트 데이터를 저장하고 조작하는 유연한 버퍼입니다. 기존의 java.nio.ByteBuffer와 유사한 구조를 가지지만, 더 강력하고 사용하기 편리한 기능을 제공합니다.

ByteBuf는 다음과 같은 주요 요소를 가집니다:

• 읽기 인덱스 (read index): 현재 읽을 위치를 나타냅니다.
• 쓰기 인덱스 (write index): 현재 쓸 위치를 나타냅니다.
• 용량 (capacity): 버퍼가 저장할 수 있는 총 바이트 수입니다.

데이터를 읽을 때마다 읽기 인덱스가 증가하고, 데이터를 쓸 때마다 쓰기 인덱스가 증가합니다. 버퍼에 저장된 데이터의 크기는 write index - read index로 계산됩니다. 읽기 인덱스가 쓰기 인덱스에 도달하면 더 이상 읽을 데이터가 없음을 의미합니다. 또한, ByteBuf는 내부 변수인 maxCapacity를 통해 동적으로 크기를 확장할 수 있으며, 이 최대 용량을 초과하려고 하면 오류가 발생합니다.

풀링 (Pooling) vs. 비풀링 (Non-pooling)

풀링은 데이터베이스 연결 풀이나 스레드 풀과 같이, 객체를 미리 생성해두고 재사용함으로써 성능을 최적화하는 기법입니다. ByteBuf도 이 개념을 적용합니다.

비풀링 방식은 ByteBuf 인스턴스를 매번 새로 생성하므로, 특히 직접 메모리(Direct Memory) 할당과 해제에 따른 성능 저하가 발생할 수 있습니다. 반면, 풀링 방식은 풀에 미리 생성된 ByteBuf를 재사용함으로써 이러한 오버헤드를 줄이고, 메모리 할당 시간을 단축시킵니다. Netty는 기본적으로 풀링을 권장합니다.

생성: 힙 메모리와 직접 메모리

ByteBuf는 두 가지 유형의 메모리 공간에서 생성할 수 있습니다.

// 기본 풀링, 직접 메모리 기반 (성능 우선)
val allocator = ByteBufAllocator.DEFAULT;
val directBuffer = allocator.directBuffer(1024);

// 풀링, 힙 메모리 기반 (GC 관리)
val heapBuffer = allocator.heapBuffer(1024);

// 풀링, 직접 메모리 기반 (명시적)
val anotherDirectBuffer = allocator.directBuffer(512);

직접 메모리 (Direct Memory)는 JVM 힙 외부의 네이티브 메모리에 할당되며, 입출력 성능이 뛰어납니다. 하지만 GC의 관리 대상이 아니므로 개발자가 명시적으로 해제해야 합니다. 이 과정은 비용이 많이 들 수 있으므로, 풀링과 함께 사용하는 것이 일반적입니다.

힙 메모리 (Heap Memory)는 JVM 힙에 할당되며, GC에 의해 자동으로 관리됩니다. 직접 메모리보다 입출력 성능은 떨어지지만, 메모리 관리가 편리합니다.

데이터 읽기 및 쓰기

ByteBuf는 읽기/쓰기 모드 전환을 위한 flip() 호출이 필요 없습니다. 읽기와 쓰기는 각각의 인덱스를 독립적으로 관리합니다. 또한, mark()와 reset() 메서드를 사용하여 특정 위치를 기억하고 되돌아갈 수 있습니다.

val buffer = allocator.directBuffer(16);
buffer.writeBytes("Hello".getBytes());

// 읽기 위치를 기억
buffer.mark();

// 일부 데이터 읽기
val part = new byte[3];
buffer.readBytes(part); // "Hel" 읽음

// 읽기 위치를 이전 위치로 되돌림
buffer.reset();

// 전체 데이터 읽기
val fullData = new byte[5];
buffer.readBytes(fullData); // "Hello" 읽음

데이터를 쓸 때와 읽을 때의 메서드를 일치시키는 것이 중요합니다. 예를 들어, writeInt()로 4바이트 정수를 기록했다면, readInt()로 4바이트를 읽어야 올바른 값을 얻을 수 있습니다. writeInt()로 기록한 후 readByte()로 1바이트씩 읽으면 예기치 않은 결과가 발생할 수 있습니다.

다양한 데이터 타입을 위한 쓰기 메서드가 제공됩니다. writeInt()는 빅 엔디안 방식으로 4바이트 정수를 기록하고, writeIntLE()는 리틀 엔디안 방식으로 기록합니다. 문자열은 writeCharSequence()를 사용하여 특정 인코딩으로 기록할 수 있습니다.

메모리 해제 (Memory Release)

직접 메모리 기반의 ByteBuf는 명시적으로 해제해야 합니다. Netty는 참조 카운팅(Reference Counting) 메커니즘을 사용하여 메모리를 관리합니다. 모든 ByteBuf는 ReferenceCounted 인터페이스를 구현합니다.

• 객체 생성 시 초기 참조 카운트는 1입니다.
• release() 메서드를 호출하면 카운트가 1 감소합니다. 카운트가 0이 되면 메모리가 해제됩니다.
• retain() 메서드를 호출하면 카운트가 1 증가하며, 해당 객체가 더 이상 사용되지 않음을 알리기 전까지 다른 핸들러에서 release()를 호출해도 메모리가 해제되지 않습니다.

ByteBuf는 여러 ChannelHandler를 통해 전달되므로, 누가 마지막 사용자인지 명확히 알고 release()를 호출해야 메모리 누수를 방지할 수 있습니다. 일반적인 원칙은 다음과 같습니다.

• 입력 방향 (Inbound): 원본 ByteBuf를 수정하지 않고 다음 핸들러로 전달할 경우 release를 호출하지 않습니다. ByteBuf를 다른 객체로 변환하거나 전달하지 않을 경우, 반드시 release를 호출해야 합니다.
• 출력 방향 (Outbound): 메시지가 최종적으로 ByteBuf로 변환되어 출력될 때, HeadContext가 flush 후 release를 호출합니다.
• 예외 처리: ByteBuf의 참조 횟수를 정확히 파악할 수 없을 때, release()가 true를 반환할 때까지 반복 호출하여 확실히 해제할 수 있습니다.

고급 기능: 제로 복사 (Zero-Copy)

ByteBuf는 슬라이스(slice), 복제(duplicate), 복사(copy), 컴포지트(Composite)와 같은 고급 기능을 제공하여 메모리 복사 오버헤드를 줄이는 제로 복사 기법을 지원합니다. 이를 통해 성능을 최적화할 수 있습니다.