CTF Misc 인코딩 및 암호화 기법 분석

주요 인코딩 및 암호화 방식

AAEncode

JavaScript 코드를 이모티콘(顔文字) 형태의 문자열로 변환하는 인코딩 방식입니다. 주로 웹 환경에서 스크립트를 난독화하는 데 사용되며, CTF에서는 전용 디코더나 브라우저 콘솔을 통해 원본 스크립트를 복원해야 합니다.

ROT13

ROT13은 알파벳을 13칸씩 밀어내는 간단한 치환 암호입니다. 영미권 포럼에서 스포일러나 비속어를 가리기 위해 자주 사용되었으며, 고대 로마의 카이사르 암호 변형입니다. 암호화와 복호화에 동일한 알고리즘이 사용되며(A↔N, B↔O 등), 숫자와 특수문자는 변환되지 않습니다. 암호학적 보안성이 없으므로 단순 난독화 목적으로만 활용됩니다.

Base 패밀리

바이너리 데이터를 ASCII 문자열로 변환하는 인코딩 방식군입니다. 표준 패딩 문자로 =를 사용합니다.

1. Base16

16진수 문자(0-9, A-F)를 사용하여 데이터를 인코딩합니다. 8비트 데이터를 4비트 단위로 분할하므로 패딩 문자가 필요 없습니다.

2. Base32

32개의 인쇄 가능 문자(A-Z, 2-7)를 사용합니다. 대소문자를 구분하지 않으며 혼동하기 쉬운 문자를 배제하여 사람이 읽고 처리하기 쉽도록 설계되었습니다. 최대 6개의 패딩 문자가 사용될 수 있습니다.

import base64

def process_base32(text, mode='encode'):
    if mode == 'encode':
        return base64.b32encode(text.encode('utf-8')).decode('ascii')
    elif mode == 'decode':
        return base64.b32decode(text).decode('utf-8')

encoded_payload = process_base32('secret_data', 'encode')
print(f"Encoded: {encoded_payload}")

decoded_payload = process_base32(encoded_payload, 'decode')
print(f"Decoded: {decoded_payload}")

3. Base64 변형 디코딩

표준 Base64 테이블을 커스텀 테이블로 변형하여 인코딩하는 경우가 많습니다. 이를 디코딩하려면 문자 매핑을 복원해야 합니다.

import base64

def decode_custom_b64(ciphertext, custom_alphabet):
    standard_alphabet = "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789+/"
    translation_table = str.maketrans(custom_alphabet, standard_alphabet)
    translated_text = ciphertext.translate(translation_table)
    return base64.b64decode(translated_text).decode('utf-8')

custom_table = "AaBbCcDdEeFfGgHhIiJjKkLlMmNnOoPpQqRrSsTtUuVvWwXxYyZz0987654321/+"
cipher = "mTyqm7wjODkrNLcWl0eqO8K8gc1BPk1GNLgUpI=="
print(decode_custom_b64(cipher, custom_table))

4. Base85 및 Base91

Base85는 4바이트를 5문자로 인코딩하여 길이를 25% 증가시키며, XML 등에서 바이너리 데이터를 저장할 때 유용합니다. Base91은 91개의 인쇄 가능 문자를 사용하여 8비트 바이너리 데이터를 표현하며, Base85보다 압축률이 높습니다.

5. BaseCrack 도구

다중 Base 인코딩을 자동으로 감지하고 디코딩하는 CLI 도구입니다.

  • 단일 페이로드 디코딩: python basecrack.py -b [PAYLOAD]
  • 파일 내 다중 페이로드 디코딩: python basecrack.py -f input.txt
  • 매직 모드(중복 인코딩 자동 해제): python basecrack.py --magic

ATOM 128 및 특수 문자 인코딩

ATOM 128은 특정 문자 매핑 테이블을 사용하는 인코딩 방식입니다. Quoted-Printable은 이메일 전송을 위해 고안된 인코딩으로, 비 ASCII 문자를 =와 16진수 ASCII 코드로 변환합니다 (예: =AB).

한자 및 특수 언어 인코딩

  • 중국어 전보 코드 (Chinese Commercial Code): 한자를 4자리 숫자로 매핑하는 전보 코드입니다.
  • 오필 (Wubi) 입력기 코드: 한자의 자형 구조를 기반으로 한 입력 코드입니다.
  • 사회주의 핵심 가치관 인코딩: 특정 중국어 단어 조합(예: 富强, 民主)을 사용하여 데이터를 인코딩하는 CTF 특화 방식입니다.

DTMF 및 PDU 인코딩

DTMF는 다이얼 톤 다중 주파수로, 옛날 휴대폰 키패드에서 발생하는 소리 주파수를 분석하여 숫자를 추출합니다. PDU (Protocol Data Unit)는 SMS 메시지 전송에 사용되는 표준 인코딩 방식으로, 16진수 문자열로 변환된 메시지 페이로드를 포함합니다.

고전 암호 및 치환 암호

울타리 암호 (Rail Fence Cipher)

평문을 지그재그 형태로 배치한 후 가로로 읽어서 암호문으로 만드는 전치 암호입니다.

  • N형 (W형): 평문을 아래로 내려가며 쓰고, 맨 아래에 도달하면 다시 위로 올라가는 지그재그 패턴을 사용합니다.
  • V형: 특정 깊이까지 내려간 후 다시 올라오는 V자 패턴을 반복합니다.

암호문이 짧거나 평문의 일부를 알고 있는 경우, 키(울타리 수)를 브루트포스로 쉽게 찾을 수 있습니다.

베이컨 암호 (Bacon's Cipher)

프랜시스 베이컨이 고안한 암호로, 'a'와 'b' 두 가지 문자의 5글자 조합으로 알파벳을 표현합니다. CTF에서는 대소문자, 글꼴의 굵기, 두 가지 다른 이미지 등 이진수 특성을 가진 요소로 변형되어 출제됩니다.

피그펜 암호 (Pigpen Cipher)

기하학적 도형(격자, X자)과 점의 유무를 이용하여 알파벳을 치환하는 암호입니다. 시각적인 기호로 표현되므로 도형 패턴을 분석하여 해독할 수 있습니다.

폴리비오스 체크보드 (Polybius Square)

5x5 행렬에 알파벳을 배치하고, 각 문자의 행과 열 좌표(숫자 쌍)로 평문을 변환하는 암호입니다. 주로 1~5 사이의 숫자 쌍으로 암호문이 구성됩니다.

모스 부호 (Morse Code)

단점(.)과 장선(-)의 조합으로 문자를 표현하는 통신 부호입니다. 오디오 파일, 깜빡이는 빛, 또는 특정 문자(예: .와 -)로 변형되어 출제됩니다.

난해한 언어 및 수학적 공식

Brainfuck 및 Ook!

Brainfuck은 8개의 명령어(>, <, +, -, ., ,, [, ])만으로 구성된 난해한 프로그래밍 언어입니다. Ook!은 Brainfuck의 명령어를 'Ook.', 'Ook?', 'Ook!'의 조합으로 치환한 변형 언어입니다. 전용 인터프리터를 통해 실행 결과를 얻어야 합니다.

불경 암호 (佛论禅)

평문을 한자 불경 스타일의 문자열로 변환하는 인코딩 방식입니다. 일반적으로 佛曰 또는 新佛曰로 시작하는 특징이 있으며, 전용 웹 디코더를 사용하여 해독합니다.

터퍼 자기 참조 공식 (Tupper's Self-Referential Formula)

특정 상수 $k$를 사용하여 2차원 평면에 그래프를 그리면, 그 그래프가 공식 자체의 모양을 나타내는 수학적 공식입니다. 상수 $k$를 2진수로 변환하여 17비트 단위로 끊으면 이미지의 픽셀 맵이 생성됩니다.

import numpy as np
import matplotlib.pyplot as plt

def render_tupper_formula(k_value, width=106, height=17):
    matrix = np.zeros((height, width))
    for y_idx in range(height):
        for x_idx in range(width):
            y = y_idx + k_value
            # Tupper's formula condition
            val = (y // 17) // (2 ** (-17 * x_idx - (y % 17)))
            matrix[y_idx, x_idx] = 1 if val % 2 > 0.5 else 0
            
    # Flip matrix to match standard Cartesian coordinate display
    return np.flipud(np.fliplr(matrix))

k = 960939379918958884971672962127852754715004339660129306651505519271702802395266424689642842174350718121267153782770623355993237280874144307891325963941337723487857735749823926629715517173716995165232890538221612403238855866184013235585136048828693337902491454229288667081096184496091705183454067827731551705405381627380967602565625016981482083418783163849115590225610003652351370343874461848378737238198224849863465033159410054974700593138339226497249461751545728366702369745461014655997933798537483143786841806593422227898388722980000748404719

grid = render_tupper_formula(k)
plt.imshow(grid, cmap='binary')
plt.axis('off')
plt.show()

스크립트 난독화 및 기타 포맷

VBScript.Encode

ASP/VBS 스크립트를 난독화하는 마이크로소프트의 인코딩 방식입니다. 소스 코드 상단에 <SCRIPT LANGUAGE="VBScript.Encode"> 태그가 포함되며, 페이로드는 주로 #@~ 문자열로 시작합니다. 전용 디코딩 알고리즘이나 스크립트 디코더 도구를 사용하여 원본 코드를 복원할 수 있습니다.

Codemoji

이모지를を利用して 암호화 및 복호화를 수행하는Mozilla의 교육용 프로젝트에서 파생된 방식입니다. 특정 키(이모지)를 기반으로 문자열이 이모지 시퀀스로 변환됩니다. 브루트포스 크래커나 공식 디코더를 통해 해독합니다.

대칭 암호 및 솔팅

CTF Misc에서는 AES, DES 등 대칭 암호 알고리즘이 사용되기도 하며, 솔팅된 해시나 특정 페이로드 형식(예: U2FsdGVkX1로 시작하는 CryptoJS 형식)이 주어집니다. 이 경우 키를 유추한 후 온라인 복호화 도구나 Python의 pycryptodome 라이브러리를 사용하여 평문을 추출해야 합니다.

태그: CTF MISC Cryptography Encoding Base64

10월 21일 08:20에 게시됨