1비트 양자화 레이더의 핵심 난제
ISAC(통합 감지 및 통신) 체계에서 MIMO 레이더의 역할이 커지고 있다. 대규모 안테나 배열을 구성할수록 고해상도 ADC로 인한 전력 소모와 회로 복잡도는 부담으로 작용한다. 이를 해소하기 위해 1비트 ADC가 주목받고 있으나, 극도로 단순화된 양자화 과정에서 본질적인 난제가 발생한다.
수신 신호가 부호 함수를 통과하면 연속적인 확률 밀도가 이산 분포로 전환된다. 특히 SNR이 15dB를 넘어서면 양자화 천장 효과(Quantization Ceiling Effect)가 나타나 유효 SNR이 π/2(약 2dB)에 수렴한다. 이는 송신 전력을 아무리 높여도 수신 정보량의 한계가 존재함을 의미한다.
파라미터 추정 이론의 기준점인 Cramér-Rao 하한(CRB) 역시 1비트 환경에서 직접 적용하기 어렵다. 양자화된 관측값의 가능도 함수는 미분 불가능한 점을 포함하므로, 기존의 Fisher 정보 행렬 계산이 무효화된다. Bussgang 선형화 기법을 활용하면 이 문제를 우회할 수 있다.
r = Γ · y + n_q여기서 Γ는 양자화 이득 행렬, n_q는 양자화 음을 나타낸다. 이 모델을 바탕으로 가우시안 가정 하에서의 CRB 전개가 가능해진다.
시스템 모델 및 최적화 문제 수립
신호 모델
N_t개 송신 안테나, N_r개 수신 안테나를 갖추고 L개의 심볼 구간에서 동작하는 MIMO-ISAC 시스을 고려한다. 송신 파형 행렬 S ∈ C^(N_t×L)는 다음 두 가지 제약을 동시에 만족해야 한다.
- 감지 제약: 목표 파라미터 추정 정확도 극대화
- 통신 제약: K명 사용자의 심볼 탐지 신뢰도 보장
1비트 ADC를 거친 수신 신호는 다음과 같이 표현된다.
Z = sign( H·S + V ) // 레이더 모드
Z = sign( G·S + W ) // 통신 모드혼합 CRB-SEP 최적화 프레임워크
점 목표(Point Target) 상황에서 Bussgang 근사를 적용한 CRB는 다음과 같이 유도된다.
CRB(θ) = [ (2/π) · Re{ (∂ν^H/∂θ) · Ω^(-1) · (∂ν/∂θ) } ]^(-1)통신 품질은 심볼 오류 확률(SEP)로 제약한다.
SEP_k(S) ≤ ζ_k, ∀k ∈ {1,...,K}최종 최적화 문제는 다음과 같이 정의된다.
min_S -tr( J(S)^H · K(S)^(-1) · J(S) )
s.t. SEP_k(S) ≤ ζ_k
||S||_F^2 ≤ P_max비볼록성 분석
목적함수는 다중 비선형 구조를 가진다.
- 행렬 역연산 K(S)^(-1)
- 이차 형태 J(S)^H(·)J(S)
- 1비트 양자화가 내포하는 arctan 비선형성
또한 SEP 제약은 Q-함수 적분을 포함하여 송신 파형 S와 10중 이상의 합성 함수 관계를 형성한다. 이로 인해 기존 볼록 최적화 도구의 직접 적용이 불가능하다.
ADMM-MMCF 알고리즘
변수 분리와 증광 라그랑지안
보조 변수 z를 도입하여 결합 제약을 분해한다.
ℒ_μ(S, z, Λ) = g(S) + (μ/2)||A·S - z + Λ||_F^2 - (μ/2)||Λ||_F^2다음 세 개의 하위 문제를 번갈아 해결한다.
- S-하위문제: 전력 제약 하 비볼록 최적화
- z-하위문제: SEP 제약 투영 연산
- Λ-하위문제: 이중 변수 폐형 갱신
MM 기법을 통한 볼록 근사
S-하위문제의 비볼록 목적함수에 대해 이차 상界 함수를 구성한다.
g(S) ≤ σ_max · ||S||_F^2 - 2Re{ ⟨Π, S⟩ } + γ핵심 파라미터 계산 과정:
# 그라디언트 행렬 산출
∇g = ∂[-tr(J^H K^(-1) J)]/∂S*
= 2Γ^H (Ω^(-1) J Ψ - Ω^(-1) J J^H Ω^(-1) Γ H S)
# 주요치 계산
Π̄ = T^T (Ψ ⊗ (K^(-1) J J^H K^(-1))) T
σ_max = λ_max(Π̄)폐형 해와 계산 복잡도
MM 근사 후 S 갱신은 전력 제약 하 최소자승 문제로 단순화된다.
S^(t+1) = Proj_𝒞( Π_t / (σ_max + μ·λ_max(A^H A)) )복잡도 구성 요소:
| 연산 | 복잡도 |
|---|---|
| 행렬 역 | O((N_r L)^3) |
| 고유값 분해 | O(N_r^3 N_t L^2) |
| 행렬 곱셈 | O(N_r^2 N_t^2 L) |
전체 복잡도: O(I_outer · I_inner · [(N_r L)^3 + N_r^3 N_t L^2])
구현 전략
매개변수 튜닝
- ADMM 패널티 계수 μ
- 초기값: 점 목표 10^2, 확장 목표 1
- 갱신: μ ← min(κ_μ · μ, μ_max)
- 잔차-목표함수 비율 1:3 균형 유지
- MM 스텝 크기
- Armijo 조건 기반 선 탐색
- 권장: η = 1/(σ_max + 10μ)
- 수렴 판정
- 상대 잔차 변화 < 10^-4
- 목표함수 변동 < 0.1%
가속화 기법
# JAX 기반 병렬 구현 예시
def mm_iteration(S_curr, A_mat, z_vec, dual_var):
# 공분산 행렬 계산
cov_matrix = compute_covariance(S_curr)
# Cholesky 분해 (XLA 가속)
L_factor = jax.lax.cholesky(cov_matrix)
# 삼각 시스템 해법
cov_inv = jax.scipy.linalg.solve_triangular(
L_factor, jnp.eye(N_r * L), lower=True
)
# 그라디언트 평가 및 갱신
grad_val = evaluate_gradient(cov_inv, S_curr)
S_next = project_power_constraint(
S_curr - step_size * (grad_val + A_mat.T @ dual_var)
)
return S_next추가 최적화:
- Toeplitz 구조 활용 FFT 기반 행렬-벡터 곱 가속
- 이전 반복의 Hessian 근사 정보 재활용
- 스パース 패턴 사전 분석으로 불필요 연산 제거
성능 평가
수렴 특성
시뮬레이션 조건: N_t = N_r = 16, K = 4, L = 20, SNR = 30dB
확장 목표(ET) 상황에서의 관찰 결과:
- 잔차가 15회 반복 내 10^-4 이하로 감소
- CRB 값은 5회 반복 후 안정 구간 진입
- 큰 μ 단계에서 목표함수 영향도 0.1% 미만
감지 성능 비교
| 알고리즘 | CRB(θ) [deg²] | 실행 시간 [ms] |
|---|---|---|
| 무한 해상도 기준 | 3.2×10⁻⁵ | 18.9 |
| 제안 ADMM-MMCF | 4.1×10⁻⁵ | 38.4 |
| 양자화 무관 설계 | 7.1×10⁻⁵ | 22.3 |
SNR = 40dB ET 상황에서 제안 방안은 자화 무관 설계 대비 CRB가 8.7dB 우수하며, 동등 MSE 달성에 필요한 신호 대 잡음비를 62% 절감한다.
감지-통신 트레이드오프
SEP 제약을 10⁻⁴에서 10⁻³으로 완화하면 CRB가 5.2dB 개선된다. SEP > 10⁻²·⁵ 구간에서 지각 성능 향상이 포화되는 임계점이 존재함을 확인했다.
현장 배포 고려사항
하드웨어 보정
- I/Q 불균형: 디지털 사전 왜곡으로 보정, y_c = α·y + β·y* + δ
- 클럭 동기화: TDC 활용 코초급 정밀도 확보, 동기 오류 > 1/8·BW 시 CRB 3dB 이상 열화
- 온도 드리프트: ADC 임계 전압 보상용 LUT를 5℃ 간격 갱신
실제 환경 이슈
양자화 잡음의 색 특성(Colorness)을 고려하기 위해 디더링(dithering) 잡음 추가가 필요하다. 또한 밀접 배열에서의 상호결합(>15dB)은 근장 보정 행렬 H_cal = T_rx⁻¹ · H_meas · T_tx⁻¹으로 보상해야 한다.
확장 연구 방향
밀리미터파 적용
- 주파수 도메인 분할 최적화로 대역폭 확장 대응
- 빔 스쿼int 효과 완화를 위한 시간 지연 사전 보상
- 위상 잡음 모델 반영 Fisher 정보 행렬 수정
지능형 반사면(RIS) 연동
min_{S,Θ} CRB(θ | S, Θ)
s.t. SEP_k(S, Θ) ≤ ζ_k
|Θ_mn| = 1, ∀m,n단위원 제약이 추가되므로 ADMM 프레임워크에 리만 다양체 최적화를 결합해야 한다.
신경망 기반 하이브리드 접근
Deep Unfolding 기법을 도입하여 MM 단계의 대리 함수를 CNN으로 학습하고, ADMM 패널티 계수를 LSTM으로 동적 조정하는 방안을 탐색 중이다. 수학적 수렴성을 보장하면서도 반복 횟수를 40% 가량 줄이는 초기 결과를 얻었다. 핵심은 ADMM 골격을 유지한 채 휴리스틱 파라미터 선택 부분만 신경망으로 대체하는 "회색 상자" 설계 전략이다.