오버샘플링

오버 샘플링은 대상 신호의 나이퀴스트 주파수(Nyquist Frequency, $f_s/2$)보다 의도적으로 훨씬 높은 샘플링 레이트로 신호를 처리하는 기술이다.

아날로그-디지털 변환(ADC/DAC) 하드웨어 설계 시 발생하는 물리적 한계를 극복하고, 디지털 신호 처리(DSP) 과정에서 비선형 소자 처리를 할 때 발생하는 앨리어싱(Aliasing) 왜곡을 방지하기 위해 필수적으로 사용된다.

그림 1

하드웨어(ADC / DAC)에서의 오버샘플링

48kHz PCM 변환을 목표로 할 때, 48kHz로 직접 샘플링(Nyquist Sampling)하지 않고 MHz 단위의 매우 높은 주파수로 먼저 오버 샘플링하는 방식(델타-시그마 변환기 등)을 사용한다. 이는 하드웨어 설계에서 두 가지 결정적인 이점을 제공한다.

아날로그 필터의 한계: 48kHz 목표 시 나이퀴스트 한계는 24kHz이다. 가청 대역(20kHz)과 나이퀴스트 한계(24kHz) 사이의 지극히 좁은 천이 대역(Transition Band) 내에서 신호를 칼같이 차단하려면(Brickwall Filter) 복잡한 고차 아날로그 회로가 필요하다. 하지만 필터의 기울기가 가파를수록 고역대에 심각한 위상 왜곡(Phase Shift)과 링잉(Ringing) 현상이 발생한다.
오버 샘플링의 해결책:
1. 샘플링 레이트를 64배, 128배 등으로 대폭 올려 나이퀴스트 주파수를 MHz 대역으로 까마득히 밀어낸다.
2. 아날로그 영역에서는 기울기가 매우 완만하여 위상 왜곡이 없는 1차~2차 아날로그 필터만 써도 앨리어싱 성분을 완벽히 차단할 수 있다.
3. 초고속으로 입력받은 디지털 데이터 상에서 위상 변이가 없는 디지털 필터(FIR 등)로 20kHz 이상의 성분을 정밀하게 잘라낸다.
4. 이후 표본화율을 낮추는 데시메이션(Decimation / Downsampling)을 거쳐 최종 48kHz PCM으로 확정한다.

그림 2

그림 3: 아날로그 필터

그림 4: 디지털 필터와 다운 샘플링

노이즈 밀도 감소: 오버 샘플링을 수행하면 양자화 과정에서 발생하는 노이즈의 총량은 그대로 유지되지만, 노이즈가 펼쳐지는 대역폭($f_s/2$)이 MHz 대역으로 넓어진다.
노이즈 쉐이핑(Noise Shaping): 그 결과 우리가 실제 듣는 가청 대역(20Hz ~ 20kHz) 내에 잔류하는 양자화 노이즈의 밀도가 대폭 줄어든다. 여기에 델타-시그마 루프의 노이즈 샤핑 기법을 적용하여 가청 대역의 노이즈를 초고역대로 밀어냄으로써, 낮은 비트 오버 샘플링 환경에서도 높은 SNR과 다이나믹 레인지를 확보할 수 있게 된다.

이미 디지털 PCM으로 변환된 신호를 DAW 내부에서 처리할 때도 오버 샘플링이 사용된다. Saturation, Distortion, Limiter, Clipper, Compressor와 같은 비선형(Non-linear) 프로세서에서 필수적이다.

배음(Harmonics)의 발생: 신호를 클리핑하거나 새츄레이션을 줄 때 원본 신호에 없던 무수한 고조파(Harmonics)가 생성된다.
앨리어싱 반사: 이때 생성된 고조파 중 프로젝트의 나이퀴스트 한계($f_s/2$)를 초과하는 주파수 성분은 삭제되지 않고, 거울처럼 반사되어 가청 주파수 대역 내부로 침범(Aliasing)하여 지저분한 디지털 노이즈를 만든다.
플러그인 오버 샘플링:
1. 플러그인 입구에서 신호를 2x, 4x, 8x 등으로 오버 샘플링하여 대역폭(나이퀴스트 한계)을 대폭 넓힌다.
2. 비선형 처리로 발생한 고조파 성분들이 넓어진 대역폭 안으로 안전하게 펼쳐지도록 유도한다.
3. 플러그인 출구에서 디지털 안티 앨리어싱 필터를 거쳐 초과 배음을 깔끔하게 쳐낸 뒤 원본 샘플 레이트로 다운샘플링(Decimation)하여 출력한다.