나이퀴스트 정리에 따르면 디지털 샘플레이트는 가청 주파수의 두배인 40kHz 만으로도 충분합니다. 하지만 이론과 실제는 항상 다릅니다.

CD의 44.1kHz의 경우 CD포맷이 16-bit 포맷이고 16-bit의 경우 96dB의 다이내믹 레인지를 가지고 있습니다. CD 포맷의 16-bit, 44.1kHz의 경우, 20~22.05kHz의 트랜지션 밴드(2kHz 범위)를 가지는 안티 앨리어싱 필터를 적용하게 됩니다. 일반적으로 이러한 필터를 거쳤을 때, 앨리어싱 에러 노이즈는 -96dBFS 이하로 생성됩니다. 따라서 이러한 경우의 앨리어싱 에러 노이즈는 아무런 문제가 되지 않습니다.

하지만, SONY에서 그후에 DAT 포맷을 발표하면서 약간 달라졌습니다. DAT의 24-bit 포맷에서는 144dB까지 다이내믹 레인지가 확장되었기 때문에 앨리어싱 에러 노이즈도 더 낮아져야 할 필요성이 생겼습니다. 따라서, 필터 성능에 의한 샘플레이트도 48kHz까지 확장될 필요성이 있었습니다. 24-bit 음원은 최소한 48kHz라는 최소의 샘플레이트는 지켜줘야 한다는 것입니다.

그렇게 해서 48kHz로 샘플레이트를 정하고 안티 앨리어싱 필터를 20~24kHz까지 트랜지션 밴드로 적용했을 때, 얻을 수 있는 앨리어싱 에러 노이즈 플로어는 -120dBFS 정도 였습니다. -144dBFS에는 크게 못미치는 수치였지만, 이 정도로도 충분했습니다. 컨버터의 다른 성능에 의한 노이즈 플로어 덕에 이미 노이즈 플로어는 -100~-120dBFS 정도 였기 때문에, 이러한 앨리어싱 에러에 의한 노이즈는 다른 노이즈에 묻혀 들리지 않습니다.

물론 96kHz 녹음은 앨리어싱 에러 노이즈를 낮추는데 효과가 더 있습니다. 이론적으로는 안티 앨리어싱 필터를 더 여유있게 만들수 있습니다. 필터의 트랜지션 밴드를 위한 구간이 20kHz 부터 48kHz 까지 충분한 여유가 있습니다. 앨리어싱 에러 노이즈도 분명히 -120dBFS 이하로 내려갈 수 있을 것입니다. 근데 문제는 24bit 컨버터의 다이내믹 레인지가 다른 성능들로 인하여 -120dB 이하가 되기가 힘듭니다. 그래서 사실 24-bit 사양의 컨버터에서 96kHz로 녹음하는 것은 실효가 없습니다.

최근 32-bit integer 컨버터들이 생산되고 실제 제품들에 적용되는 경우가 종종 있습니다.¹⁾ 이 경우에는 이론상 0~-192dBFS의 다이내믹 레인지를 가지고 있고 앨리어싱 에러 노이즈도 더 낮아집니다. 컨버터 칩셋의 SNR 성능이 점점 좋아지고 있어서 앞으로는 120~130dB 이상의 다이내믹 레인지를 가지는 제품들도 볼 수 있을지도 모릅니다.

하지만 DAW에서 각종 플러그인을 사용하는 프로젝트라면 또 말이 달라집니다. 세츄레이션 기능을 가진 플러그인들이 생성하는 배음들이 20kHz를 넘어가는 경우가 많고 그것들이 또다시 앨리어싱 에러를 만들어내기 때문입니다. 그것 때문에 플러그인들이 내부적으로 안티 앨리어싱 필터기능이나 오버샘플링 기능을 내장하기도 합니다. 이러한 기능이 없는 경우는 높은 샘플레이트가 절대적으로 유리하게 됩니다.

결국, 이런 것들을 모두 고려하면 가청 주파수인 20Hz~ 20kHz를 온전하게 제대로 샘플링하고 재생하기 위해서는 안티 앨리어싱 필터도 최고 성능으로 설계하고, 샘플레이트도 96kHz 나 192kHz로 높혀서 필터의 트랜지션 밴드에 여유가 있도록 샘플링하고, 오버샘플링 기술도 사용해야 앨리어싱 에러에 의한 노이즈 플로어도 낮추고, 위상 왜곡도 줄일 수 있다는 측면에서 이론상 유리한 것은 사실이다. 높은 샘플링 레이트의 사용은 주파수 대역이 높아진다는 의미보다는 “노이즈 플로어“의 감소와, “위상 왜곡“의 최소화에 효과가 있다.

하지만, 아직 120dB~130dB 이상의 다이내믹 레인지를 가질 수 있는 컨버터가 없거나 드물기 때문에, 아직은 96kHz 정도로도 충분하게 사용할 수 있다. 또한 96kHz 이상의 샘플레이트를 가지게 되면, 컴퓨터의 자원을 너무 많이 사용하게 되기 때문에 낭비가 되기도 한다.

어떠한 기기가 높은 비트 뎁쓰와 샘플레이트를 지원한다는 것은, 실제로 그 사양의 디지털 오디오로 녹음이나 작업을 한다라기보다는, “컨버터“의 성능이 그만큼 뛰어나다는 뜻으로 인식하는 것이 좋다.

https://www.audiomasterclass.com/newsletter/should-i-record-at-44-1-khz-or-96-khz