나이퀴스트 정리는 주기적인 신호가 신호의 가장 높은 주파수 구성 요소의 두 배 이상으로 샘플링되어야 한다는 내용이다.

Nyquist's theorem states that a periodic signal must be sampled at more than twice the highest frequency component of the signal

Aliasing error

사람의 일반적인 가청 주파수는 20Hz-20kHz인데, 사람이 듣는 가청 주파수의 소리를 디지털로 저장하려면 20Hz-20kHz의 범위를 저장해야 한다. 하지만 나이퀴스트라는 사람이 발견한 법칙에 의하면, 20kHz의 소리를 디지털로 표본화 하려면 최소 1 cycle의 파형 당 2개의 점을 취득해야 하므로 40kHz의 간격으로 점을 찍어야 한다.(디지털 표본화) 다시 말해서 어떤 주파수를 디지털로 샘플링한 후, 다시 원래의 소리로 재생하려면 해당 주파수의 2배의 주파수로 샘플링해야 한다. 만약 20kHz의 소리를 샘플링 하려면 40kHz 간격으로 점을 찍으면 된다.

근데 여기서 하나의 전제 조건이 필요하다. 20kHz를 40kHz로 디지털 표본화할 때, 절대로 20kHz 이상의 소리가 들어와서는 안된다. 우리는 평소에 사람의 가청 주파수가 20Hz-20kHz이기 때문에 20kHz 이상이 안들리고 있을 뿐이지, 실제 자연계에는 20kHz 이상의 소리도 존재한다. 만약 30kHz의 소리가 들어오면 그것도 40kHz의 간격으로 샘플링 될 것이고,그 경우엔 1cycle의 파형 당 2개의 점을 찍기에 모자르게 된다. 위 그림에서 C와 같은 상황. 다시 원상 복구하면 전혀 엉뚱한 신호로 재생된다. 이러한 현상을 Alias error라고 한다.

그래서 20kHz 이상의 소리가 샘플링 되지 않도록 샘플링하기 전에 아날로그 필터를 사용하여 20kHz 이상의 소리를 지워야 한다. 그것을 Anti-aliasing filter라고 한다.

하지만 아무리 필터 성능이 좋다고 해도 그래프를 보면 알겠지만, 20kHz 이상이 완벽히 지워지는 곳은 필터의 컷오프 주파수가 시작되고도 한참 위의 주파수이다. 필터의 기울기¹⁾를 높게 설계하면 좀 더 가파르게 되지만, 그렇게 하면 필터의 다른 성능²⁾이 떨어지게 된다.

에를 들어, 위에 있는 Butterworth 필터에서, 만약 1 을 기준으로 3 까지 -60dB³⁾를 떨어뜨릴 수 있는 가장 성능 좋은 필터를 사용한다 가정했을 때, 1 에 20kHz 란 수치를 대입하면, 60kHz 까지는 소리를 완벽히 없에는 것이 불가능하고, 그렇다면, 이론 상 60kHz라는 샘플링 레이트를 사용해서 표본화 해야 한다. 하지만 -60dB 정도까지 낮추는 것이지, 완벽하게 제거한 것은 아니기 때문에, 결국 alias error로 폴딩되어서 가청 주파수 중 낮은 주파수 쪽에 이 alias error가 노이즈 플로어⁴⁾로 존재하게 될 것이다.

https://www.audiomasterclass.com/newsletter/should-i-record-at-44-1-khz-or-96-khz