Bit depth, 심도

아날로그 신호를 디지털 신호로 레벨 축에 대하여 양자화하는 빈도

• bit : 이진수(Binary) 0 또는 1의 1자리(16비트 : 이진수 16자리 숫자)
• Byte : 1 바이트(B) = 8 비트(b), 바이트는 대문자 B, 비트는 소문자 b로 표기한다.

4dBu 를 기준으로 헤드룸을 18dB 를 준 아날로그 입력을 디지털로 변환하는 A/D 컨버터 기준으로 예를 들면

즉 V (전압) 의 범위는 -122dBu ~ 22dBu 까지 0.00000174v~ 27.581673844v

즉 약 144dB의 범위에서
가장 큰 전압과 가장 작은 전압의 차이를 표현할 때 자리수의 범위는 “최소” 8자리가 필요하다.(소수점 -6자리 부터 소수점 위로 +2자리까지) 하지만, 자리수가 더 많아지면 더 자세한 표현이 가능하다. 24-bit 가 144dB 표현이 가능하다는 말은 “최소” 라는 전제조건이 붙는 것이다.

dB full scale

디지털 심도 포맷에 따라서 표현 가능한 최대값이 다 다르기 때문에(16-bit:96dB, 24-bit:144dB), 최대값이 통일이 안되어서 거꾸로 0을 최대값으로 - 단위로 표기한다. 또한 심도에 따라 표현 범위도 다 다르기 때문에 그 범위를 Full Scale 로 표현하게 된다. 일반적인 레퍼런스 레벨은 -18dBFS(24-bit & above), -12dBFS(16-bit)이다.

최대값의 진폭(Amplitude)의 절반값을 가지는 지점을 -6dBFS로 정해서, 값을 정한다. 다시 말해서 24-bit(144dB) 던, 16-bit(96dB)던, 48-bit(288dB)이건 상관 없이 최대값을 0dBFS, 절반값을 -6dBFS로 정하기 때문에, 디지털 심도의 차이는 “해상도”의 차이로 나타난다.¹⁾

위의 표는 10V 를 각기 4-bit, 16-bit, 24-bit 등으로 A/D 컨버팅 했을 때의 분해능, 해상도를 나타낸다.

출처: https://www.analog.com/media/en/training-seminars/design-handbooks/Data-Conversion-Handbook/Chapter2.pdf

쉽게 요약하면 Full scale 은 지도에서 말하는 “축척” 과 같은 개념이다. 따라서 높은 심도는 파형을 더 세밀하고 자세하게 표현하게 된다. ²⁾

주요 DSP 엔진에 따른 디지털 심도 연산 스펙

참고로, 여기 나오는 DSP 제품 중에, 24-bit DSP를 가진 UAD나 파워코어 등은 다이내믹 계열 플러그인의 음질에 논란이 많았다.

• TDM : 48-bit 정수 배정밀도
• VST : 32-bit 부동소수 , 내부적으로 64-bit 부동소수 배정밀도 가능
• AAX : 32-bit 부동소수
• UAD 2 : 32-bit 부동소수
• UAD 1 : 24-bit 정수
• TC Powercore : 24-bit 정수
• TC System 6000 : 32-bit 부동소수(CPU)
• Waves SoundGrid DSP : 32-bit 부동소수(CPU)
• Lexicon 960L : 32-bit 부동소수(CPU)

Cubase나 Logic 등의 DAW 에서 32-bit 부동소수 포맷으로 프로젝트를 설정하고 사용하는 경우, 24-bit로 녹음된 오디오는 추가로 8자리의 부동소수 표현을 위한 비트를 추가로 얻게 된다.

따라서, DAW 내부적으로 파형의 진폭이 0dBFS 이상으로 크게 변화하는 경우에도 클리핑 현상이 일어나지 않고 오디오 프로세싱이 가능하다.

https://www.analog.com/-/media/analog/en/landing-pages/relationship-of-data-word-size/figure8.gif?la=en

24-bit로 녹음된 데이터를 DAW에서 32-bit 부동소수 포맷으로 사용할 시 레퍼런스 레벨인 -18dBFS를 기준으로 변환하기 때문에 해상도에 영향을 미치게 된다. 즉 예를 들면 24-bit에서 32-bit 부동소수로 변환 시 가장 큰 신호값인 0dBFS는 0dBFS로 일치하도록, -18dBFS는 그도 역시 32-bit 부동소수 포맷의 -18dBFS로 full scale을 유지하게 된다. 그에 따라 시그널 처리의 해상도가 증가하게 된다. 기존 데이터의 값에는 변함이 없었지만 그 다음에 이 데이터를 가지고 DSP 처리를 하게 되면 더 세밀하고 정밀한 처리가 들어가게 되는 것이다.³⁾

특히, 이퀄라이저나 컴프레서와 같은 시그널 프로세서에서는 10dB, 20dB와 같은 높은 증폭 및 감쇄가 필요한 DSP 연산을 하게 된다. 20dB 정도이면 실제 디지털 숫자로는 큰 단위의 연산(100배 증폭 및 감쇄)이므로 심도가 상당히 중요하다고 볼 수 있다.

Fixed point dynamic range comparison
https://www.analog.com/-/media/analog/en/landing-pages/relationship-of-data-word-size/figure7.gif?la=en

정수형 연산(Integer)과 부동소수형 연산(Floating point)을 비교하면, 정수형 연산의 장점은 부동소수형 연산보다 연산 클럭 수가 적게 들어가서 레이턴시 부분에서 유리하다.는 점이다. 하지만 최근에는 부동소수 DSP의 발전으로 인하여 큰 차이는 없다.

반면 부동소수점의 장점은, 매우 높은 해상도이다. 위에 항목들에서 설명했듯이 소수점을 유동적으로 변경할 수 있는 숫자 표시 양식 때문에, 부동소수점으로 표현할 수 있는 가장 큰 숫자는 정수형에서 표현할 수 있는 가장 큰 숫자보다 훨씬 큰 수를 표현하는 것이 가능하다.

레이턴시에 관한 문제 때문에, DSP 칩을 주력으로 사용하는 디지털 믹싱 콘솔이나, 디지털 시그널 프로세서들의 경우에는 40비트나 56비트 정수형 DSP를 사용하는 경우가 있지만 점점 32비트 부동소수형 DSP 또는 CPU 기반으로 바뀌는 추세이다.

https://www.analog.com/en/education/education-library/articles/relationship-data-word-size-dynamic-range.html