홈레코딩 위키

by 리버사이드 재즈 레이블

사용자 도구

사이트 도구

추적:
오디오_미신:높은_bit_depth가_무조건_좋은거다
[공지]회원 가입 방법
[공지]글 작성 및 수정 방법

차이

문서의 선택한 두 판 사이의 차이를 보여줍니다.

차이 보기로 링크

양쪽 이전 판이전 판
다음 판		이전 판
마지막 판양쪽 다음 판
오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – [정수형과 부동소수형의 장단점] 정승환오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – ↷ 링크가 이동 작업으로 인해 적응했습니다 47.128.57.156
줄 12: 줄 12:
 부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, 실제 숫자 표현의 자릿수와 소수점 표현에 대한 자리수의 복잡한 표현으로 이루어지기 때문에, 계산방식이 다소 느려진다는 점. 그리고 오차가 다소 발생할 수 있다는 점이 그 단점이다.((하지만 오차는 무시해도 되는 수준으로 알려져 있다. 공학계산의 경우에는 100% 동일해야 해서 부동소수점 계산을 피하지만, 오디오나, 그래픽 등의 분야에서는 오차는 무시해도 되므로 부동소수를 적극 활용한다.)) 부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, 실제 숫자 표현의 자릿수와 소수점 표현에 대한 자리수의 복잡한 표현으로 이루어지기 때문에, 계산방식이 다소 느려진다는 점. 그리고 오차가 다소 발생할 수 있다는 점이 그 단점이다.((하지만 오차는 무시해도 되는 수준으로 알려져 있다. 공학계산의 경우에는 100% 동일해야 해서 부동소수점 계산을 피하지만, 오디오나, 그래픽 등의 분야에서는 오차는 무시해도 되므로 부동소수를 적극 활용한다.))
  
-=====각 데이터 형식의 표현 범위=====+{{page>컴퓨터:integer_and_floating_point#각_데이터_형식의_표현_범위}}
  
-정수형 숫자 표현의 범위\\ +{{page>컴퓨터:integer_and_floating_point#부동소수점_연산의_정밀성_손실}}
-  * 16bit 정수형의 총 표현 가능 단계 = <m>2^16</m> = 65536(**5자리수**) +
-  * 24bit 정수형의 총 표현 가능 단계 = <m>2^24</m> = 16777216(**8자리수**) +
-  * 32bit 정수형의 총 표현 가능 단계 = <m>2^32</m> = 4294967296(**10자리수**) +
-  * 48bit 정수형 배정밀도= <m>2^48</m> = 2.8147498e+14 (e+x 는 +10^X 를 말합니다.) = 28147598000(**14자리수**) +
-  * 56bit 정수형 = <m>2^56</m> = 7.2057594e+16(**16자리수**) +
-  * 64bit 정수형 = <m>2^64</m> = 1.8446744e+19(**19자리수**) +
- +
-부동소수형 숫자 표현의 범위\\ +
-  * 32bit 부동소수형의 가장 작은 숫자 = <m>1.0 * 2^{-126}</m> = 1.1754944e-38 (**소수점 38자리수**) +
-  * 32bit 부동소수형의 가장 큰 숫자 = <m>(2 - 2^{-23}) * 2^{127}</m> = 3.4028235e+38 = (**38자리수**) +
-  +
-이중에서 32비트 정수형과 32비트 부동소수를 비교하면\\ +
-32비트 정수형은 10자리수, 32비트 부동소수는 38자리수의 숫자를 표현 가능하므로, 32비트 부동소수에서 맨 끝자리 수가 오차가 나더라도 심지어 2자리나 오차가 난다 하더라도, 32비트 정수형의 -27, -27 자리 수에서 오차가 나는 것으로, 개미의 발톱도 안되는 오차라고 볼 수 있다. 하지만 정밀 공학에서는 이러한 오차가 큰 문제를 발생시킬 수도 있다. 하지만, 오디오나 그래픽에서는 전혀 문제가 안된다. +
- +
-40bit 부동소수 연산용 DSP 칩.\\ +
-https://ez.analog.com/dsp/sharc-processors/f/q-a/61940/40-bit-floating-point-adsp21489 +
- +
- +
- +
-=====부동소수의 오차===== +
- +
-오차의 예를 들자면\\ +
-정수형 표현에서 12345 라고 표현되는 숫자가, 부동소수형에서는 오차가 발생하여 12345.0000000000000000000000000000000001 로 표현되는것으로 이해하면 된다.\\ +
-이러한 오차는 아주 정밀해야하는 공학계산에서는 치명적일 수 있지만, 그래픽 표현, 오디오 표현 등에서는 크게 중요하지않다. +
- +
-그렇기 때문에 그래픽 카드에서 쓰이는 GPU에서는 거의 부동소수형 연산자를 가진 칩을 사용하고, 오디오 쪽에서는 최근 부동소수형 DSP 칩들이 레이턴시 가 짧아진 제품들이 나오면서((부동소수 DSP 칩이 나오게 된 원인은 공학계산 용도 등으로도 부동소수 오차가 크게 의미 없다는 판단이었을 것이다.사실 DSP는 계산의 정확도 때문에 그동안 정수형 DSP가 대세였다.)) 부동소수형 칩을 사용하는 경향이다.((CPU는 정수형 연산자와 부동소수형 연산자들 둘다 지니고 있다.))+
  
 =====디지털 콘솔은 왜 정수형 연산자를 쓰는가?===== =====디지털 콘솔은 왜 정수형 연산자를 쓰는가?=====
[홈레코딩 필독서]"모두의 홈레코딩"구매링크

오디오_미신/높은_bit_depth가_무조건_좋은거다.txt · 마지막으로 수정됨: 2024/04/14 저자 127.0.0.1