오디오_미신:높은_bit_depth가_무조건_좋은거다
[공지]회원 가입 방법
[공지]글 작성 및 수정 방법
[홈레코딩 필독서]"모두의 홈레코딩"구매링크
[공지]글 작성 및 수정 방법
차이
문서의 선택한 두 판 사이의 차이를 보여줍니다.
양쪽 이전 판이전 판다음 판 | 이전 판 | ||
오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – [각 데이터 형식의 표현 범위] 정승환 | 오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/04/14] (현재) – 바깥 편집 127.0.0.1 | ||
---|---|---|---|
줄 12: | 줄 12: | ||
부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, | 부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, | ||
- | =====각 데이터 형식의 표현 범위===== | + | {{page> |
- | 정수형 숫자 표현의 범위\\ | + | {{page>컴퓨터: |
- | * 16bit 정수형의 총 표현 가능 단계 = < | + | |
- | * 24bit 정수형의 총 표현 가능 단계 = < | + | |
- | * 32bit 정수형의 총 표현 가능 단계 = < | + | |
- | * 48bit 정수형 배정밀도= < | + | |
- | * 56bit 정수형 = < | + | |
- | * 64bit 정수형 = < | + | |
- | + | ||
- | 부동소수형 숫자 표현의 범위\\ | + | |
- | * 32bit 부동소수형의 가장 작은 숫자 = < | + | |
- | * 32bit 부동소수형의 가장 큰 숫자 = <m>(2 - 2^{-23}) * 2^{127}</ | + | |
- | + | ||
- | 이중에서 32비트 정수형과 32비트 부동소수를 비교하면\\ | + | |
- | 32비트 정수형은 10자리수, | + | |
- | + | ||
- | 부동소수형에는 32bit 정수 + 8자리의 소수 표현 부분을 가진 40bit 부동소수 형식도 있다.\\ | + | |
- | + | ||
- | 40bit 부동소수 연산용 DSP 칩.\\ | + | |
- | https:// | + | |
- | + | ||
- | =====부동소수의 오차===== | + | |
- | + | ||
- | 오차의 예를 들자면\\ | + | |
- | 정수형 표현에서 12345 라고 표현되는 숫자가, 부동소수형에서는 오차가 발생하여 12345.0000000000000000000000000000000001 로 표현되는것으로 이해하면 된다.\\ | + | |
- | 이러한 오차는 아주 | + | |
- | + | ||
- | 그렇기 때문에 그래픽 카드에서 쓰이는 GPU에서는 거의 부동소수형 연산자를 가진 칩을 사용하고, | + | |
=====디지털 콘솔은 왜 정수형 연산자를 쓰는가? | =====디지털 콘솔은 왜 정수형 연산자를 쓰는가? | ||
- | 디지털 콘솔들 중에서 내부 DSP의 연산형식이, | + | 디지털 콘솔들 중에서 내부 DSP의 연산형식이, |
=====결론===== | =====결론===== | ||
- | **위에서 볼 수 있듯이 32 bit 부동소수가 표현할수 있는 숫자 범위는 정수형 표현과 비교하면 128 bit가 와도 상대가 안될 정도로 높으므로 48, 56bit 정수형 등과 같은 정수형 연산자들과 비교한다면 | + | **위에서 볼 수 있듯이 32 bit 부동소수가 표현할수 있는 숫자 범위는 정수형 표현과 비교하면 128 bit가 와도 상대가 안될 정도로 높으므로 48, 56-bit |
[홈레코딩 필독서]"모두의 홈레코딩"구매링크
오디오_미신/높은_bit_depth가_무조건_좋은거다.1708590633.txt.gz · 마지막으로 수정됨: 2024/02/22 저자 정승환