오디오_미신:높은_bit_depth가_무조건_좋은거다
[공지]회원 가입 방법
[공지]글 작성 및 수정 방법
[홈레코딩 필독서]"모두의 홈레코딩"구매링크
[공지]글 작성 및 수정 방법
차이
문서의 선택한 두 판 사이의 차이를 보여줍니다.
양쪽 이전 판이전 판다음 판 | 이전 판마지막 판양쪽 다음 판 | ||
오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – [부동소수의 오차] 정승환 | 오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – ↷ 링크가 이동 작업으로 인해 적응했습니다 47.128.57.156 | ||
---|---|---|---|
줄 12: | 줄 12: | ||
부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, | 부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, | ||
- | =====각 데이터 형식의 표현 범위===== | + | {{page> |
- | 정수형 숫자 표현의 범위\\ | + | {{page>컴퓨터: |
- | * 16bit 정수형의 총 표현 가능 단계 = <m>2^16</ | + | |
- | * 24bit 정수형의 총 표현 가능 단계 = < | + | |
- | * 32bit 정수형의 총 표현 가능 단계 = < | + | |
- | * 48bit 정수형 배정밀도= < | + | |
- | * 56bit 정수형 = < | + | |
- | * 64bit 정수형 = < | + | |
- | 부동소수형 숫자 표현의 범위\\ | ||
- | * 32bit 부동소수형의 가장 작은 숫자 = < | ||
- | * 32bit 부동소수형의 가장 큰 숫자 = <m>(2 - 2^{-23}) * 2^{127}</ | ||
- | |||
- | 이중에서 32비트 정수형과 32비트 부동소수를 비교하면\\ | ||
- | 32비트 정수형은 10자리수, | ||
- | |||
- | 40bit 부동소수 연산용 DSP 칩.\\ | ||
- | https:// | ||
- | |||
- | |||
- | |||
- | {{page> | ||
=====디지털 콘솔은 왜 정수형 연산자를 쓰는가? | =====디지털 콘솔은 왜 정수형 연산자를 쓰는가? | ||
[홈레코딩 필독서]"모두의 홈레코딩"구매링크
오디오_미신/높은_bit_depth가_무조건_좋은거다.txt · 마지막으로 수정됨: 2024/04/14 저자 127.0.0.1