오디오_미신:높은_bit_depth가_무조건_좋은거다
[공지]회원 가입 방법
[공지]글 작성 및 수정 방법
[홈레코딩 필독서]"모두의 홈레코딩"구매링크
[공지]글 작성 및 수정 방법
차이
문서의 선택한 두 판 사이의 차이를 보여줍니다.
양쪽 이전 판이전 판다음 판 | 이전 판마지막 판양쪽 다음 판 | ||
오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – [각 데이터 형식의 표현 범위] 정승환 | 오디오_미신:높은_bit_depth가_무조건_좋은거다 [2024/02/22] – ↷ 링크가 이동 작업으로 인해 적응했습니다 47.128.57.156 | ||
---|---|---|---|
줄 12: | 줄 12: | ||
부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, | 부동소수형의 장점은 글자수(bit)에 비해서 표현할 수 있는 숫자의 범위가 매우 크다는 점이지만, | ||
+ | {{page> | ||
- | =====부동소수의 | + | {{page> |
- | + | ||
- | 오차의 예를 들자면\\ | + | |
- | 정수형 표현에서 12345 라고 표현되는 숫자가, 부동소수형에서는 오차가 발생하여 12345.0000000000000000000000000000000001 로 표현되는것으로 이해하면 된다.\\ | + | |
- | 이러한 오차는 아주 | + | |
- | + | ||
- | 그렇기 때문에 그래픽 카드에서 쓰이는 GPU에서는 거의 부동소수형 연산자를 가진 칩을 사용하고, | + | |
=====디지털 콘솔은 왜 정수형 연산자를 쓰는가? | =====디지털 콘솔은 왜 정수형 연산자를 쓰는가? |
[홈레코딩 필독서]"모두의 홈레코딩"구매링크
오디오_미신/높은_bit_depth가_무조건_좋은거다.txt · 마지막으로 수정됨: 2024/04/14 저자 127.0.0.1