컴퓨터:integer_and_floating_point

[홈레코딩 필독서]"모두의 홈레코딩"구매링크
가성비 있는 녹음실 찾으시나요? 리버사이드 재즈 스튜디오에서 녹음하세요!

차이

문서의 선택한 두 판 사이의 차이를 보여줍니다.

차이 보기로 링크

--- 컴퓨터:integer_and_floating_point [2025/01/01] – [부동소수점 연산의 정밀성 손실] 정승환
+++ 컴퓨터:integer_and_floating_point [2026/02/22] (현재) – 정승환
@@ 줄 30: / 줄 30: @@
 =====각 데이터 형식의 표현 범위=====
-정수형 숫자 표현의 범위\\
+**정수형 표현 범위**
-  * 16bit 정수형의 총 표현 가능 단계 = 2<sup>16</sup> = 65536(**5자리수**)
+<WRAP tablewidth 100%>
-  * 24bit 정수형의 총 표현 가능 단계 = 2<sup>24</sup> = 16777216(**8자리수**)
+^ 비트 수 ^ 계산식      ^ 결과                  ^ 자릿수  ^
-  * 32bit 정수형의 총 표현 가능 단계 = 2<sup>32</sup> = 4294967296(**10자리수**)
+| 16비트  | 2<sup>16</sup>  | 65,536                | 5자리   |
-  * 48bit 정수형 배정밀도= 2<sup>48</sup> = 2.8147498e+14 (e+x 는 +10^X 를 말합니다.) = 28147598000(**14자리수**)
+| 24비트  | 2<sup>24</sup>  | 16,777,216            | 8자리   |
-  * 56bit 정수형 = 2<sup>56</sup> = 7.2057594e+16(**16자리수**)
+| 32비트  | 2<sup>32</sup>  | 4,294,967,296         | 10자리  |
-  * 64bit 정수형 = 2<sup>64</sup> = 1.8446744e+19(**19자리수**)
+| 48비트  | 2<sup>48</sup>  | 281,474,976,710,656   | 15자리  |
+| 56비트  | 2<sup>56</sup>  | 72,057,594,037,927,936| 17자리  |
+| 64비트  | 2<sup>64</sup>  | 18,446,744,073,709,551,616 | 20자리 |
+</WRAP>
+**부동소수점 범위 (32비트 IEEE 754)**
+<WRAP tablewidth 100%>
+^ 설명            ^ 계산식                       ^ 결과  ^  자릿수  ^
+| 최소 양수 정규화값 | 1.0 × 2<sup>-126</sup>       | 1.1754944 × 10<sup>-38</sup> | 38자리 |
+| 최대 양수값      | (2 - 2<sup>-23</sup>) × 2<sup>127</sup> | 3.4028235 × 10<sup>+38</sup> | 38자리 |
+</WRAP>
-부동소수형 숫자 표현의 범위\\
-  * 32bit 부동소수형의 가장 작은 숫자 = 1.0 x 2<sup>-126</sup> = 1.1754944e-38 (**소수점 38자리수**)
-  * 32bit 부동소수형의 가장 큰 숫자 = (2 - 2<sup>-23</sup>) x 2<sup>127</sup> = 3.4028235e+38 = (**38자리수**)
 =====부동소수점 연산의 정밀성 손실=====

[공지]회원 가입 방법
[공지]글 작성 및 수정 방법

컴퓨터/integer_and_floating_point.1735714391.txt.gz · 마지막으로 수정됨: 2025/01/01 저자 정승환