올림과 버림: 두 판 사이의 차이
내용 삭제됨 내용 추가됨
편집 요약 없음 |
+절단의 상대오차 |
||
1번째 줄:
{{다른 뜻 넘어옴|내림|[[범주론]] 및 [[대수기하학]] 용어|내림 데이터}}
'''버림''' 또는 '''내림''', '''절단'''<ref group="ref">{{harvp|Abdelwahab Kharab|Ronald B. Guenther|p=27|2013}}</ref>은 [[근삿값]]을 구하는 방법 중 하나이다.
== 방법 ==
18번째 줄:
* -333.3을 일의 자리에서 버림하면 -340이다<ref>-333.3=-340+6.7 → -340.</ref>.
* -4.14를 소수점 첫째 자리에서 버림하면 -5이다<ref>-4.14=-5+0.86 → -5.</ref>.
== 절단의 상대오차 ==
실수 x를 [[부동소수점]] 기계 숫자로 나타낸 것을 fl(x)라고 할 때, 절단 오차를 구하는 과정은 다음과 같다. 우선 십진수 양의 실수 x는 [[부동소수점#형태|정규화]]된 형태로 다음으로 나타낼 수 있다.
:<math>x = (0.b_1 b_2 \cdots b_k b_{k+1} \cdots)_{10} \times 10^e</math>
k자리로 절단하는 경우의 [[관측값#상대오차|상대오차]]를 구한다면
:<math>\begin{matrix}
\left| \frac{x-fl(x)}{x} \right| &=& \left| \frac{(0.b_1 b_2 \cdots b_k b_{k+1} \cdots) \times 10^n - (0.b_1 b_2 \cdots b_k) \times 10^n}{(0.b_1 b_2 \cdots b_k b_{k+1} \cdots) \times 10^n} \right| \\
&=& \left| \frac{0.b_{k+1} b_{k+2} b_{k+3} \cdots}{0.b_1 b_2 \cdots b_k b_{k+1}} \times 10^{-k} \right| \\
&\leq& \frac{1}{0.1} \times 10^{-k} = 10^{-k+1}
\end{matrix}</math>
따라서 절단의 상대오차는 <math> \left| \frac{x-fl(x)}{x} \right| \leq 10^{-k+1}</math>이다.<ref group="ref">{{harvp|Abdelwahab Kharab|Ronald B. Guenther|p=28|2013}}</ref>
== 같이 보기 ==
줄 23 ⟶ 34:
* [[반올림]]
==
{{각주}}
== 참조주 ==
{{각주|group=ref}}
== 참고 문헌 ==
* {{서적 인용|저자1=Abdelwahab Kharab|저자2=Ronald B. Guenther|제목=An Introduction to Numerical Methods A MATLAB Approach|번역제목=이공학도를 위한 수치해석|날짜=2013|출판사=학산미디어|isbn=978-89-966211-8-8 |ref=harv}}
[[분류:산술]]
| |||