절단오차는 무한한 항으로 나타내어지는 수를 유한한 항으로 근사시킬 때 나타나는 오차이다. 예를 들어서 cos x를 테일러 급수로 나타낸 후, x = 0.5일 때 3개 항까지만 나타낸다면 다음과 같다.
![{\displaystyle \cos 0.5=1-{\frac {1}{8}}+{\frac {1}{384}}\approx 0.8776041667}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a53b4b425a3f3b5f57c3c318c6a69dbb17233097)
x* = 0.8776041667라 하면
이므로 x*는 다섯 자리 유효숫자로 근사한다. 테일러급수의 절단오차 표현을 사용하면
![{\displaystyle R_{6}(x)={\frac {f^{(6)}(z)x^{6}}{6!}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cf1bac2e09b0dee42e8eb24e8418fac26f7b72a7)
이므로
(0, 0.5) 구간에서
이므로
실제 절대오차는 0.216×10-4이고, 나머지 공식에 의한 오차의 한계는 0.217×10-4이다.[1]
- ↑ Abdelwahab Kharab; Ronald B. Guenther (2013). 《An Introduction to Numerical Methods A MATLAB Approach》 [이공학도를 위한 수치해석]. 학산미디어. 32-33쪽. ISBN 978-89-966211-8-8.