확률및통계학 라운드오프에러

소개글

라운드오프에러에 관한 레포트입니다...

목차

없음

본문내용

컴퓨터가 대부분의 숫자를 정확한 형태로 표현하지 못함으로써 야기되는 수치연산의 오차에는 두 가지 중요한 원인이 있는데, 하나는 절단 오차(trucation error)이고, 다른 하나는 반올림오차(round-off error)이다. 그 중에서 교수님께서 힌트를 주신 것(①디지털컴퓨터②n이 무지하게 크다)을 연관지어 반올림오차에 대해서 조사를 하였다.
반올림오차는 수들을 컴퓨터내에 나타낼 때의 한정된 자리수와 연관이 있다. 반올림오차에는 두 가지 경우가 있는데 시스템이 수용할 수 있는 것 이상의 자릿수를 버림으로써 숫자를 줄이는 것과, 다른 하나는 숫자를 반올림하는 것으로, 그 결과는 버려질 첫 번째 자리수의 값에 달려있다. 만일 시스템이 n자리를 수용할 수 있고 (n+1)번째 자리가 0,1,2,3,혹은4라면 반올림은 첫 번째 방법과 같은 결과를 산출한다. 만일 (n+1)번째 자리가 6,7,8,혹은 9라면 n번째 자리는 1증가된다. 만일 (n+1)번째 자리가 5라면 n번째 자리가 짝수가 되도록 횟수의 반에 대하여 반올림하는 것이 일반적이다. 정확한 값이 반올림된 값보다1/2의 확률로 크고 또한 1/2의 확률로 작기 때문에, 반올림으로 인한 오차가 계속되는 계산에서 누적되기는 어렵다. 게다가 일어날 수 있는 가장 큰 절대오차는 반올림보다 버림이 2배 크다. 반면에 버림은 마지막에 저장한 자리수를 변경시킬지의 여부를 결정할 필요가 없다.
연산순서에 따른 반올림 효과의 예 하나를 들어보자.
0.99+0.0044+0.0042=
정확히 계산하면 0.9986이 될 것이다.
만일 3자리 계산하고 왼쪽에서 오른쪽으로 계산하면
0.994+0.0042=0.998
또한 적은 숫자가 먼저 더해지도록 순서를 변경하여 계산하면
0.99+(0.0044+0.0042)=0.99+0.0086=0.999
이렇듯 round-off error로 인해 값이 틀리게 나온다.

참고 자료

없음