가변 시간 뉴톤-랍손 부동소수점 역수 제곱근 계산기

서지정보

· 발행기관 : 한국정보처리학회
· 수록지 정보 : 정보처리학회논문지. 컴퓨터 및 통신시스템 / 12권 / 5호 / 413 ~ 420페이지
· 저자명 : 김성기, 조경연

초록

부동소수점 제곱근 계산에 많이 사용하는 뉴톤-랍손 부동소수점 역수 제곱근 알고리즘은 일정한 횟수의 곱셈을 반복하여 역수 제곱근을 계산한다. 본 논문에서는 뉴톤-랍손 역수 제곱근 알고리즘의 반복 과정의 오차를 예측하여 오차가 정해진 값보다 작아지는 시점까지 반복 연산하는 알고리즘을 제안한다.‘F’의 역수 제곱근 계산은 초기값 ‘X0=±e0’에 대하여, ‘Xi+1=, i∈{0, 1, 2,...n-1}’을 반복한다. 중간 곱셈 결과는 소수점 이하 p 비트 미만을 절삭하며, 절삭 오차는 ‘er=2-p’ 보다 작다. p는 단정도실수에서 28, 배정도실수에서 58이다. ‘Xi=±ei’라고 하면 ‘Xi+1=-ei+1, ei+1<+2er’이 된다. ‘｜-1｜<2’이면, ‘ei+1<8er’이 부동소수점으로 표현 가능한 최소값보다 작아지며, ‘Xi+1≒’이다.본 논문에서 제안한 알고리즘은 입력 값에 따라서 곱셈 횟수가 다르므로, 평균 곱셈 횟수를 계산하는 방식을 도출하고, 여러 크기의 근사 역수 제곱근 테이블(X0=±e0)에서 단정도실수 및 배정도실수의 역수 제곱근 계산에 필요한 평균 곱셈 횟수를 계산한다. 이들 평균 곱셈 횟수를 종래 알고리즘과 비교하여 본 논문에서 제안한 알고리즘의 우수성을 증명한다.본 논문에서 제안한 알고리즘은 오차가 일정한 값보다 작아질 때까지만 반복하므로 역수 제곱근 계산기의 성능을 높일 수 있다. 또한 최적의 근사 역수 제곱근 테이블을 구성할 수 있다.본 논문의 연구 결과는 디지털 신호처리, 컴퓨터 그라픽스, 멀티미디어, 과학 기술 연산 등 부동소수점 계산기가 사용되는 분야에서 폭 넓게 사용될 수 있다.

참고자료

· 없음