수치해석 개정판 정익사 박재년 연습문제 문제풀이
- 최초 등록일
- 2009.04.15
- 최종 저작일
- 2009.04
- 24페이지/ 한컴오피스
- 가격 1,500원
소개글
수치해석 개정판 정익사 박재년 연습문제 문제풀이
연습문제 전체 풀이 입니다...
목차는 따로 없으며!!! 전체 풀이 입니다..
본문 내용확인 하고 구입하세요!!
목차
수치해석 개정판 정익사 박재년 연습문제 문제풀이
본문내용
1.1 (1) 156.2=(9C.3)16 (2) 0.25=(0.4)16
(3) 26.4=(1A.6)16 (4) 1592.2=(638.3)16
1.2 (1) ( 9C.3)16=(0.9C3)16*162
(42 9C 33 33 )16, (01*************0 00110011 00110011)2
(2) (0.4)16*160
(40 40 00 00)16, (01000000 01000000 00000000 00000000)2
(3) (26.4)10=(1A.6)16=(0.1A6)*162
(42 1A 66 66)16
(4) (1592.2)16=(638.3)16=(0.6383)16*163
(43 63 83 33)16
1.3 부동소수점표현의 최대값은
7F FF FF FF
이다. 따라서 이 값은
0.FF FF FF * 167F-40 =0.FF FF FF *163F
=0.FF FF FF *1663
=FF FF FF *1657
=(165-1)*1657
=1048576*0.431359*1069=0.452313*1075
16 진수 6 자리의 최대값은 1048576 이므로 유효숫자가 이 보다
큰 값은 6 자리 수로 마무리 된다. 따라서 정확도는 10 진수 6
자리 까지로 볼 수 있다.
1.4 (1) 8A 32 5C 23= -0.325C2.3*16A-40 =-0.325C23*16-36=-325C23*16-41
=-(3*164+2*163+5*162+12*161+2*160+3*16-1)*16-41
=0.882628*10-45
(2) 425829A3 =0.5829A3*1642-40=577782*101
참고 자료
없음