측정값과 유효숫자

등록일 1999.04.10 훈민정음 (gul) | 3페이지 | 무료

본문내용

측정값은 숫자로 표시하여야 하지만 그의미는 수학에서의 표기법과 다르다. 모든 측정값은 근사갑이므로 무의미한 자릿수들을 나열할 필요가 없다. 그래서 효력이있는 숫자, 즉 유효숫자만을 표시하여야 하는데 일반적으로 다음과 같이 정해진다.
1) 0이 아닌 맨 왼쪽의 숫자가 최상 휴효숫자이다.
2) 소수점이 없을 경우에는 0이 아닌 맨 오른쪽의 숫자가 최하 유효숫자이다.
3) 소수점이 있을 경우에는 맨 오른쪽 숫자가 0이더라도 이 수가 최하 유효숫자이다.
4) 최상 유효숫자와 최하 유효숫자 간의 모든 숫자가 유효숫자이다.

측정값들을 가감승제할 때에는 불필요한 계산시간의 낭비를 줄이기 위하여 다음과 같이
결과를 얻는다.
덧셈과 뺄셈: 보기로 4.5와 0.3352의 합을 계산하면

4.5 4.5 4.5
+)0.3352 → +)0.3352 = +)0.33 =
4.8352 4.83 ----- 4.8
반올림

숫자 4.5는 소수점 이하 두 자리에서는 유효숫자가 없으므로 0.3352도 그곳에서 자른
다음 두 숫자를 더하여 반올림하면 된다.

곱셈과 나눗셈: 보기로 4.5와 0.3352 의 곱을 계산하면
반올림
4.5×0.3352 = 1.5080 → 4.5× 0.335 = 1.5075 ----- 1.6

숫자 4.5는 유효숫자가 두 자리이므로 0.3352는 0.335에서 세자리만 택하여 곱한 후 결
과는 두자리가 되도록 반올림하면 된다.

2. 표준오차

측정값들은 우연오차 때문에 매번 측정할 때마다 다른 값을 얻게 되고 어떤 분포를 이룬
다. 이러한 측정값들의 분포특성을 기술하기 위하여 이들을 대표할 수 있는 수차와 분포된
정도를 나타내는 척도가 필요하다.
측정자료를 대표할 수 있는 수치로서는 최빈값, 중앙값 및 평균값등을 사용한다. 최빈값
은 측정자료들을 나열했을 때 빈도가 가장 많은 측정값이고, 중앙값은 이보다 작은 자료와
많은 자료가 똑같은 측정값의 분포에서 중앙에 위치한 측정값이다.
평균값은 측정값들의 산술평균이다. 측정값들이 x1,x2,x3, ........ ,xn 이라 하여 모두N개
의 자료를 얻었으며 평균값은 다음과 같이 계산한다.


*원하는 자료를 검색 해 보세요.
  • 비침습적 측정방법을 이용한 노인여성의 안면부위별 피부 측정값 9페이지
    인간은 연령이 증가함에 따라 인체의 모든 생리학적 기능이 감소하게 되며, 이에 따라 노인은 가령에 의한 내인성 노화(intrinsic aging)가 발생된다. 이에 따라 탄력감소, 피지분비량 저하, 수분량 저하가 동반된다. 이에 본 연구는 광주광역시에 거주하는 노인여성..
  • 측정값과 오차.... 3페이지
    측정값과 유효숫자 측정값은 숫자로 표시하여야 하지만 그의미는 수학에서의 표기법과 다르다. 모든 측정값은 근사갑이므로 무의미한 자릿수들을 나열할 필요가 없다. 그래서 효력이있는 숫자, 즉 유효숫자만을 표시하여야 하는데 일반적으로 다음과 같이 정해진다. 1) 0이 아닌 ..
  • 화학실험_엔탈피_측정값(결과) 3페이지
    A. 열량계의 열용량 결정ⓛ. 실험에서 측정한 무게250 mL 비커와 교반자석의 무게95.73 g증류수 50mL와 비커의 총 무게144.78 g실험 종료후 비커의 총 무게191.76 g②. 실험에서 측정한 온도값0초~2분25.02분 40호43.23분433분 20초42...
  • 병렬회로 결과보고서 5페이지
    이 실험에서 전류 분배 법칙에 해당하는 부분을 쓰시오.I1 = = 4.9mAI2 = = 2.37mAI3 == 8.9mA-> I1+I2+I3 =16.17mA1. I1의 오차 = 이론값(I1) - 측정값(I1) = ( 5 )mA - ( 4.9 )mA = ( 0.1 ..
  • OTDR 측정값 비교를 이용한 PON 시스템 고장위치 탐색 (Fault Location of PON System by Comparison of OTDR Measurement Results) 2페이지
    한국통신학회 한국통신학회 기타 간행물 강상구, 김재성, 여은모, 이봉영, 박영일
  • 측정값과 오차 예비 1페이지
    어느 실험을 하든 모든 실험결과가 자신이 원하는 측정값이 나오지 않고오차가 나기 마련이기 때문에 많은 실험결과를 종합하여 최대한 자신이 원하는측정값이 나오는 실험을 하기위하여 측정값과 오차에 대한 기본지식을 얻기 위하여조사하고 정리하였다.
  • 전자회로실험 실험4 결과 6페이지
    .. 된다. (가정) 이 식에 따라 가 에 도달하면 즉, 가 되면, 특성에 의해 기존의 가 반 전되어 출력된다. 이 식을 다시 =-로 바꾸고, 가 새로 바뀐 까지 하강하면 다시 가 반전되는 식으로 과 가 진동하게 된다. 주기를 구해보면,( 대입 )-> -> Set ->..
더보기

이 자료와 함께 구매한 자료

      최근 구매한 회원 학교정보 보기
      1. 최근 2주간 다운받은 회원수와 학교정보이며
         구매한 본인의 구매정보도 함께 표시됩니다.
      2. 매시 정각마다 업데이트 됩니다. (02:00 ~ 21:00)
      3. 구매자의 학교정보가 없는 경우 기타로 표시됩니다.
      최근 본 자료더보기
      추천도서