[도시공학]최소자승법

목차

1.최소자승법과 회귀분석의 관계와 기본전제
2.최소자승법의 원리와 회기분석에 적합한 이유
3.최소자승법 유도식
※예시

본문내용

회귀분석은 이른바 5가지 기본가정이 충족된다는 가정하에서, 오차의 자승합을 최소화 시키는 방법인 통상 최소자승법을 이용하여 이루어진다.
표본관측치를 통해 추정치은와의 값을 구하는 최소자승법은 실제값과 추정치간
차이 즉, 회귀오차의 자승을 합한 값 이 최소가 되는 표본 회귀선을 찾는 방법이다.
이 방법은 자료들을 표시하는 각 좌표들과 이 사이를 지나는 직선(회귀추정식)과의 수직적 길이(차이)를 가장 짧게 하는 것으로, 각 수직적 길이를 제곱하여 합한 값을 최소화 하는 것이다. 단순하게 수직적 길이를 합하는 것은 음수와 양수가 섞여서 각 좌표와 직선과의 거리를 최소자승추정법이라고 한다.
따라서, 회귀오차의 절대값을 합한 값을 최소화하는 방법보다 회귀오차의 자승을 합한 값을 최소화하는 방법을 선택한 이유는 큰 폭의 오차에 대해 보다 더 큰(승수배의) 가중치(벌점) 부여함으로서, 독립변수 값이 동일한 평균치를 갖는 경우 가능한 한 변동폭이 적은 표본회귀선을 도출하기 위한 것이다.
최소자승법은 산정되는 추정량와는 다음의 가정들이 충족될 경우, 통계적으로 바람직한 특성들(불편성, 효율성, 충족성, 일관성)을 가지게 되며, 전통적인 통계적 추정 및 검정방법이 그대로 적용될 수 있게 된다.

두 변수 x,y간의 산포도가 주어져 있을 때 직관적인 의미에서 바람직한 회귀직선을 찾는
두 가지 방법으로
첫 번째 방법은 두 점의 차를 적절한 방법으로 최소화하는 것이 있다.
두 번째 방법은 회기직선과 관측치 중 x와 y로 정해진 점에서 회귀직선까지의 거리를 최소화하는 방법을 생각해 볼 수 있다.
통상적인 최소자승 추정 법은 위의 두 가지 방법 중에서 첫째 방법을 택해서 한점과 직선과의 직선거리의 제곱의 합을 최소화한다. 그러나 이 방법은 회귀직선을 계산함에 있어 x와 y를 동등하게 취급하지 않는다. 즉, 최소자승법은 회귀직선과 x의 관측치간의 편차에는 아랑곳하지 않고 오로지 회귀직선과 y의 관측치간의 편차를 최소화하는 데 모든 노력을 집중하는 추정방법인 것이다.

참고자료

· 없음