최대우도추정법

소개글

최소자승법이 추정오차의 자승합을 극소화시키는 파라메타값을 구하는데 반해 최우법은 실현된 관측치가 동시에 나타날 가능성, 즉 결합확률함수를 극대화시키는 파라메타값을 추정한다는 점에서 양자는 상반된 절차로 인식될 수 있지만 오차가 정규분포하는 경우에 두가지 기법에서 얻는 추정치는 결과적으로 같아진다. 소표본에서 의 최우추정량은 편의추정량인 반면에 최소자승추정량은 불편추정량이 되지만 표본의 크기가 무한히 증가함에 따라 의 최우추정량과 최소자승추정량은 같아지는 경향이 있다.

목차

없음

본문내용

1. 최대우도법(Method of Maximum Likelihood)

1) 개념

보통최소자승법과 비교하여 보다 강력한 이론적 속성을 갖는 점추정의 일반적인 방법은 최대우두법 또는 최우법이다. 최우법의 기본원칙은 확률표본의 대표성에 대한 문제를 다루려는 것이다. ML에 내포되고 있는 일반적 개념은 다음과 같다.
는 확률변수 X의 밀도함수라고 하며 θ를 이 밀도함수의 파라메타라고 하자. 만일 의 확률표본을 뽑았을 때 θ의 ML추정량이란 그러한 관측된 표본이 발생할수 있는 가장 높은 확률을 갖는 θ의 값이다. 다시 말해서 θ의 ML추정치는 밀도함수 를 극대화하는 값이다. 최소자승법과 더불어 광범위하게 사용되는 최우법의 경우에는 확률변수인 관측치들이 실제로 발생될 확률을 극대화시키는 분포함수를 찾는 방법에 의해 파라메터값을 추정하는 것이므로 이 경우에도 구체적인 분포형태가 전제되어야 한다.

2) 이론

관측되어지는 어느 표본의 결합확률을 나타내는 함수를 변수 X의 우도함수라고 하고 통상 L로 표기한다. 우도함수는 일반적으로 다음과 같이 기술한다.
. 여기에서 는 추정하려고 하는 함수들의 모두들을 나타낸다. 최우법의 추정단계는 다음과 같이 요약할 수 있다.

참고 자료

없음