SAS를 이용한 단순선형회귀분석

소개

자료 분석 과목에서 SAS를 이용한 단순선형회귀분석을 해보았습니다.
자료가 같지는 않지만, SAS Source를 충분히 사용할 수 있고 논리 파악이 가능합니다.

목차

1. 개요 및 data의 입력

2. 표본의 특성과 정규성 검정
① data의 정규성 검정
② 수정된 data의 정규성 검정

3. 상관 분석
① 산점도
② x, y의 상관계수, 모상관 계수 의 검정

4. 회귀 분석
① 회귀분석의 기본 가정 및 모형
② 회귀 계수의 추정
③ 회귀 계수의 적합성
④ 신뢰구간

5. 잔차 분석
① 오차의 독립성
② 오차의 정규성
③ 오차의 등분산성

본문내용

2. 표본의 특성과 정규성 검정

① data의 정규성 검정
대부분의 통계적 추론은 관심대상 모집단이 정규분호를 따르며 추출된 자료들이 서로 독립이라는 가정하에서 수행된다. 따라서 추론 결과가 의미를 갖기 위해서는 먼저 추출된 자료가 정규분포를 따르는지, 독립인지 등을 검토해야 한다.

- SAS code

Proc univariate data=height normal plot;
var y x;
run;


- Output(Y에 대한)
SAS 시스템
UNIVARIATE 프로시저
변수: y

정규성 검정
검정
통계량
p-값
Shapiro-Wilk
W
0.982735
Pr <W
0.2391
Kolmogorov-Smirnov
D
0.060169
Pr >D
>0.1500
Cramer-von Mises
W-Sq
0.045075
Pr >W-Sq
>0.2500
Anderson-Darling
A-Sq
0.359258
Pr >A-Sq
>0.2500


- 배경 지식
이 외에도 많은 output이 나왔지만, 여기서는 정규성 검정과 줄기 잎 그림, 상자 그림만 분석하기로 한다.
정규성 검정에 대한 검정통계량 값과 그에 대응하는 p-값을 출력한 것이다. 정규성 검정은 자료가 정규분포를 따르는지의 여부를 검정하는 것으로, 자료의 수가 2000개 이하일 때는 Shapiro-Wilk 검정을 수행하고, 그 이상일 때는 Kolmogorov-Smirnov 검정을 한다. 여기서는 자료가 96개임으로 Shapiro-Wilk 검정의 결과를 보면 된다.
줄기 잎 그림과 상자 그림을 통해서 정규성에 대한 구체적인 결과를 얻을 수는 없지만, 양상을 살펴 볼 수는 있다. 정규 확률도는 자료의 분포가 정규분호를 따르는지를 나타내는데, 관측치는 *로 표시 되고 정규분포의 기준은 +로 나타내고 있다. 따라서 *들이 + 주위에 밀집되어 있으면 정규분포를 따른다고 할 수 있다.

- 분석
변수 y에 대한 정규성 검정으로 Shapiro-Wilk의 검정통계량 값은 0.982735, p-값은 0.2391임을 알 수 있다. 이는 유의 수준 0.05하에서 귀무가설 ‘:정규분포를 따른다’를 Accept한다. 0.05보다 0.2391가 크기 때문이다. 따라서 y값들은 정규분포를 따른다.
줄기 잎 그림은 정규 분포의 모양과 비슷하고, 상자 그림을 통해서는 이상값이 없다는 것을 확인 할 수 있다. 정규 확률도를 분석해 보면, *들이 + 주변에 밀집해 있음을 볼 수 있다. 따라서 이는 위에 정규성 검정 결과인 y가 정규분포를 따른다는 사실을 뒷받침해 준다.

- Output(X에 대한)

정규성 검정
검정
통계량
p-값
Shapiro-Wilk
W
0.970459
Pr <W
0.0288
Kolmogorov-Smirnov
D
0.107751
Pr >D
<0.0100
Cramer-von Mises
W-Sq
0.157904
Pr >W-Sq
0.0196
Anderson-Darling
A-Sq
0.899799
Pr >A-Sq
0.0218

- 분석
변수 x에 대한 정규성 검정으로 Shapiro-Wilk의 검정통계량 값은 0.970459, p-값은 0.0288임을 알 수 있다. 이는 유의 수준 0.05하에서 귀무가설 ‘:정규분포를 따른다’를 Reject한다. 0.05보다 0.0288이 더 작기 때문이다. 따라서 x값들은 정규분포를 따른다고 할 수 없다.
줄기 잎 그림 역시 정규 분포의 모양이라 하기 힘들다. 정규 확률도를 분석해 보면, 대부분의 *들이 + 주변에 밀집해 있지만, 아닌 표본도 있다는 것을 알 수 있다. 이는 위에 정규성 검정 결과인 x가 정규분포를 따르지 않는다는 사실을 뒷받침해 준다.
정규성을 만족하지 않은 경우에는 자료가 정규분포를 따르도록 변환을 해야 한다. 이를 위해서 잔차 분석을 하도록 하겠다.

참고자료

· SAS/STAT-회귀분석, 성내경, 1991
· SAS 프로그래밍과 데이터 분석, 함형범, 2007
· 교과서