인공지능_#4

소개

<인공지능 과제 만점 자료>
Information gain
multi-layer neural network에서의 backpropagation learning
WEAK 이용한 인공지능 추론

목차

1. Information gain을 사용하여 decision tree 학습을 수행하는 과정을 보이고, 학습 결과에 따라 유권자 A=(M, 35, 2000)의 성향을 + 또는 -로 분류하시오. 각 attribute의 값은 다음과 같이 변환하여 사용하시오.

2. Example 1, 2, 3을 이용하여 multi-layer neural network에서의 backpropagation learning을 한번 수행하는 과정을 보이고, 그 결과에 따라 유권자 A=(M, 35, 2000)의 성향을 + 또는 -로 분류하시오. Neural network의 구조는 다음 그림과 같이 하고, 각 unit의 output function은 sigmoid이며, w1 = 1, w2 = -1, 나머지 weight는 모두 0.0으로 하시오. Learning rate는 10.0, 각 attribute의 값은 다음과 같이 [-1, 1]로 normalize 하여 사용하시오.

3. (WEKA) 위 1, 2번에 사용된 데이터로 다음을 수행하시오.

4. (WEKA) letter.arff 데이터는 인쇄된 숫자 이미지로부터 pixel들의 분포에 대한 16가지의 속성을 추출하고 그 속성값들을 바탕으로 A ~ Z 26개 문자 중 하나를 인식하는 문제에 대한 example들이다. 이 데이터로 decision tree (J48)와 neural network (multilayer Perceptron) 학습을 수행하여 다음의 결과를 보이시오.

본문내용

어떤 정당에서는 과거 일부 유권자의 투표 성향 자료를 분석하여 미래의 새로운 유권자들에 대한 투표 성향을 예측하려고 한다. 아래의 자료는 9명의 유권자들이 과거 여당(+) 또는 야당(-)에 투표한 기록이다. 각 유권자에 대하여 각각 성별(sex), 나이(age), 수입(income)에 대한 데이터가 있다. 이 데이터를 기초로 하여 감독 학습(supervised learning)을 수행하여 유권자의 투표 성향을 예측하는 모델을 만들려고 한다.

1. Information gain을 사용하여 decision tree 학습을 수행하는 과정을 보이고, 학습 결과에 따라 유권자 A=(M, 35, 2000)의 성향을 + 또는 -로 분류하시오. 각 attribute의 값은 다음과 같이 변환하여 사용하시오.
age: Old(40이상) 또는 Young(40미만),
income: High(2500이상) 또는 Low(2500미만)
*(소수점 4자리에서 반올림해서 계산하였습니다)

T = { +(1,3,5,7,8), -(2,4,6,9) }
E(T) = -5/9 ×log⁡〖5/9- 〗 4/9 ×log⁡〖4/9 =0.471+ 〗 0.520=0.991
If we select A = sex
E(T1 ::M) = -2/5 ×log⁡〖2/5- 〗 3/5 ×log⁡〖3/5 =0.529+0.442=0.971 〗
E(T2 ::F) = -3/4 ×log⁡〖3/4- 〗 1/4 ×log⁡〖1/4 =0.311+0.5=0.811 〗
Gain(A = sex) = 0.991-( 5/9×0.971+4/9 ×0.811)=0.991-0.529-0.360=0.102

If we select A = age
E(T1 ::old) = -3/3 ×log⁡〖3/3- 〗 0 ×log⁡〖0 =0 〗
E(T2 ::Young) = -2/6 ×log⁡〖2/6- 〗 4/6 ×log⁡〖4/6 =0.528+0.390=0.918 〗

참고자료

· 없음