딥러닝 (데이터마이닝) 예상문제

목차

1. 회귀분석에서 딥러닝까지
2. Neural Network
3. Deep learning
4. CNN (Convolutional Neural Network)
5. Recurrent Neural Network
6. Auto Encoder

본문내용

1. 회귀계수 알파와 베타를 구하는 방법을 수식을 이용해 서술하시오.
2. 다중회귀모형에서의 미지모수 베타를 구하시오.

3. 로지스틱 회귀와 일반적인 회귀모형의 차이를 설명하시오.
종속변수가 Y=0,1과 같이 binary변수일 때 일반회귀모형으로 표현할 경우 좌변은 (0,1)이고 우변은 (-무한,+무한)인 문제가 발생한다. 로지스틱 회귀는 우면에 로지수틱을 이용해 양변의 범위가 (0,1)이 되도록 해결해준다. (수식으로 나타내기)

4. Cross Entropy함수에 대한 설명
로지스틱 회귀의 미지수는 Cost를 최소화하는 베타값이다. Cost가 정답일 때 작아지고 오답이면 커지는 함수이면서 Convex해서 기울기가 0인 지점을 찾아가도록 하는 함수이다.

5. Cross Entropy가 로지스틱 회귀의 최대가능도 함수임을 보여라.

6. Cross Entropy를 최소화하는 미지수를 수학적으로 구할 수 없다. 이를 해결하는 알고리즘을 수식으로 설명하시오.
최대경사하강법이라는 알고리즘이다. 임의의 초기값에서 출발하여 기울기 방향으로 움직이면 언젠가 기울기가 0인 지점에 도착한다. Cost를 미분하여 기울기를 구하고 기울기에 알파를 곱한만큼 빼주는 방법이다.

7. cost계산할 때 XW의 scale조화가 필요하다. X에 따라 W의 Scale을 조절하는 것이 힘들기 때문이다. 그래서 표준화(평균0,분산1)하거나 정규화(0~1사이로 압축)가 필요하다.
8. overfitting 문제에 대해 설명하시오.
9. Mini-batch, epoch, one hot encoding

참고 자료

없음