(방송통신대 딥러닝의통계적이해 중간과제물)딥러닝의 역사와 관련된 사건 또는 인물을 위키피디아 등을 바탕으로 정리하시오 다층신경망의 학습과정 하이퍼파라미터 완전연결신경망

소개

과제물의 문제에 적합한 형식과 내용으로 정성을 다해 작성했습니다.
여러 참고자료를 바탕으로 주요내용을 최대한 이해하기 쉽고 알차게 정리했습니다.
리포트를 효율적으로 작성하시는 데 작은 도움이라도 되시기를 진심으로 바랍니다.^^

문단 모양(왼쪽 여백 0, 오른쪽 여백 0, 줄간격 160%)
글자 모양(바탕체, 장평 100%, 크기 11 pt, 자간 0%)

행복하세요, Now!

목차

1. 딥러닝의 역사와 관련된 사건 또는 인물을 위키피디아 등을 바탕으로 정리하시오.
2. 다층신경망의 학습과정을 정리하시오.
3. http://playground.tensorflow.org/ 를 크롬으로 접속하여 분류과제(Classification) 중 하나를 학번 끝자리에 따라 선택하고, 해당 과제에 대한 최적의 신경망을 하이퍼파라미터를 달리하여 작성한 후 그 모형의 특성을 정리하시오.
4. 구글 Colab을 이용하여 MNIST에 대한 완전연결신경망을 작성하시오.(코드와 최종결과 캡처해서 넣으시오.
5. 참고문헌

본문내용

1. 딥러닝의 역사와 관련된 사건 또는 인물을 위키피디아 등을 바탕으로 정리하시오.(5점)

딥러닝은 심층망에서의 학습과 추론에 대한 연구로 기존 신경망의 계층을 확장한 형태이다. 따라서 딥러닝의 이해는 곧 신경망 발전의 이해라고 할 수 있다. 1943년 맥클럭(Warren McCulloch)과 피츠(Walter Pitss)가 뇌세포를 처음으로 모델링했다. 1949년 햅(D. Hebb)은 신경망 학습을 위해 함께 행동하는 뉴런들은 더 단단히 연결한다는 헤비안 학습을 제안했다. 이어 1958년에는 로젠블랫(F. Rosenblatt)이 맥클럭과 피츠의 뇌모델에 헵의 학습이론에서 아이디어를 얻어 weight(가중치)를 추가해 퍼셉트론을 만들고 이를 알파벳 인식에 적용했다.

퍼셉트론이 뇌의 신경세포를 모방하였으므로 인간의 신경세포의 구조를 이해할 필요가 있다. 인간의 신경계는 뉴런이라고 불리는 신경세포들로 구성된다. 뉴런은 축삭돌기와 수상돌기로 연결되어 있고 축삭돌기와 수상돌기가 접하는 부분이 시냅스(synapses)이다. 시냅스 연결 강도는 외부 자극에 의해 반응해 변한다. 그리고 생명체의 학습은 이러한 변화에 따라 일어나는 것이다. 퍼셉트론은 축살돌기와 수상돌기에 해당하는 입력층과 출력층이 있고 시냅스 연결 강도는 가중치를 통해 표현한다.

단층 인공신경망인 퍼셉트론이 발표된 후인 1960년에는 Bernard Widrow와 Tedd Hoff는 퍼셉트론 알고리즘을 향상시켜 Adaptive Linear Neuron(Adaline, 아달라인)을 제안했다. 퍼셉트론은 손실함수를 정의하지 않고 가중치를 갱신하여 일반적인 과제를 해결하는 데는 부적합했다. 그러나 아달린은 입력 데이터로부터 구한 출력값과 실젯값과의 차이의 평균제곱합을 손실함수로 정의하여 퍼셉트론의 단점을 보완한다.

그러나 1969년 MIT의 민스키(M. Minsky) 교수가 페셉트론의 한계를 증명하면서 신경망에 대한 관심은 사라졌다.

참고자료

· 김용대, 김기온(2020), 딥러닝의 통계적이해, 방송통신대학교출판문화원.
· 이영호(2020), 2020 모두의 인공지능 with 파이썬, 길벗.
· 천인국(2020), 인공지능 : 파이썬으로 배우는 머신러닝과 딥러닝, 인피니티북스.