알고리즘에 대해

소개글

"알고리즘에 대해"에 대한 내용입니다.

목차

1. 의사결정트리 알고리즘
2. K-NN 알고리즘
3. K-means 알고리즘

본문내용

의사결정트리 알고리즘
의사결정트리는 가장 널리 사용되는 기계학습 알고리즘 중 하나이고 분류 및 회귀 문제 모두에 적용되는 방법입니다. 의사결정트리는 데이터를 스무고개처럼 분석하여 이들 사이에 존재하는 패턴을 예측 가능한 규칙들의 조합으로 나타내며, 그 모양이 나무와 같다 하여 의사결정트리라고 합니다. 초기지점은 root node라 하고 분기가 거듭될수록 그에 해당하는 데이터의 개수는 줄어듭니다. 각 terminal node에 속하는 데이터의 개수를 합하면 root node의 데이터 수와 일치합니다. 즉, terminal mode 간 교집합이 없다는 의미입니다. terminal node는 분리된 집합의 개수입니다. 분류나무는 구분 뒤 각 영역의 순도가 증가, 분순도 혹은 불확실성이 최대한 감소하도록 하는 방향으로 학습을 진행합니다. 이를 정보이론에서는 정보획득이라 합니다.

참고 자료

https://blog.naver.com/nm1lee/221614598300
최근접 이웃 분류(k-NN)|작성자 Jun