본문 바로가기

분류 전체보기64

SVM 쉽게 이해하기 - (1) Maximal Margin Classifier와 Support Vector Classifier Deep learning이 non linear 한 문제를 푸는 데 있어 성능이 아주 좋지만, 심플하면서 간혹 성능이 더 좋은 경우를 찾기 위해 기본적인 머신러닝 기법을 사용하는 경우가 있다. 머신러닝 기법 중 대표적인 것 중 하나가 SVM이다. SVM을 이해하기 전, 보다 기본적인 Maximal Margin Classifier와 Support Vector Classifier에 대한 이해가 필요한데, D dimension이 있을 때 이를 구분하는 d-1차원의 hyperplane을 긋는 것을 목적으로 하는 알고리즘으로 이해하면 된다. ​ Maximal Margin Classifier와 Support Vector Classifier는 관찰 데이터 x들을 두 개의 class $y_1, …, y_n \in \{-.. 2020. 11. 10.
Boosting(부스팅) 쉽게 이해하기, Adaboost 파이썬 코드 Boosting기법은 머신러닝을 사용할 시, 퍼포먼스가 좋기 때문에 반드시 돌려봐야 하는 알고리즘 중 하나이다. Decision tree를 발전시킨 방법인 방법으로 관련 내용은 다음을 참고하면 좋다. 의사결정트리(Decision Tree) 회귀트리, pruning 쉽게 이해하기 결정 트리 학습법(decision tree learning)은 머신러닝 학습 방법 중, 결과 데이터(output variable)로 학습시키는 지도 학습(supervised learning)에 해당된다. Output variable 이 연속적인 값일 경우(월급,.. modern-manual.tistory.com 의사결정트리 배깅(Bagging)과 랜덤포레스트(Random Forest) 쉽게 이해하기 Bagging과 random f.. 2020. 11. 3.
의사결정트리 배깅(Bagging)과 랜덤포레스트(Random Forest) 쉽게 이해하기 Bagging과 random forests는 의사결정 트리(decision tree)를 발전시켜 더 좋은 예측 모델을 만들기 위해 사용되는 기법이다. 배깅(Bagging) Bootstrap aggregation을 줄여 bagging이라고 부른다. Bootstrap으로 생성된 sample data sets 각각으로 모델을 만든 뒤 모델의 평균값으로 예측을 하는 방법이다. 자세한 부트스트랩 개념은 다음 페이지를 참고하면 된다. Bootstrap sampling (Bootstrapping, 부트스트랩 샘플링) 쉽게 이해하기 Bootstrap (부트스트랩)은 데이터 내에서 반복적으로 샘플을 사용하는 resampling 방법 중 하나이다. 다른 resampling 방법인 K-Fold Cross Validation.. 2020. 11. 3.
Bootstrap sampling (Bootstrapping, 부트스트랩 샘플링) 쉽게 이해하기 Bootstrap (부트스트랩)은 데이터 내에서 반복적으로 샘플을 사용하는 resampling 방법 중 하나이다. 다른 resampling 방법인 K-Fold Cross Validation은 다음 글에서 자세히 확인할 수 있다. K-Fold Cross Validation (교차검증) 쉽게 이해하기 K-Fold Cross Validation (교차검증)은 데이터 내에서 반복적으로 샘플을 사용하는 resampling 방법 중 하나이다. 그렇다면 교차검증을 사용하는 이유 및 방법을 알아보자. Cross Validation 사용하는 이유 modern-manual.tistory.com Bootstrap을 이해하기 전에, 장화의 손잡이 부분을 의미하는 bootstrap이라는 단어가 왜 사용되었는지 그 기원이 재미있.. 2020. 11. 3.