개발/Kaggle

앙상블 학습(Ensemble)

개복치 개발자 2020. 5. 17. 16:32

앙상블 학습에 대해 알아보면

 

음식에서 앙상블을 이룬다는 말을 쓰는 것 처럼

 

앙상블 학습도 마찬가지로 이것저것 섞어서 조화를 이룬다 라는 의미로 쓰입니다.

 

그러니깐 어떤 학습 모델을 만드는데 이것저것 섞으니깐 성능이 더 잘나오더라 하는 부분입니다.

 

배깅과 부스팅으로 나눠서 설명해보면

 

배깅(bagging)

 

샘플을 여러번 뽑아서 가장 좋은 애를 선택해서 사용하는 것입니다.

 

배깅을 이용하는 방법이 랜덤포레스트입니다.

 

 

 

 

부스팅(Boosting)

 

그러면 부스팅은 무엇인가 보면 모델을 여러개 학습시켜, 약한 학습기를 이용해 강한 학습기를 만드는 것입니다.

 

 

 

 

 

 

 

 

 

 

참조

 

[1] - https://bkshin.tistory.com/entry/%EB%A8%B8%EC%8B%A0%EB%9F%AC%EB%8B%9D-11-%EC%95%99%EC%83%81%EB%B8%94-%ED%95%99%EC%8A%B5-Ensemble-Learning-%EB%B0%B0%EA%B9%85Bagging%EA%B3%BC-%EB%B6%80%EC%8A%A4%ED%8C%85Boosting

 

'개발 > Kaggle' 카테고리의 다른 글

XGBoost classification  (0) 2020.05.17
XGBoost Regression  (0) 2020.05.17
의사결정 트리  (0) 2020.05.17
LogisticRegression  (0) 2020.05.12
null 처리  (0) 2020.05.08