728x90 Catboost1 # 8 앙상블 기법 CatBoost 기존 Gradient Boosting 방법의 문제점 1. Target LeakageTarget Leakage란 범주형 변수에서 범주형 값을 수치로 바꿔서 모델링하는데 수치로 바꾸는 과정에서 target value가 포함이 되어버리는 것이다. 즉, 학습할 데이터에 정답이 사용이 되어버려 학습 데이터에서는 잘 맞지만 나중 테스트 데이터에서 예측값에 문제가 나오는 것학습 과정에서 미리 target(정답)이 유출되어 버려 Target Leakage라고 한다.다음 예를 보자.범주 A는 A에 대응되는 y값(target값)의 평균인데 위 표에서는 21=0.5가 된다. 마찬가지로 B는 32=0.67, C는 54=0.8 이다.(참고로 범주형 데이터에서 값을 수치로 바꾸는데 target의 평균값을 많이 쓴다고 한다... 2023. 9. 24. 이전 1 다음 728x90 반응형
