predict-delinquency

• 신용카드 사용자 연체 예측 AI 경진대회

Feature Engineering

• income_type: 기본 변수
• edu_type: 기본 변수
• family_type: 기본 변수
• house_type: 기본 변수
• occyp_type: 기본 변수
• income_total: numeric한 변수를 category로 바꿈
• begin_month: 중복 데이터를 구별할 수 있는 핵심 변수
• DAYS_BIRTH_month: DAYS_BIRTH의 달
• DAYS_BIRTH_week: DAYS_BIRTH의 주
• Age: DAYS_BIRTH의 년도
• DAYS_EMPLOYED_month: DAYS_EMPLOYED의 달
• DAYS_EMPLOYED_week: DAYS_EMPLOYED의 주
• EMPLOYED: DAYS_EMPLOYED의 년
• before_EMPLOYED: DAYS_BIRTH와 DAYS_EMPLOYED의 차
• before_EMPLOYED_month: 고용되기 전의 달
• before_EMPLOYED_week: 고용 되기 전의 주
• gender_car_reality: 성별, 차, 부동산 변수를 합침

핵심 Model

• category feature의 전처리가 필수적으로 중요
• CatBoost를 활용하여 category feature들을 지정하여 모델의 성능을 높힘
• LightGBM, XGBoost와 비교 후 더 나은 성능을 보임

Cross Validation 전략

• Stratified K-Fold: 다중 분류문제에서 자주 쓰이는 기법 labeling의 sample을 잘 맞춰서 학습을 진행하도록 함
• 10-fold로 진행하여 성능을 높힘

Hyperparameter 전략

• Bayesian TPE 방식으로 빠르게 하이퍼파라미터 튜닝 -> AutoML로 접근
• 최단시간에 최고효율이 나오게끔 함
• CatBoost의 경우 하이퍼파라미터에 민감하지 않았으나 좀 더 나은 성능을 개선하기 위해서 Bayesian TPE방식 사용
• Lightgbm, XGBoost도 Bayesian TPE방식 사용
• RandomForest와 TabNet 같은 경우는 직접 하이퍼파라미터 튜닝함

Ensemble Model

• Stacking Ensemble을 통해서 Neural Network가 확률값을 잘 학습하는 모델 구축

Model Architecture

Benchmark

model	OOF(10-fold)	Public LB
LightGBM	0.68714	0.68591
XGBoost	0.68901	0.68900
RandomForest	0.69137	0.69296
TabNet	0.80392	0.77971
CatBoost	0.67234	0.67288
Stacking Ensemble	0.67069	0.67048

Paper

• CatBoost: unbiased boosting with categorical features
• Efficient Click-Through Rate Prediction for Developing Countries via Tabular Learning

순위

public 3위 private 2위