1、模型泛化能力：通过交叉验证估计泛化性能。
2、学习率是最重要的超参数。
3、超参数调优。主要方法有网格搜索和随机搜索。
网格搜索会带来维度灾难；随机搜索应用随机采样。

1、集成学习框架中的基模型是弱模型，通常来说弱模型是偏差高（在训练集上准确度低），
方差小（防止过拟合能力强）的模型。但是，并不是所有集成学习框架中的基模型都是弱模型。
bagging和stacking中的基模型为强模型（偏差低方差高），boosting中的基模型为弱模型。
boosting算法就是基于弱模型来实现防止过拟合现象。

1、KS值计算
使用auc统计ks值，不能出现缺失。
crosstab计算ks值，忽略了NAN。
但最佳还是使用auc，对于缺失值，不能忽略。根据字段含义，手工填充。