文章目录
前言
赛题地址:https://tianchi.aliyun.com/competition/entrance/531858/introduction?spm=5176.12281925.0.0.40727137gkOt3m
在4108支队伍中,本人荣幸得到第22名成绩,感觉实际参赛的人不多 ,因为分数只是超越baseline一点点,而且在复赛中过拟合,但对于想累计经验的我,还是一个不错的成绩。
思路
Github: https://github.com/GioDio1002/tianchi-2nd-hand-car-sales
首先,感谢DataWhale官方的baseline
代码的骨干是基于baseline已经确保线上线下在绝大部分情况下,有一致的变化。之后就是按训练分数增减特征,最后就是调参。诚然,baseline是有极限的,但奈何本人技术不足,不能实现比baseline更好的模板代码,这也是日后自己竞赛需要提升的地方。
特征工程
以下为部分我加入的有效特征工程:
- KMeans/SVD/PCA的聚类特征
- 利用Pearson分析中,与Target相关性较高的特征作交叉特征
- 以类别特征作聚合(Groupby)的情况下,得出与目标值的统计特征
- 部分类别特征作对数变换
无效特征工程:
- 归一化
- 差值统计特征
- 数据分桶作新维度
- 重要原始特征交叉熵
模型
只按baseline用了xgboost和lightgbm,因为决定分数的就是特征工程,毕竟是结构化数据,树模型表现已经足够,曾经加入catboost,但提分幅度不大。
方案分享
河北高校邀请赛-二手车交易价格预测-B榜-top13-提交代码01
决赛还在进行中,下次就写个优胜方案复盘吧。
题外话
前一阵子到上海金桥看*高达像,除了缺少武器和翅膀连着地上,帅就完了。