对于机器学习而言，如果你已经大致了解了相关算法的原理、理论推导，你也不是大家口中刚入门的小白了。接下来你需要将自己所学的知识利用起来，最好的方式应该就是独立完成几个项目实战，项目难度入门级即可，因为重点是帮助你了解一个项目的流程，比如缺失值和异常值的处理、特征降维、变量转换等等。Kaggle毋庸置疑是一个很好的平台，里面的泰坦尼克号、房屋价格预测、手写数字都是非常非常经典的入门实战项目，如果你独立完成这三个项目后感觉可以提升一下难度，就可以继续在Playground中寻找适合自己的项目。但如果你感觉还需要几个简单的项目巩固一下，这里给大家安利一下SofaSofa竞赛平台。

专业程度虽然不及Kaggle，但练习赛中十个简单项目用来练手还是不错的，种类也是非常全的，包括分类、回归预测、自然语言处理、图像识别等等，本文在练习赛【8】——地震后建筑修复建议的基础上实现。

了解数据集

首先一定要做的是了解数据集，因为大多数据集的特征名都是以英文或者以英文简写搭配命名，只有真正了解一个特征的意义，才能更好地分析该特征与标签变量之前存在的关系。SofaSofa在每个竞赛中都会有一个表格，给出所有变量对应的解释。

可以看到这个数据集的特征并不是很多，但训练集共有65万个样本，我们都知道数据多对于建模是有好处的，因为数据越多覆盖面就越广，会提高模型的准确率，当然这可能会牺牲一些内存和计算时间。标签变量y，共有四种可能取值，说明这是一个多元分类问题。

没有缺失值是不错的消息，除标签变量y之外，共有9个数值型比变量和5个类别型变量。

可视化分析

可视化分析一方面是帮助我们找出样本中的异常点和离群点，一方面也是帮助分析特征与标签变量之间的关系。但上面提及了这个训练集足足有65万条数据，如果同时利用所有样本绘制图像，图像可能会被样本点填满，很难从中得出有用的信息。所以这里可以选择随机抽样的方式，每次抽取1000-2000个样本绘制图像进行分析，可以多抽取几次，防止数据的偶然性。这里选择用散点图可视化数值型特征，用area和age为例。

area特征中有一些数值偏大，但不能说其是异常点，因为一些大型建筑物占地面积3000不是不可能的，但2000个样本，仅有不到20个样本的占地面积大于1500，所以可以将其视为离群点，离群点在建模时是会影响拟合的，所以选择舍去。

对于建筑物的年限age而言，可视化后会发现有很多样本在age这一特征的数值都为999，中间却有很大的空缺，比如没有一个样本点的age位于500-900之间，所以这类样本被视为异常点，再结合离群点分析，可以选择一个阈值进行过滤。其他数值型特征可以做同样的操作，这里不再过多介绍。
这个数据集还有个奇怪的地方就是有很多样本地震后的楼层、高度都要高于地震发生之前，这显然是不可能发生的，可能是在数据填充时出现了错误，利用布尔索引过滤掉此类特征。

#布尔索引
data1 = data1[data1['floors_before']>=data1['floors_after']]
data1 = data1[data1['height_before']>=data1['height_after']]
data1.reset_index(drop = True)#重置索引

然后利用相关矩阵对所有的数值型特征进行一下相关性分析，通过观察相关性舍去一些没有必要的特征达到降维的目的。

这里"district_id"和"area_id"是完全相关的，可以随便留下一个，或者都删去，因为相关性确实小的可怜；可以看到这里增加了两个新的变量"floors_diff"和"height_diff"，就是地震前后的建筑物层数和高度的差值，可以观察一下标签变量"y"和这六个属性的相关性，与地震前的信息相关性极低，也就是说，标签变量很少关注一个建筑物震前的信息，而是着重关注经过地震之后建筑发生变化的信息。

类别型变量转换

类别型变量不方便后期建模时传入数据，所以我们需要提前将类别型变量转换为算法能识别的数值型，变量转换方式有很多种，比如有序变量、哑变量、虚拟变量。对于"position"这一特征，可以进行有序变量，由于仅有一个特征，所以没有调用sklearn中的API，而是直接利用自定义函数结合apply函数进行转换。

def pos(e):
    if e == "Not attached":
        return 0
    elif e == "Attached-1 side":
        return 1
    elif e=="Attached-2 side":
        return 2
    else:
        return 3
data1['position'] = data1['position'].apply(pos)