【SVM、决策树、adaboost、LR对比】

一、SVM

1、应用场景:

文本和图像分类。

2、优点:

分类效果好;有效处理高维空间的数据;无局部最小值问题;不易过拟合(模型中含有L2正则项);

3、缺点:

样本数据量较大需要较长训练时间;噪声不能太多;对缺失数据敏感;

二、决策树

  1、应用:

金融和电子商务

2、优点:

同时处理多种类型的数据;适合大量样本的数据;对部分数据缺失不敏感;

3、缺点:

容易过拟合;对属性具有强关联性时效果不好;

三、adaboost

1、应用:

特征选择;回归问题;

2、优点:

精度高;不易过拟合;

3、缺点:

对数据不均衡敏感;耗时;

四、对比:

  1.SVM与LR:

相同:不用核的话都是线性分类器;都是监督学习;都是判别模型;

不同:样本点对模型的作用不同;损失函数不同;理论基础不同(SVM基于严格的数学推导,LR基于统计);输出不同(LR可以给出概率);可处理空间维度不同;防过拟合程度不同;抗噪能力不同(SVM更好);svm需要先做归一化(距离度量);SVM容易核化。

2.SVM与决策树:

四、参考

1、https://blog.csdn.net/sinat_32547403/article/details/72911193

2、https://www.jianshu.com/p/f86de852ee96

上一篇:PHP5.4新特性(转)


下一篇:基于html5的多图片上传,预览