目录
1.SVM基本原理
1.1特点
∙
\bullet
∙ 支持向量机(Support Vector Machine)主要用于解决模式识别领域中的数据分类问题
,属于有监督学习算法
的一种。
∙
\bullet
∙ 既可以做分类
也可以做回归
。
∙
\bullet
∙ 适合于小样本集
的场景。
1.2线性二分类问题
比如说对于线性二分类问题来说,我们就是要选择一条直线将两类点进行区分,但是观看下图我们会发现有无数条直线
可以做到这一要求,那么我们的选择有什么要求呢?
因为这些点都是训练集中的点,而我们最后是要将这一模型使用在测试集上,所以我们就要尽可能选择距离离两类点都较远
的直线。选来选去得到的就是位于最中心的那条红线,此时容忍性好,鲁棒性高,泛化能力最强。
1.3间隔与支持向量
在样本空间中,决策边界(超平面)可以通过如下线性方程来描述: