ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)

目录


SVM算法的简介


1、SVM模型分类—线性可分、线性、非线性


2、SVM的决策边界


3、SVM中的核函数


4、SVM算法推导


1.1、SVM转为对偶问题的求解—SMO算法思


5、SVM中“损失+惩罚”框架的灵活性


6、SVM的损失函数分析


SVM的应用——解决的问题类型


1、SVM用作分类


1.1、SVM与二分类


1.2、SVM与多分类


2、SVM用作回归


SVM的经典案例



SVM算法的简介


       支持向量机(Support Vector Machine, SVM)是一类按监督学习(supervised learning)方式对数据进行二元分类(binary classification)的广义线性分类器(generalized linear classifier),其决策边界是对学习样本求解的最大边距超平面(maximum-margin hyperplane)。

       SVM的基本思想是:找到集合边缘上的若干数据(称为支持向量(Support Vector)),用这些点找出一个平面(称为决策面),使得支持向量到该平面的距离最大。



1、SVM模型分类—线性可分、线性、非线性


       由简至繁的SVM模型包括:

当训练样本线性可分时,通过硬间隔最大化,学习一个线性可分支持向量机;

当训练样本近似线性可分时,通过软间隔最大化,学习一个线性支持向量机;

当训练样本线性不可分时,通过核技巧和软间隔最大化,学习一个非线性支持向量机;


线性可分数据

ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)

ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)

ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)

ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)



线性不可分数据

ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)


非线性数据

 ML之SVM:SVM算法的简介、应用、经典案例之详细攻略(一)


上一篇:CPU架构、发行版本、软件管理工具、程序组成及虚拟机相关知识点


下一篇:经典信息图表:2013 扁平设计 VS 拟物设计