零、Maximal margin classifier and Support Vector classifier

 https://www.youtube.com/watch?v=efR1C6CvhmEhttps://www.youtube.com/watch?v=efR1C6CvhmE

 

 一、间隔与支持向量：

 1、通过升维寻找使margin最大的threshold

 注意：该图表示三维空间，+对应y=1，-对应y=-1。

2、 用线性方程描述超平面：法向量w和位移b决定了该平面

 

3、任意一点到超平面的距离为r，根据超平面的方程得到margin

4、由最大化margin问题转换为最小化法向量：

 subject to:   y*f(x)>=1。由下图可知，y和f(x)方向必然相同。