Coursera台大机器学习技法课程笔记04-Soft-Margin Support Vector Machine

之前的SVM非常的hard,要求每个点都要被正确的划分,这就有可能overfit,为此引入了Soft SVM,即允许存在被错分的点,将犯的错放在目

标函数中进行优化,非常类似于正则化。

将Soft SVM进行对偶转化后,发现与之前的hard SVM非常的像,只是其中一个系数多了个上界。

通过对阿尔法值的范围的讨论,将SVs分成三类:边界外的、free vector、bounded vector

最后讲的是模型的选择。需要注意的是,我们可以根据support vector的数量来确定cross validation的上限。

参考:http://www.cnblogs.com/xbf9xbf/p/4622646.html

http://www.cnblogs.com/bourneli/p/4216750.html

上一篇:Coursera台大机器学习技法课程笔记02-Dual Support Vector Machine


下一篇:1877: [SDOI2009]晨跑