这一节讲线性模型,先将几种线性模型进行了对比,通过转换误差函数来将linear regression 和logistic regression 用于分类。
比较重要的是这种图,它解释了为何可以用Linear Regression或Logistic Regression来替代Linear Classification
然后介绍了随机梯度下降法,主要是对梯度下降法的一个改进,大大提高了效率。
最后讲了多类别分类,主要有两种策略:OVA和OVO
OVA思想很简单,但如果类别很多并且每个类别的数目都差不多时,就会出现问题。
这个问题可用OVO解决,每次选择两个类别,然后进行投票。