机器学习中的Bias(偏差)和Variance(方差)

 

 

1.偏差

简单可以理解为真实数据和预测数据相差太大,真实的点构成的图形和拟合的图形相差很大

原来是这样的

机器学习中的Bias(偏差)和Variance(方差)

 

 

 我们使用线性模型以及多项式模型去拟合,就会发现,线性模型和预测的值和真实值相差很大,也就是偏差大,而多项式偏差小

机器学习中的Bias(偏差)和Variance(方差)

 

 

 

2.方差

就是数据波动太大。

数据集是有随机性的,除了上一节使用的数据集外,我们还可能得到如右侧这样新的数据集

机器学习中的Bias(偏差)和Variance(方差)

 

 

 在新的数据集上当然也可以运用线性回归,或者多项式回归:

机器学习中的Bias(偏差)和Variance(方差)

 

 

 可见,较简单的线性回归变化不大,也就是说“方差”较小。而多项式回归对数据太敏感,变化太大,也就是说“方差”较大。

 

3.过拟合和欠拟合

机器学习中的Bias(偏差)和Variance(方差)

 

 机器学习中的Bias(偏差)和Variance(方差)

 

 文章转载:https://www.zhihu.com/question/27068705/answer/1689740820,仅做学习,如有侵权,联系删

 

上一篇:Spectral Normalization 谱归一化-原理及实现


下一篇:Bagging和Boosting的介绍及对比