机器学习中的Bias（偏差）和Variance（方差）

2024-04-12 14:48:32

1.偏差

简单可以理解为真实数据和预测数据相差太大，真实的点构成的图形和拟合的图形相差很大

原来是这样的

我们使用线性模型以及多项式模型去拟合，就会发现，线性模型和预测的值和真实值相差很大，也就是偏差大，而多项式偏差小

就是数据波动太大。

数据集是有随机性的，除了上一节使用的数据集外，我们还可能得到如右侧这样新的数据集

在新的数据集上当然也可以运用线性回归，或者多项式回归：

可见，较简单的线性回归变化不大，也就是说“方差”较小。而多项式回归对数据太敏感，变化太大，也就是说“方差”较大。