【论文常用笔记】回归模型评估指标

范数

一、什么是回归问题?

回归问题就是建立一个关于自变量和因变量关系的函数,通过训练数据得到回归函数中各变量前系数的一个过程。那么模型的好坏就体现到用这个建立好的函数预测得出的值与真实值的差值大小(即误差大小),如果差值越大,说明预测的越差,反之亦然。

二、常用回归模型评估指标有哪些?

用 y i y_{i} yi​表示真实的观测值,用 y ˉ \bar{y} yˉ​表示真实观测值的平均值,用 y ^ i \hat{y}_{i} y^​i​表示预测值.

1、绝对误差: y i − y ^ i y_{i}-\hat{y}_{i} yi​−y^​i​

2、相对误差: y i − y ^ i y i \frac{y_{i}-\hat{y}_{i}}{y_{i}} yi​yi​−y^​i​​

3、平均绝对值误差 MAE: MAE ⁡ ( y , y ^ ) = 1 n ∑ i = 1 n ∣ y i − y ^ i ∣ \operatorname{MAE}(y, \hat{y})=\frac{1}{n} \sum_{i=1}^{n}\left|y_{i}-\hat{y}_{i}\right| MAE(y,y^​)=n1​i=1∑n​∣yi​−y^​i​∣

4、均方误差 MSE: MSE ⁡ ( y , y ^ ) = 1 n ∑ i = 1 n ∥ y i − y ^ i ∥ 2 2 \operatorname{MSE}(y, \hat{y})=\frac{1}{n} \sum_{i=1}^{n}\left\|y_{i}-\hat{y}_{i}\right\|_{2}^{2} MSE(y,y^​)=n1​i=1∑n​∥yi​−y^​i​∥22​

5、均方根误差 MSE: RMSE ⁡ ( y , y ^ ) = 1 n ∑ i = 1 n ∥ y i − y ^ i ∥ 2 2 \operatorname{RMSE}(y, \hat{y})=\sqrt{\frac{1}{n} \sum_{i=1}^{n}\left\|y_{i}-\hat{y}_{i}\right\|_{2}^{2}} RMSE(y,y^​)=n1​i=1∑n​∥yi​−y^​i​∥22​

6、均方根对数误差 MLSE: MLSE ⁡ ( y , y ^ ) = 1 n ∑ i = 1 n ( ln ⁡ ( 1 + y i ) − ln ⁡ ( 1 + y ^ i ) ) 2 \operatorname{MLSE}(y, \hat{y})=\frac{1}{n} \sum_{i=1}^{n}\left(\ln (1+y_{i})-\ln \left(1+\hat{y}_{i}\right)\right)^{2} MLSE(y,y^​)=n1​i=1∑n​(ln(1+yi​)−ln(1+y^​i​))2

7、平均绝对百分比误差 MAPE: MAPE ⁡ ( y , y ^ ) = 1 n ∑ i = 1 n ∥ y i − y ^ i ∥ ∥ y i ∥ \operatorname{MAPE}(y, \hat{y})=\frac{1}{n} \sum_{i=1}^{n} \frac{\left\|y_{i}-\hat{y}_{i}\right\|}{\left\|y_{i}\right\|} MAPE(y,y^​)=n1​i=1∑n​∥yi​∥∥yi​−y^​i​∥​

8、回归平方和 SSR: S S R = ∑ i = 0 n ( y ^ i − y ˉ ) 2 S S R=\sum_{i=0}^{n}\left(\hat{y}_{i}-\bar{y}\right)^{2} SSR=i=0∑n​(y^​i​−yˉ​)2

9、误差平方和 SSE: S S E = ∑ i = 0 n ( y i − y ^ i ) 2 S S E=\sum_{i=0}^{n}\left(y_{i}-\hat{y}_{i}\right)^{2} SSE=i=0∑n​(yi​−y^​i​)2

10、离差平方和 SST: S S T = ∑ i = 0 n ( y i − y ˉ ) 2 S S T=\sum_{i=0}^{n}\left(y_{i}-\bar{y}\right)^{2} SST=i=0∑n​(yi​−yˉ​)2

10、 R 2 R^2 R2: R 2 ( y , y ^ ) = 1 − ∑ i = 0 n ( y i − y ^ i ) 2 ∑ i = 0 n ( y i − y ˉ ) 2 = S S R S S T = 1 − S S E S S T R^{2}(y, \hat{y})=1-\frac{\sum_{i=0}^{n}\left(y_{i}-\hat{y}_{i}\right)^{2}}{\sum_{i=0}^{n}\left(y_{i}-\bar{y}\right)^{2}}=\frac{S S R}{S S T}=1-\frac{S S E}{S S T} R2(y,y^​)=1−∑i=0n​(yi​−yˉ​)2∑i=0n​(yi​−y^​i​)2​=SSTSSR​=1−SSTSSE​ R 2 ( y , y ^ ) = 1 − ∑ i = 0 n ( y i − y ^ i ) 2 / n ∑ i = 0 n ( y i − y ˉ ) 2 / n = 1 − M S E V a r R^{2}(y, \hat{y})=1-\frac{\sum_{i=0}^{n}\left(y_{i}-\hat{y}_{i}\right)^{2} / n}{\sum_{i=0}^{n}\left(y_{i}-\bar{y}\right)^{2} / n}=1-\frac{\mathrm{MSE}}{\mathrm{Var}} R2(y,y^​)=1−∑i=0n​(yi​−yˉ​)2/n∑i=0n​(yi​−y^​i​)2/n​=1−VarMSE​

三、python代码(代码待更新中)

上一篇:吴恩达--深度学习笔记


下一篇:Semi-supervised Learning