基本概念
与岭回归相比,Lasso采用增加L1正则化的方式,其目标函数为
其中称为L1正则化项,称为正则化项的系数。与L2正则化相比,L1正则化会使得部分参数为零。这个特性可被用于特征选择或者降维。
代码实现
假设目标函数为
已知当,,时,,当,, 时,,设置正则化项的系数为0.5
则Lasso回归求参数的代码如下所示
from sklearn import linear_model
rep = linear_model.Lasso(alpha=0.5)
rep.fit([[a1,b1,c1],[a2,b2,c2]],[d1,d2])
print(rep.coef_)
print(reg.intercept_)