10 Logistic Regression

线性分类中的是非题

--->概率题

(设置概率阈值后,大于等于该值的为O,小于改值的为X)

--->逻辑回归

10 Logistic Regression

O为1,X为0

10 Logistic Regression

逻辑回归假设

10 Logistic Regression

逻辑函数/S型函数:光滑,单调

自变量趋于负无穷时,因变量趋于0;

自变量趋于正无穷时,因变量趋于1;

自变量取0,因变量值为0.5

---模拟概率特性

10 Logistic Regression

三种线性模型

10 Logistic Regression

逻辑回归使用交叉熵代价函数

10 Logistic Regression10 Logistic Regression10 Logistic Regression

10 Logistic Regression

10 Logistic Regression10 Logistic Regression10 Logistic Regression10 Logistic Regression10 Logistic Regression

10 Logistic Regression

最小化代价函数时,

发现无法求出使其值最小的解析解,

类比PLA的迭代法求最小值

10 Logistic Regression10 Logistic Regression10 Logistic Regression

eta---学习速率,与梯度大小有关,正比

v---方向,单位长度,方向与梯度相反

10 Logistic Regression

10 Logistic Regression10 Logistic Regression10 Logistic Regression

10 Logistic Regression10 Logistic Regression

逻辑回归算法流程

10 Logistic Regression

上一篇:mongo 安装


下一篇:linux文件和目录权限