目录

• • 一：线性回归介绍：
  • • 1： 线性回归的应用场景：
    • 2：定义与公式：
  • 二：线性回归API使用：
  • 三：求导回顾：
  • • 1：常见函数的导数：
    • 2：导数的四则运算：
  • 四：线性回归的损失和优化
  • • 1：损失函数的定义：
    • 2：正规方程：
    • 3：梯度下降：
    • 4：正规方程和梯度下降的对比：

一：线性回归介绍：

1： 线性回归的应用场景：

• 1：房价预测。
• 2：销售额度预测。
• 3：贷款额度预测。

2：定义与公式：

• 1：线性回归(Linear regression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。
• 2：特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归。

二：线性回归API使用：

1：案例描述：
假定：学生的最终成绩和平时成绩与期末成绩成线性关系，现在给定训练集，进行训练。

2：初始化：

from sklearn.linear_model import LinearRegression
# 平时成绩与期末成绩
x = [[80, 86],
[82, 80],
[85, 78],
[90, 90],
[86, 82],
[82, 90],
[78, 80],
[92, 94]]
# 最终成绩
y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]

3：进行训练：最终得到线性参数分别是0.3和0.7，预测的考试成绩是86分。

# 实例化API
estimator = LinearRegression()
# 使用fit方法进行训练
estimator.fit(x,y)

print(estimator.coef_) # 线性参数

estimator.predict([[100, 80]])

三：求导回顾：

• 导数就是切线的斜率。

1：常见函数的导数：

2：导数的四则运算：

四：线性回归的损失和优化

1：损失函数的定义：

2：正规方程：

1： 了解正规方程：

2：正规方程的推导过程：

3：梯度下降：

1： 啥叫梯度？

2：理解梯度下降：

思考一：学习率的作用？

3：梯度下降公式：

4：正规方程和梯度下降的对比：