机器学习入门——简单线性回归
# 加载数据分析常用库
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
% matplotlib inline
机器学习是一个很复杂又很广阔的概念,可以说是包罗万象的。从数据分析到机器学习再到深度学习,这是一个不断进步和发展的过程。这里就通过一个很基础的入门项目,来演练一下机器学习的过程。
机器学习的本质其实就是通过训练集建立一个模型,而后可以通过这个模型实现对于特征的识别,得出结果标签,而这个模型可以是多种多样的,简单线性回归模型只是其中的最基础最简单的一种模型。
1、建立一个数据集
(如果不规整的数据集,需要按照数据分析的流程进行一遍数据清洗,这里仅仅举个例子,就跳过数据分析这一步了)
#首先我们先建立一个数据集,这也是之后用来训练和测试的数据
#导入包,创建数据集
from collections import OrderedDict
import pandas as pd
examDict={
'学习时间':[0.50,0.75,1.00,1.25,1.50,1.75,1.75,2.00,2.25,
2.50,2.75,3.00,3.25,3.50,4.00,4.25,4.50,4.75,5.00,5.50],
'分数': [10, 22, 13, 43, 20, 22, 33, 50, 62,
48, 55, 75, 62, 73, 81, 76, 64, 82, 90, 93]
}
examOrderDict=OrderedDict(examDict)
exam=pd.DataFrame(examOrderDict)
#看看数据集长什么样
exam.head()
如果不用模块collections对字典对象中元素的排序,那么数据将会是:
#首先我们先建立一个数据集,这也是之后用来训练和测试的数据
#导入包,创建数据集
#python中的字典是无序的,因为它是按照hash来存储的;
#但是python中有个模块collections(英文,收集、集合),里面自带了一个子类OrderedDict,实现了对字典对象中元素的排序。
from collections import OrderedDict
import pandas as pd
examDict={
'学习时间':[0.50,0.75,1.00,1.25,1.50,1.75,1.75,2.00,2.25,
2.50,2.75,3.00,3.25,3.50,4.00,4.25,4.50,4.75,5.00,5.50],
'分数': [10, 22, 13, 43, 20, 22, 33, 50, 62,
48, 55, 75, 62, 73, 81, 76, 64, 82, 90, 93]
}
#examOrderDict=OrderedDict(examDict)
exam=pd.DataFrame(examDict)
#看看数据集长什么样
exam
2、看看适不适合用线性回归的模型(通过画图)
#接下来我们先大致看一下特征和标签之间的关系
#然后来判断是否适合使用简单线性回归模型
#如果不适合,就换用其他模型
#这里是举例,肯定可以用的
#特征是学习时间,标签是分数
#用散点图看一下大致情况
#从dataframe中把标签和特征导出来
exam_X = exam['学习时间']
exam_Y = exam['分数']
#绘制散点图
#导入包
import matplotlib.pyplot as plt
#绘制散点图
plt.scatter(exam_X, exam_Y, color = 'green')
#设定X,Y轴标签和title
plt.ylabel('scores')
plt.xlabel('times')
plt.title('exam data')
plt.show()
3 分割数据
这里不能把这个数据集都作为训练数据集,那样的话就没有数据来测试一下我们的模型好坏了,所以需要把数据集分割一下,要用到一个函数。
#train_test_split函数可以在样本数据集中随机的选取测试集与训练集
#比例可以自己指定
#第一个参数为特征,第二个参数为标签
from sklearn.model_selection import train_test_split
X_train, X_test, Y_train, Y_test = train_test_split(exam_X,
exam_Y,
train_size = 0.8)
#这里可以简单的看一下分割后的结果
X_train.head()
X_train.shape
#可以发现训练集是16行一列的数据,测试集是四行一列,符合切分比例
4 导入模型
#首先,改变一下数组的形状
X_train = X_train.values.reshape(-1, 1)
X_test = X_test.values.reshape(-1, 1)
#从skl中导入线性回归的模型
from sklearn.linear_model import LinearRegression
#创建一个模型
model = LinearRegression()
#训练一下
model.fit(X_train, Y_train)
#因为线性回归一般方程为y = a+bx
#b为斜率,a为截距
#截距用intercept_方法获得
#斜率用model.coef_方法获得
a = model.intercept_
b = model.coef_
a = float(a)
b = float(b)
print('该模型的简单线性回归方程为y = {} + {} * x'.format(a, b))
5 评估模型
我们得到的方程是这些点的最佳拟合曲线,那么我们首先看一下这个曲线的具体位置。
import matplotlib.pyplot as plt
#绘制散点图
plt.scatter(exam_X, exam_Y, color = 'green', label = 'train data')
#设定X,Y轴标签和title
plt.ylabel('scores')
plt.xlabel('times')
#绘制最佳拟合曲线
Y_train_pred = model.predict(X_train)
plt.plot(X_train, Y_train_pred, color = 'black', label = 'best line')
#来个图例
plt.legend(loc = 2)
plt.show()
但是仅仅通过拟合曲线我们是无法准确判断模型的拟合程度的,我们还需要更加具体的评判方式。
在线性回归中,我们通过决定系数 R^{2} 来判别,这个数值越接近于1,说明模型的拟合度越好,通过测试数据来判断一下模型的拟合程度。
model.score(X_test, Y_test)