# !/usr/bin/env python # encoding: utf-8 # SVM算法 支持向量机 from sklearn import svm import numpy as np from sklearn import model_selection import matplotlib.pyplot as plt import matplotlib as mpl from matplotlib import colors from sklearn.datasets import load_iris # (1)加载数据集数据 iris = load_iris() # 样本数据150*4二维数据,代表150个样本,每个样本4个属性分别为花瓣和花萼的长、宽 data = iris.data #(2)将原始数据集划分成训练集和测试集 X=data # 数据集合 x=X[:,2:4]# 在X中取后面两列作为特征 花瓣长度和花瓣宽度 x=X[:,0:2]# 在X中取前面两列作为特征 花萼长度和花萼宽度 y = iris.target # 对应的标签 x_train,x_test,y_train,y_test=model_selection.train_test_split(x,y,random_state=0,test_size=0.25)# 这个函数x只能够取两个 可能是因为坐标系是平面的关系?? # 用train_test_split将数据随机分为训练集和测试集,测试集占总数据的30%(test_size=0.3),random_state是随机数种子 # 参数解释: # x:train_data:所要划分的样本特征集。 # y:train_target:所要划分的样本结果。 # test_size:样本占比,如果是整数的话就是样本的数量。 # random_state:是随机数的种子。 # (随机数种子:其实就是该组随机数的编号,在需要重复试验的时候,保证得到一组一样的随机数。比如你每次都填1,其他参数一样的情况下你得到的随机数组是一样的。但填0或不填,每次都会不一样。 # 随机数的产生取决于种子,随机数和种子之间的关系遵从以下两个规则:种子不同,产生不同的随机数;种子相同,即使实例不同也产生相同的随机数。) #(3)搭建模型,训练SVM分类器 classifier=svm.SVC(kernel='rbf',gamma=0.2,decision_function_shape='ovo',C=1) # C越大,相当于惩罚松弛变量,希望松弛变量接近0,即对误分类的惩罚增大,趋向于对训练集全分对的情况,这样对训练集测试时准确率很高,但泛化能力弱。 # C值小,对误分类的惩罚减小,允许容错,将他们当成噪声点,泛化能力较强 # kernel='linear'时,为线性核函数,C越大分类效果越好,但有可能会过拟合(defaul C=1)。 # kernel='rbf'(default)时,为高斯核函数,gamma值越小,分类界面越连续;gamma值越大,分类界面越“散”,分类效果越好,但有可能会过拟合。 # decision_function_shape='ovo'时,为one v one分类问题,即将类别两两之间进行划分,用二分类的方法模拟多分类的结果。 # decision_function_shape='ovr'时,为one v rest分类问题,即一个类别与其他类别进行划分。 #开始训练 classifier.fit(x_train,y_train.ravel()) #调用ravel()函数将矩阵转变成一维数组 #(ravel()函数与flatten()的区别) # 两者所要实现的功能是一致的(将多维数组降为一维), # 两者的区别在于返回拷贝(copy)还是返回视图(view), # numpy.flatten() 返回一份拷贝,对拷贝所做的修改不会影响(reflects)原始矩阵, # 而numpy.ravel()返回的是视图(view),会影响(reflects)原始矩阵。 def show_accuracy(y_hat,y_train,str): pass #(4)计算svm分类器的准确率 print("SVM-输出训练集的准确率为:",classifier.score(x_train,y_train)) y_hat=classifier.predict(x_train) show_accuracy(y_hat,y_train,'训练集') print("SVM-输出测试集的准确率为:",classifier.score(x_test,y_test)) y_hat=classifier.predict(x_test) show_accuracy(y_hat,y_test,'测试集') # (5)绘制图像 # 1.确定坐标轴范围,x,y轴分别表示两个特征 x1_min, x1_max = x[:, 0].min(), x[:, 0].max() # 第0列的范围 x[:, 0] ":"表示所有行,0表示第1列 x2_min, x2_max = x[:, 1].min(), x[:, 1].max() # 第1列的范围 x[:, 0] ":"表示所有行,1表示第2列 x1, x2 = np.mgrid[x1_min:x1_max:200j, x2_min:x2_max:200j] # 生成网格采样点(用meshgrid函数生成两个网格矩阵X1和X2) grid_test = np.stack((x1.flat, x2.flat), axis=1) # 测试点,再通过stack()函数,axis=1,生成测试点 # .flat 将矩阵转变成一维数组 (与ravel()的区别:flatten:返回的是拷贝 grid_hat = classifier.predict(grid_test) # 预测分类值 grid_hat = grid_hat.reshape(x1.shape) # 使之与输入的形状相同 # 2.指定默认字体 mpl.rcParams['font.sans-serif'] = [u'SimHei'] mpl.rcParams['axes.unicode_minus'] = False # 3.绘制 cm_light = mpl.colors.ListedColormap(['#A0FFA0', '#FFA0A0', '#A0A0FF']) cm_dark = mpl.colors.ListedColormap(['g', 'r', 'b']) alpha=0.8 # 预测值的显示 plt.pcolormesh(x1, x2, grid_hat, shading='auto', cmap=cm_light) plt.plot(x[:, 0], x[:, 1], 'o', alpha=alpha, color='red', markeredgecolor='k') # 圈中测试集样本 plt.scatter(x_test[:, 0], x_test[:, 1], s=120, facecolors='none', zorder=10) plt.xlabel(u'花瓣长度', fontsize=13) plt.ylabel(u'花瓣宽度', fontsize=13) plt.xlim(x1_min, x1_max) plt.ylim(x2_min, x2_max) plt.title(u'鸢尾花SVM二特征分类', fontsize=15) plt.show()
前面两列:
后面两列: