R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

问题:使用R中的鸢尾花数据集

(a)部分:k-means聚类
使用k-means聚类法将数据集聚成2组。
 画一个图来显示聚类的情况
使用k-means聚类法将数据集聚成3组。
画一个图来显示聚类的情况
(b)部分:层次聚类
使用全连接法对观察值进行聚类。
使用平均和单连接对观测值进行聚类。
绘制上述聚类方法的树状图。
 


问题01:使用R中建立的鸢尾花数据集。

(a):k-means聚类

讨论和/或考虑对数据进行标准化。

data.frame(
  "平均"=apply(iris[,1:4], 2, mean
  "标准差"=apply(iris[,1:4], 2, sd)

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

在这种情况下,我们将标准化数据,因为花瓣的宽度比其他所有的测量值小得多。

使用k-means聚类法将数据集聚成2组

使用足够大的nstart,更容易得到对应最小RSS值的模型。

kmean(iris, nstart = 100)

画一个图来显示聚类的情况

# 绘制数据
plot(iris, y = Sepal.Length, x = Sepal.Width) 

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

为了更好地考虑花瓣的长度和宽度,使用PCA首先降低维度会更合适。

#  创建模型

PCA.mod<- PCA(x = iris)

#把预测的组放在最后
PCA$Pred <-Pred

#绘制图表
plot(PC, y = PC1, x = PC2, col = Pred)

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

为了更好地解释PCA图,考虑到主成分的方差。

## 看一下主要成分所解释的方差

for (i in 1:nrow) {
  pca[["PC"]][i] <- paste("PC", i)
}

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 

plot(data = pca,x = 主成分, y = 方差比例, group = 1)

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 

数据中80%的方差是由前两个主成分解释的,所以这是一个相当好的数据可视化。

 使用k-means聚类法将数据集聚成3组

在之前的主成分图中,聚类看起来非常明显,因为实际上我们知道应该有三个组,我们可以执行三个聚类的模型。

kmean(input, centers = 3, nstart = 100)
# 制作数据
groupPred %>% print()

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

画一个图来显示聚类的情况


#  绘制数据
plot(萼片长度,萼片宽度, col =pred)

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 

PCA图

为了更好地考虑花瓣的长度和宽度,使用PCA首先减少维度是比较合适的。

#创建模型
prcomp(x = iris)

#把预测的组放在最后
PCADF$KMeans预测<- Pred

#绘制图表
plot(PCA, y = PC1, x = PC2,col = "预测\n聚类", caption = "鸢尾花数据的前两个主成分,椭圆代表90%的正常置信度,使用K-means算法对2个类进行预测") +

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

PCA双曲线图

萼片长度~萼片宽度图的分离度很合理,为了选择在X、Y上使用哪些变量,我们可以使用双曲线图。

biplot(PCA)

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 

这个双曲线图显示,花瓣长度和萼片宽度可以解释数据中的大部分差异,更合适的图是:

plot(iris, col = KM预测)

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

评估所有可能的组合。

iris %>%
  pivot_longer()  %>% 
plot(col = KM预测, facet_grid(name ~ ., scales = 'free_y', space = 'free_y', ) +

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

层次聚类

使用全连接法对观测值进行聚类。

可以使用全连接法对观测值进行聚类(注意对数据进行标准化)。

hclust(dst, method = 'complete')

使用平均和单连接对观察结果进行聚类。

 hclust(dst, method = 'average')
hclust(dst, method = 'single')

绘制预测图

现在模型已经建立,通过指定所需的组数,对树状图切断进行划分。

#  数据
iris$KMeans预测<- groupPred


# 绘制数据
plot(iris,col = KMeans预测))

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

绘制上述聚类方法的树状图

对树状图着色。

type<- c("平均", "全", "单")

for (hc in models) plot(hc, cex = 0.3) 

R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 


R语言k-means聚类、层次聚类、主成分(PCA)降维及可视化分析鸢尾花iris数据集

 

上一篇:机器学习(一)---KNN算法学习


下一篇:【统计学习方法】线性可分支持向量机对鸢尾花(iris)数据集进行二分类