层次聚类算法优化

Posted 2021-04-08 易学统计

题记：本文是个人的读书笔记，仅用于学习交流使用。

01

解决什么问题

      本节我们继续上篇文章的研究即：，采用层次聚类中的 Ward 距离法，跟前面采用的最大距离法对比一下，有什么不同。

02

最优聚类个数

代码和前面的一样，首先确定簇的数目，应该将method的值改为Ward.D2：

numWard <- NbClust(df, diss = NULL, distance = "euclidean", min.nc = 2, max.nc = 6, method = "ward.D2", index = "all")

      上完跑完的结果显示，看花线下面，有二个指标认为2个分类最好，18个指标认为3个分类最好，二个指标认为6个分类是最好的。

     这次的结果也没什么变化，根据少数服从多数原则，簇的数目是3。看一下Hubert指数图，最优解也是3个簇。

     下面是Hubert指数图。

    可以看到，左图在3个簇的地方有个拐点，右图在3个簇的时候达到峰值。下面的Dindex图也提供了同样的信息。

       由此我们得到最优的聚类个数为3个。

03

构建模型

        选择3个簇进行聚类，现在计算距离矩阵，并建立层次聚类模型。如下所示：

### 选取分类个数为3搭建模型dis <- dist(df, method = "euclidean")hcWard <- hclust(dis, method = "ward.D2")par(mfrow =c (1, 1))plot(hcWard, labels = FALSE, main = "Ward's-Linkage")

      层次聚类可视化的通用方式是画出树状图，可以用plot函数实现。

      图中显示的3个簇区别十分明显，每个簇中观测的数量大致相同。计算每个簇的大小，并与品种等级标号进行比较：

 ward3 <- cutree(hcWard, 3)table(ward3, wine$Class)

      这个表中，行是簇标号，列是品种等级标号。聚类结果匹配了93%的品种等级。与最大距离法相比，这种方法和品种等级的分类更加匹配。

04

算法对比

         两种方法中的第三个簇非常接近，其他两个簇则有差别。那么问题来了，我们如何找出这种差别解释这个现象？一个比较好的方法是使用aggregate()函数，计算均值或中位数等统计量。此外，计算时不使用标准化后的数据，而是在原始数据上进行实验。在这个函数中，你需要指定数据集、聚集数据的依据和摘要统计量：

aggregate(wine[, -1], list(comp3), mean)

     这样就计算出数据中13个变量在各个簇中的均值。最大距离法的计算完成之后，计算Ward距离法：

aggregate(wine[, -1], list(ward3), mean)

      各个数值都非常接近。Ward距离法中的第一个簇中所有变量的均值要稍高一些，第二个簇中除了Hue以外，其他变量的均值要稍低一些。可以将这个结果与具有领域专业人分享一下，请求他们给出解释。我们用统计图表示两种方法中的每个簇的变量值，这样有助于理解和解释。

      箱线图可以很好地比较变量的分布，它可以展示最小值、第一四分位数、中位数、第三四分位数、最大值和可能的离群点。

     假设我们对两种聚类方法中的Proline值很感兴趣，可以生成一个带有两幅箱线图的统计图进行比较。首先要准备制图区域，使两幅图并列排列。使用par()函数即可：

par(mfrow =c (1, 2))

         看一下箱线图，其中的方框代表第一四分位数、中位数（方框中间的粗横线）和第三四分位数，称为四分位距。虚线的端点（通常称为须）代表最大值和最小值。可以看到，最大距离法的第二个簇的最大值上面有5个空心小圆点，这是疑似离群点，也就是值超过方框两端1.5倍四分位距的点。

       任何值超过方框两端3倍四分位距的点都被认定为离群点，用实心圆点表示。Ward距离法中的第一个和第二个簇具有更紧凑的四分位距，没有疑似离群点。

      一个小Tips是：查看每个变量的箱线图有助于和领域专家确定最好的层次聚类方法

参考文献

1. 薛毅等.统计建模与R软件.清华大学出版社
   

2. Cory Leismester.精通机器学习.基于R.人民邮电出版社

作介绍：医疗大数据统计分析师,擅长R语言。

欢迎各位在后台留言，恳请斧正！

更多阅读

长按二维码

易学统计