常用的聚类算法及聚类算法评价指标

Posted 磐创AI

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了常用的聚类算法及聚类算法评价指标相关的知识,希望对你有一定的参考价值。

作者 | 荔枝boy

1. 典型聚类算法

1.1 基于划分的方法

代表:kmeans算法

·指定k个聚类中心常用的聚类算法及聚类算法评价指标
·常用的聚类算法及聚类算法评价指标(计算数据点与初始聚类中心的距离)
·常用的聚类算法及聚类算法评价指标(对于数据点常用的聚类算法及聚类算法评价指标,找到最近的常用的聚类算法及聚类算法评价指标{i}(聚类中心),将常用的聚类算法及聚类算法评价指标分配到常用的聚类算法及聚类算法评价指标{i}中)
·常用的聚类算法及聚类算法评价指标(更新聚类中心点,常用的聚类算法及聚类算法评价指标是新类别数值的均值点)
·常用的聚类算法及聚类算法评价指标(计算每一类的偏差)
·常用的聚类算法及聚类算法评价指标返回常用的聚类算法及聚类算法评价指标
常用的聚类算法及聚类算法评价指标返回第二步

1.2 基于层次的方法

代表:CURE算法

·每个样本作为单独的一个类别常用的聚类算法及聚类算法评价指标
·常用的聚类算法及聚类算法评价指标
·合并常用的聚类算法及聚类算法评价指标,常用的聚类算法及聚类算法评价指标常用的聚类算法及聚类算法评价指标
·遍历完本次样本,合并成新的类别后,若存在多个类别,则返回第二步
·遍历完本次样本,合并成新的类别后,若所有样本为同一类别,跳出循环,输出每层类别

1.3 基于网格的方法

代表:STING算法

·将数据集合X划分多层网格结构,从某一层开始计算
·查询该层网格间的属性值,计算属性值与阈值的关系,判定网格间的相关情况,不相关的网格不作考虑
·如果网格相关,则进入下一层的相关区域继续第二步,直到下一层为最底层
·返回相关网格结果

1.4 基于密度的方法

代表:DBSCAN算法

·输入数据集合X,随机选取一点,并找出这个点的所有高密度可达点
·遍历此点的所有常用的聚类算法及聚类算法评价指标邻域内的点,并寻找这些密度可达点,判定某点常用的聚类算法及聚类算法评价指标邻域内的点,并寻找这些点密度可达点,判定某点的常用的聚类算法及聚类算法评价指标邻域内的点数是否超过阈值点数,超过则构成核心点
·扫描数据集,寻找没有被聚类的数据点,重复第二步
·输出划分的类,并输出异常值点(不和其他密度相连)

1.5 神经网络的方法

代表:SOM算法

·数据集合常用的聚类算法及聚类算法评价指标,权重向量为常用的聚类算法及聚类算法评价指标常用的聚类算法及聚类算法评价指标,归一化处理常用的聚类算法及聚类算法评价指标
·寻找获胜的神经元,找到最小距离,对于每一个输入数据,找到与之最相匹配的节点
常用的聚类算法及聚类算法评价指标常用的聚类算法及聚类算法评价指标常用的聚类算法及聚类算法评价指标的距离,更新权重:常用的聚类算法及聚类算法评价指标
·更新临近节点,常用的聚类算法及聚类算法评价指标,其中常用的聚类算法及聚类算法评价指标代表学习率

1.6 基于图的聚类方法

代表:谱聚类算法

·计算邻接矩阵常用的聚类算法及聚类算法评价指标,度矩阵常用的聚类算法及聚类算法评价指标常用的聚类算法及聚类算法评价指标
·计算拉普拉及矩阵常用的聚类算法及聚类算法评价指标
·计算归一化拉普拉斯矩阵常用的聚类算法及聚类算法评价指标
·计算常用的聚类算法及聚类算法评价指标的特征值和特征向量常用的聚类算法及聚类算法评价指标
·对Q矩阵进行常用的聚类算法及聚类算法评价指标聚类,得到聚类结果

2. 聚类算法的评价指标

一个好的聚类方法可以产生高品质簇,是的簇内相似度高,簇间相似度低。一般来说,评估聚类质量有两个标准,内部质量评价指标和外部评价指标。

2.1 内部质量评价标准

内部评价指标是利用数据集的属性特征来评价聚类算法的优劣。通过计算总体的相似度,簇间平均相似度或簇内平均相似度来评价聚类质量。评价聚类效果的高低通常使用聚类的有效性指标,所以目前的检验聚类的有效性指标主要是通过簇间距离和簇内距离来衡量。这类指标常用的有CH(Calinski-Harabasz)指标等

CH指标

CH指标定义为:
常用的聚类算法及聚类算法评价指标
其中常用的聚类算法及聚类算法评价指标表示类间距离差矩阵的迹,常用的聚类算法及聚类算法评价指标表示类内离差矩阵的迹,常用的聚类算法及聚类算法评价指标是整个数据集的均值,常用的聚类算法及聚类算法评价指标是第常用的聚类算法及聚类算法评价指标个簇常用的聚类算法及聚类算法评价指标的均值,常用的聚类算法及聚类算法评价指标代表聚类个数,常用的聚类算法及聚类算法评价指标代表当前的类。常用的聚类算法及聚类算法评价指标值越大,聚类效果越好,常用的聚类算法及聚类算法评价指标主要计算簇间距离与簇内距离的比值

簇的凝聚度

簇内点对的平均距离反映了簇的凝聚度,一般使用组内误差平方(SSE)表示:
常用的聚类算法及聚类算法评价指标

簇的邻近度

簇的邻近度用组间平方和(SSB)表示,即簇的质心常用的聚类算法及聚类算法评价指标到簇内所有数据点的总平均值常用的聚类算法及聚类算法评价指标的距离的平方和

2.2 外部质量评价标准

外部质量评价指标是基于已知分类标签数据集进行评价的,这样可以将原有标签数据与聚类输出结果进行对比。外部质量评价指标的理想聚类结果是:具有不同类标签的数据聚合到不同的簇中,具有相同类标签的数据聚合相同的簇中。外部质量评价准则通常使用熵,纯度等指标进行度量。

熵:

簇内包含单个类对象的一种度量。对于每一个簇,首先计算数据的类分布,即对于簇常用的聚类算法及聚类算法评价指标,计算簇常用的聚类算法及聚类算法评价指标的成员属于类常用的聚类算法及聚类算法评价指标的概率
常用的聚类算法及聚类算法评价指标
其中常用的聚类算法及聚类算法评价指标表示簇常用的聚类算法及聚类算法评价指标中所有对象的个数,而常用的聚类算法及聚类算法评价指标是簇常用的聚类算法及聚类算法评价指标中类常用的聚类算法及聚类算法评价指标的对象个数。使用类分布,用标准公式:
常用的聚类算法及聚类算法评价指标
计算每个簇常用的聚类算法及聚类算法评价指标的熵,其中K是类个数。簇集合的总熵用每个簇的熵的加权和计算即:
常用的聚类算法及聚类算法评价指标
其中常用的聚类算法及聚类算法评价指标是簇的个数,而常用的聚类算法及聚类算法评价指标是簇内数据点的总和

纯度:

簇内包含单个类对象的另外一种度量。簇常用的聚类算法及聚类算法评价指标的纯度为常用的聚类算法及聚类算法评价指标,而聚类总纯度为:
常用的聚类算法及聚类算法评价指标

你也许还想


欢迎扫码关注:


 点击下方 |  | 了解更多

以上是关于常用的聚类算法及聚类算法评价指标的主要内容,如果未能解决你的问题,请参考以下文章

为什么说K-Means是基于距离的聚类算法?

为什么说K-Means是基于距离的聚类算法?

聚类算法(K-means聚类算法)

常用数据挖掘算法从入门到精通 第二章 K-means聚类算法

聚类算法之其他常见算法

数据建模()-K-means聚类算法