Kmeans 聚类 及其python实现

Posted 2020-12-29 dahu的菜园子

主要参考   K-means 聚类算法及 python 代码实现    还有  《机器学习实战》 这本书，当然前面那个链接的也是参考这本书，懂原理，会用就行了。

1、概述

K-means 算法是集简单和经典于一身的基于距离的聚类算法

采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。

该算法认为类簇是由距离靠近的对象组成的，因此把得到紧凑且独立的簇作为最终目标。

说白了就是无监督的聚类，大家都是同一个标注，或者没有标注，然后这一堆数据是一类，那一堆又是一类，你人为的设置好几个类，算法自动帮你分好各个类，只要每个类的样本尽可能的紧凑即可。

 

2、核心思想

通过迭代寻找 k 个类簇的一种划分方案，使得用这 k 个类簇的均值来代表相应各类样本时所得的总体误差最小。

k 个聚类具有以下特点：各聚类本身尽可能的紧凑，而各聚类之间尽可能的分开。

 k-means 算法的基础是最小误差平方和准则,

其代价函数是：

    

       式中，μc(i) 表示第 i 个聚类的均值。

各类簇内的样本越相似，其与该类均值间的误差平方越小，对所有类所得到的误差平方求和，即可验证分为 k 类时，各聚类是否是最优的。

上式的代价函数无法用解析的方法最小化，只能有迭代的方法。

 

3、算法步骤图解

下图展示了对 n 个样本点进行 K-means 聚类的效果，这里 k 取 2。

 

 

4、算法实现步骤

k-means 算法是将样本聚类成 k 个簇（cluster），其中 k 是用户给定的，其求解过程非常直观简单，具体算法描述如下：

1) 随机选取 k 个聚类质心点

2) 重复下面过程直到收敛  {

      对于每一个样例 i，计算其应该属于的类：

        

      对于每一个类 j，重新计算该类的质心：

         

  }

   

其伪代码如下：

******************************************************************************

创建 k 个点作为初始的质心点（随机选择）

当任意一个点的簇分配结果发生改变时

       对数据集中的每一个数据点

              对每一个质心

                     计算质心与数据点的距离

              将数据点分配到距离最近的簇

       对每一个簇，计算簇中所有点的均值，并将均值作为质心

********************************************************

 

5、K-means 聚类算法 python 实战   

这个就是书上的代码。

需求：  对给定的数据集进行聚类

本案例采用二维数据集，共 80 个样本，有 4 个类。  

$ wc -l testSet.txt;head testSet.txt
80 testSet.txt
1.658985 4.285136
-3.453687 3.424321
4.838138 -1.151539
-5.379713 -3.362104
0.972564 2.924086
-3.567919 1.531611
0.450614 -3.302219
-3.487105 -1.724432
2.668759 1.594842
-3.156485 3.191137

#!/usr/bin/env python
# -*- coding: utf-8 -*-
# Time    : 18-8-8 下午2:17
# Author  : dahu
# File    : kmeans2.py
# Software: PyCharm

#from :  https://www.cnblogs.com/ahu-lichang/p/7161613.html
import sys
reload(sys)
sys.setdefaultencoding(\'UTF-8\')

from numpy import *
import matplotlib.pyplot as plt
# 加载数据
def loadDataSet(fileName):  # 解析文件，按tab分割字段，得到一个浮点数字类型的矩阵
    dataMat = []              # 文件的最后一个字段是类别标签
    fr = open(fileName)
    for line in fr.readlines():
        curLine = line.strip().split(\'\\t\')
        fltLine = map(float, curLine)    # 将每个元素转成float类型
        dataMat.append(fltLine)
    return dataMat

# 计算欧几里得距离
def distEclud(vecA, vecB):
    return sqrt(sum(power(vecA - vecB, 2))) # 求两个向量之间的距离

# 构建聚簇中心，取k个(此例中k=4)随机质心
def randCent(dataSet, k):
    n = shape(dataSet)[1]
    centroids = mat(zeros((k,n)))   # 每个质心有n个坐标值，总共要k个质心
    for j in range(n):
        minJ = min(dataSet[:,j])
        maxJ = max(dataSet[:,j])
        rangeJ = float(maxJ - minJ)
        centroids[:,j] = minJ + rangeJ * random.rand(k, 1)
    return centroids

# k-means 聚类算法
def kMeans(dataSet, k, distMeans =distEclud, createCent = randCent):
    \'\'\'
    :param dataSet:  没有lable的数据集  (本例中是二维数据)
    :param k:  分为几个簇
    :param distMeans:    计算距离的函数
    :param createCent:   获取k个随机质心的函数
    :return: centroids： 最终确定的 k个 质心
            clusterAssment:  该样本属于哪类  及  到该类质心距离
    \'\'\'
    m = shape(dataSet)[0]   #m=80,样本数量
    clusterAssment = mat(zeros((m,2)))
    # clusterAssment第一列存放该数据所属的中心点，第二列是该数据到中心点的距离，
    centroids = createCent(dataSet, k)
    clusterChanged = True   # 用来判断聚类是否已经收敛
    while clusterChanged:
        clusterChanged = False;
        for i in range(m):  # 把每一个数据点划分到离它最近的中心点
            minDist = inf; minIndex = -1;
            for j in range(k):
                distJI = distMeans(centroids[j,:], dataSet[i,:])
                if distJI < minDist:
                    minDist = distJI; minIndex = j  # 如果第i个数据点到第j个中心点更近，则将i归属为j
            if clusterAssment[i,0] != minIndex:
                clusterChanged = True  # 如果分配发生变化，则需要继续迭代
            clusterAssment[i,:] = minIndex,minDist**2   # 并将第i个数据点的分配情况存入字典
        # print centroids
        for cent in range(k):   # 重新计算中心点
            ptsInClust = dataSet[nonzero(clusterAssment[:,0].A == cent)[0]]   # 去第一列等于cent的所有列
            centroids[cent,:] = mean(ptsInClust, axis = 0)  # 算出这些数据的中心点
    return centroids, clusterAssment
# --------------------测试----------------------------------------------------
# 用测试数据及测试kmeans算法
if __name__ == \'__main__\':
    datMat = mat(loadDataSet(\'testSet.txt\'))
    # print min(datMat[:,0])
    # print max(datMat[:,1])
    # print randCent(datMat,4)
    myCentroids,clustAssing = kMeans(datMat,4)
    print myCentroids
    # print clustAssing,len(clustAssing)

    plt.figure(1)
    x=array(datMat[:,0]).ravel()
    y=array(datMat[:,1]).ravel()
    plt.scatter(x,y, marker=\'o\')
    xcent=array(myCentroids[:,0]).ravel()
    ycent=array(myCentroids[:,1]).ravel()
    plt.scatter( xcent, ycent, marker=\'x\', color=\'r\', s=50)
    plt.show()

运行结果：

 

代码不是特别的难，看下都可以看得明白，发现都有点不会numpy的操作了，里面有一些是基于numpy的 布尔型数组操作 ，要补一补。   第 04 章 NumPy 基础：数组和矢量计算

简单说下各个函数的作用：

loadDataSet ：加载数据的

distEclud ： 计算距离的，注释说是计算欧几里德距离，其实就是计算  每个样本 到 每个聚类质心的距离，这是用来确定质心坐标的。

kMeans ： 主函数了，实现了kmeans 算法

注释已经比较详细了，就不再细说了。 书上后面还有一个对kmeans优化的地方，这里就不介绍了。