05_无监督学习--聚类模型--K 均值
Posted chenmingjun
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了05_无监督学习--聚类模型--K 均值相关的知识,希望对你有一定的参考价值。
无监督学习--聚类模型--K 均值0.引入依赖1.数据的加载和预处理2.算法实现3.测试
无监督学习--聚类模型--K 均值
0.引入依赖
import numpy as np
import matplotlib.pyplot as plt
# 这里直接 sklearn 里的数据集
from sklearn.datasets.samples_generator import make_blobs
1.数据的加载和预处理
x, y = make_blobs(n_samples=100, centers=6, random_state=1234, cluster_std=0.6)
# x # array([[-0.02708305, 5.0215929 ], ..., [-4.7583093 , 5.85803377]])
# x.shape # (100, 2)
# y.shape # (100,)
plt.figure(figsize=(9, 9))
plt.scatter(x[:,0], x[:,1], c=y)
plt.show()
作图如下:
2.算法实现
# 引入 scipy 库中的距离函数,默认实现是欧式距离
from scipy.spatial.distance import cdist
class K_Means(object):
# 初始化,参数 n_clusters(K)、max_iter(迭代次数)、centroids(初始质心)
def __init__(self, n_clusters=6, max_iter=300, centroids=[]):
self.n_clusters = n_clusters
self.max_iter = max_iter
self.centroids = np.array(centroids, dtype=np.float)
# 定义训练模型方法,实现 K-means 聚类过程
def fit(self, data):
# 假如没有指定初始质心,就随机选取 data 中的点作为质心
if (self.centroids.shape == (0,)):
# 从 data 中随机生成 0 到 data 行数的 6 个整数,作为索引值
self.centroids = data[np.random.randint(0, data.shape[0], self.n_clusters) ,:]
# 开始迭代
for i in range(self.max_iter):
# 1.计算距离,得到的是一个 100x6 的矩阵,该矩阵的每一行含义是:一个样本点跟所有质心的距离
distances = cdist(data, self.centroids)
# 2.对距离按由近到远排序,选取最近的质心点的类别,作为当前点的分类
c_index = np.argmin(distances, axis=1) # 得到 100x1 的矩阵
# 3.对每一类数据进行均值计算,更新质心点的坐标
for i in range(self.n_clusters): # 遍历每一类
# 排除掉没有出现在 c_index 里的类别
if i in c_index:
# 选择所有类别是 i 的点,取 data 里面坐标的均值,更新第 i 个质心
self.centroids[i] = np.mean(data[c_index==i], axis=0) # 得到一行数据,使用了布尔索引
# 定义预测模型方法
def predict(self, samples):
# 跟上面一样,先计算距离,然后读取距离最近的那个质心的类别
distances = cdist(samples, self.centroids)
c_index = np.argmin(distances, axis=1) # 得到 100x1 的矩阵
return c_index
# 测试
distances = np.array([[121, 221, 32, 43],
[121, 332, 166, 52],
[96, 411, 56, 158],
[45, 235, 542, 156],
[140, 54, 63, 255],
], dtype=np.float)
c_index = np.argmin(distances, axis=1)
print(c_index)
x_new =x[0:5]
print(x_new)
print(c_index==2)
print(x_new[c_index==2])
np.mean(x_new[c_index==2], axis=0)
输出结果如下:
[2 3 2 0 1]
[[-0.02708305 5.0215929 ]
[-5.49252256 6.27366991]
[-5.37691608 1.51403209]
[-5.37872006 2.16059225]
[ 9.58333171 8.10916554]]
[ True False True False False]
[[-0.02708305 5.0215929 ]
[-5.37691608 1.51403209]]
array([-2.70199956, 3.26781249])
3.测试
# 定义一个绘制子图的函数
def plotKMeans(x, y, centroids, subplot, title):
# 分配子图,121 表示 1 行 2 列的子图中的第一个
plt.subplot(subplot)
plt.scatter(x[:,0], x[:,1], c=‘r‘)
# 画出质心点
plt.scatter(centroids[:,0], centroids[:,1], c=np.array(range(6)), s=100)
plt.title(title)
kmeans = K_Means(max_iter=300, centroids=np.array([[2, 1],[2, 2],[2, 3],[2, 4],[2, 5],[2, 6]]))
plt.figure(figsize=(18, 9))
plotKMeans(x, y, kmeans.centroids, 121, ‘Initial State‘)
# 开始聚类
kmeans.fit(x)
plotKMeans(x, y, kmeans.centroids, 122, ‘Final State‘)
# 开始预测
x_new = np.array([[0, 0],[10, 7]])
y_pred = kmeans.predict(x_new)
print(kmeans.centroids)
print(y_pred)
plt.scatter(x_new[:,0], x_new[:,1], c=‘black‘, s=100)
输出结果如下:
[[ 5.76444812 -4.67941789]
[-2.89174024 -0.22808556]
[-5.89115978 2.33887408]
[-4.53406813 6.11523454]
[-1.15698106 5.63230377]
[ 9.20551979 7.56124841]]
[1 5]
<matplotlib.collections.PathCollection at 0x1543350c518>
作图如下:
以上是关于05_无监督学习--聚类模型--K 均值的主要内容,如果未能解决你的问题,请参考以下文章