多维数据k-means聚类后的PCA

Posted 2023-03-12

【中文标题】多维数据k-means聚类后的PCA

【英文标题】：PCA after k-means clustering of multidimensional data

【发布时间】：2021-12-10 09:52:00

【问题描述】：

我有以下包含 10 个变量的数据集：

我想用这个多维数据集识别集群，所以我尝试了 k-means 聚类算法，代码如下：

clustering_kmeans = KMeans(n_clusters=2, precompute_distances="auto", n_jobs=-1)
data['clusters'] = clustering_kmeans.fit_predict(data)

为了绘制结果，我使用 PCA 进行降维：

reduced_data = PCA(n_components=2).fit_transform(data)
results = pd.DataFrame(reduced_data,columns=['pca1','pca2'])
sns.scatterplot(x="pca1", y="pca2", hue=kmeans['clusters'], data=results)
plt.title('K-means Clustering with 2 dimensions')
plt.show()

最后我得到以下结果：

所以我有以下问题： 1.) 然而，这个 PCA 图看起来真的很奇怪，将整个数据集分成图的两个角。这是正确的还是我编码错误？

2.) 是否有另一种聚类多维数据的算法？我看着this，但我找不到用于聚类多维数据的合适算法......我什至如何实现例如我的数据集在 python 中的 Ward 层次聚类？

3.) 为什么要使用 PCA 进行降维？我也可以使用 t SNE 吗？好点了吗？

【参考方案1】：

问题是您的 PCA 适合您的数据框，但数据框包含集群。列“集群”可能包含数据集中的大部分变化，因此第一台 PC 中的信息将与 data['cluster'] 列重合。尝试仅在距离列上拟合您的 PCA：

 data_reduced = PCA(n_componnts=2).fit_transform(data[['dist1', 'dist2',..., dist10']]

您可以使用 sklearn 拟合层次聚类：

 sklearn.cluster.AgglomerativeClustering()` 

您可以使用不同的距离指标和链接，例如“病房”

tSNE 用于可视化多变量数据，该技术的目标不是聚类