关联传播首选项初始化

Posted 2023-03-12

【中文标题】关联传播首选项初始化

【英文标题】：Affinity Propagation preferences initialization

【发布时间】：2016-01-16 04:51:53

【问题描述】：

我需要在事先不知道集群数量的情况下执行集群。集群的数量可能从 1 到 5，因为我可能会发现所有样本属于同一个实例或属于有限数量的组的情况。 我认为亲和力传播可能是我的选择，因为我可以通过设置偏好参数来控制集群的数量。 但是，如果我有一个人工生成的单个集群，并且我将偏好设置为节点之间的最小欧几里德距离（以最小化集群数量），我会在集群方面变得糟糕。

"""
=================================================
Demo of affinity propagation clustering algorithm
=================================================

Reference:
Brendan J. Frey and Delbert Dueck, "Clustering by Passing Messages
Between Data Points", Science Feb. 2007

"""
print(__doc__)
import numpy as np
from sklearn.cluster import AffinityPropagation
from sklearn import metrics
from sklearn.datasets.samples_generator import make_blobs
from scipy.spatial.distance import pdist

##############################################################################
# Generate sample data
centers = [[0,0],[1,1]]
X, labels_true = make_blobs(n_samples=300, centers=centers, cluster_std=0.5,
                            random_state=0)
init = np.min(pdist(X))

##############################################################################
# Compute Affinity Propagation
af = AffinityPropagation(preference=init).fit(X)
cluster_centers_indices = af.cluster_centers_indices_
labels = af.labels_

n_clusters_ = len(cluster_centers_indices)

print('Estimated number of clusters: %d' % n_clusters_)
print("Homogeneity: %0.3f" % metrics.homogeneity_score(labels_true, labels))
print("Completeness: %0.3f" % metrics.completeness_score(labels_true, labels))
print("V-measure: %0.3f" % metrics.v_measure_score(labels_true, labels))
print("Adjusted Rand Index: %0.3f"
      % metrics.adjusted_rand_score(labels_true, labels))
print("Adjusted Mutual Information: %0.3f"
      % metrics.adjusted_mutual_info_score(labels_true, labels))
print("Silhouette Coefficient: %0.3f"
      % metrics.silhouette_score(X, labels, metric='sqeuclidean'))

##############################################################################
# Plot result
import matplotlib.pyplot as plt
from itertools import cycle

plt.close('all')
plt.figure(1)
plt.clf()

colors = cycle('bgrcmykbgrcmykbgrcmykbgrcmyk')
for k, col in zip(range(n_clusters_), colors):
    class_members = labels == k
    cluster_center = X[cluster_centers_indices[k]]
    plt.plot(X[class_members, 0], X[class_members, 1], col + '.')
    plt.plot(cluster_center[0], cluster_center[1], 'o', markerfacecolor=col,
             markeredgecolor='k', markersize=14)
    for x in X[class_members]:
        plt.plot([cluster_center[0], x[0]], [cluster_center[1], x[1]], col)

plt.title('Estimated number of clusters: %d' % n_clusters_)
plt.show()

我使用 Affinity Propagation 的方法有什么缺陷吗？相反，Affinity Propagation 不适合这项任务，所以我应该使用其他东西吗？

【参考方案1】：

不，没有缺陷。 AP 不使用距离，但需要您指定相似度。我不太了解 scikit 的实现，但根据我阅读的内容，它默认使用 negative 平方欧几里得距离 来计算相似度矩阵。如果您将输入偏好设置为最小欧几里得距离，您会得到一个正值，而所有相似性都是负值。因此，这通常会产生与样本一样多的集群（注意：输入偏好越高，集群越多）。我宁愿建议将输入偏好设置为最小负平方距离，即 -1 乘以数据集中 最大 距离的平方。这将为您提供更少数量的集群，但不一定是一个集群。我不知道在 scikit 实现中是否也存在 preferenceRange() 函数。 AP主页上有Matlab代码，它也在我维护的R包'apcluster'中实现。此函数允许确定输入首选项参数的有意义的界限。我希望这会有所帮助。

【参考方案2】：

您可以通过指定最低首选项来控制它，但不确定是否会找到单个集群。

另外，我建议您不要创建单个集群，因为它会产生错误，因为某些数据不能相同或与示例相似，但您提供最低偏好以便 AP 将提交错误。

【参考方案3】：

您还可以通过使用中心样本再次运行算法或手动合并最相似的样本来将聚类合并在一起。因此，您可以迭代地合并最近的集群，直到获得您的编号，从而使偏好的选择更容易，因为您可以选择任何会产生相当数量的集群（当我尝试时效果很好）。