Python机器学习——DBSCAN聚类

Posted 2020-11-21 jfdwd

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Python机器学习——DBSCAN聚类相关的知识，希望对你有一定的参考价值。

密度聚类（Density-based Clustering）假设聚类结构能够通过样本分布的紧密程度来确定。DBSCAN是常用的密度聚类算法，它通过一组邻域参数（ $ϵ$

$ϵ$
核心对象core object：若| $N_{ϵ} ({\vec{x}}_{i})$
密度直达directly density-reachable：若 ${\vec{x}}_{i}$
密度可达density-reachable：对于 ${\vec{x}}_{i}$
密度相连density-connected：对于 ${\vec{x}}_{i}$

??DBSCAN算法的定义：给定邻域参数（ $ϵ$

接性connectivity：若 ${\vec{x}}_{i} \in C, {\vec{x}}_{j} \in C$
大性maximality：若 ${\vec{x}}_{i} \in C$

??DBSCAN算法的思想：若 $\vec{x}$

下面给出DBSCAN算法：

输入
- 数据集 $D$
- 邻域参数（ $ϵ$
输出：簇划分 $C$
算法步骤如下：
- 初始化核心对象集合为空集：Ω= $\emptyset$
- 寻找核心对象：遍历所有的样本点 ${\vec{x}}_{i}, i = 1, 2, . . ., N$
- 迭代：以任一未访问过的核心对象为出发点，找出有其密度可达的样本生成的聚类簇，直到所有的核心对象都被访问为止

Python 实战

?? $D B S C A N$

class sklearn.cluster.DBSCAN(eps=0.5,min_samples=5,metric=‘euclidean‘,algorithm=‘auto‘,leaf_size=30,p=None,random_state=None)

参数

$e p s$
$m i n_s a m p l e s$
$m e t r i c$
$a l g o r i t h m$
- ‘ $a u t o$
- ‘ $b a l l_t r e e$
- ‘ $k d_t r e e$
- ‘ $b r u t e$
$l e a f_s i z e$
$r a n d o m_s t a t e$

属性

$c o r e_s a m p l e_i n d i c e s_$
$c o m p o n e n t s_$
$l a b e l s_$

方法

$f i t (X [, y, s a m p l e_w e i g h t])$
$f i t_p r e d i c t (X [, y, s a m p l e_w e i g h t])$

#导包
from sklearn import cluster
from sklearn.metrics import adjusted_rand_score
import numpy as np
import matplotlib.pyplot as plt
from sklearn.datasets.samples_generator import make_blobs
from sklearn import mixture
from sklearn.svm.libsvm import predict

#产生数据
def create_data(centers,num=100,std=0.7):
    X,labels_true = make_blobs(n_samples=num,centers=centers, cluster_std=std)
    return X,labels_true

"""
    数据作图
"""
def plot_data(*data):
    X,labels_true=data
    labels=np.unique(labels_true)
    fig=plt.figure()
    ax=fig.add_subplot(1,1,1)
    colors=‘rgbycm‘
    for i,label in enumerate(labels):
        position=labels_true==label
        ax.scatter(X[position,0],X[position,1],label="cluster %d"%label),
        color=colors[i%len(colors)]

    ax.legend(loc="best",framealpha=0.5)
    ax.set_xlabel("X[0]")
    ax.set_ylabel("Y[1]")
    ax.set_title("data")
    plt.show()

技术分享图片

#测试函数
def test_DBSCAN(*data):
    X,labels_true = data
    clst = cluster.DBSCAN();
    predict_labels = clst.fit_predict(X)
    print("ARI:%s"%adjusted_rand_score(labels_true,predict_labels))
    print("Core sample num:%d"%len(clst.core_sample_indices_))

#结果
ARI:0.330307120902
Core sample num:991

??其中 $A R I$

下面考察 $ϵ$

def test_DBSCAN_epsilon(*data):
    X,labels_true = data
    epsilons = np.logspace(-1,1.5)
    ARIs=[]
    Core_nums = []
    for epsilon in epsilons:
        clst = cluster.DBSCAN(eps=epsilon)
        predicted_labels = clst.fit_predict(X)
        ARIs.append(adjusted_rand_score(labels_true,predicted_labels))
        Core_nums.append(len(clst.core_sample_indices_))

    fig = plt.figure(figsize=(10,5))
    ax = fig.add_subplot(1,2,1)
    ax.plot(epsilons,ARIs,marker = ‘+‘)
    ax.set_xscale(‘log‘)
    ax.set_xlabel(r"$epsilon$")
    ax.set_ylim(0,1)
    ax.set_ylabel(‘ARI‘)

    ax = fig.add_subplot(1,2,2)
    ax.plot(epsilons,Core_nums,marker=‘o‘)
    ax.set_xscale(‘log‘)
    ax.set_xlabel(r"$epsilon$")
    ax.set_ylabel(‘Core_num‘)

    fig.suptitle("DBSCAN")
    plt.show()

centers = [[1,1],[1,2],[2,2],[10,20]]
X,labels_true = create_data(centers,1000,0.5)
test_DBSCAN_epsilon(X,labels_true)

技术分享图片

$ϵ$

??可以看到 $A R I$

下面接着考察 $M i n P t s$

def test_DBSCAN_min_samples(*data):
    X,labels_true=data
    min_samples=range(1,100)
    ARIs=[]
    Core_nums=[]
    for num in min_samples:
        clst=cluster.DBSCAN(min_samples=num)
        predicted_labels=clst.fit_predict(X)
        ARIs.append(adjusted_rand_score(labels_true, predicted_labels))
        Core_nums.append(len(clst.core_sample_indices_))

    fig=plt.figure(figsize=(10,5))
    ax=fig.add_subplot(1,2,1)
    ax.plot(min_samples,ARIs,marker=‘+‘)
    ax.set_xlabel("min_samples")
    ax.set_ylim(0,1)
    ax.set_ylabel(‘ARI‘)

    ax=fig.add_subplot(1,2,2)
    ax.plot(min_samples,Core_nums,marker=‘o‘)
    ax.set_xlabel("min_samples")
    ax.set_ylabel(‘Core_nums‘)

    fig.suptitle("DBSCAN")
    plt.show()

centers = [[1,1],[1,2],[2,2],[10,20]]
X,labels_true = create_data(centers,1000,0.5)
test_DBSCAN_min_samples(X,labels_true)

技术分享图片

$M i n P t s$

??可以看出 $A R I$

有关 $A R I$

以上是关于Python机器学习——DBSCAN聚类的主要内容，如果未能解决你的问题，请参考以下文章

机器学习 sklearn 无监督学习聚类算法 DBSCAN

机器学习DBSCAN Algorithms基于密度的聚类算法

线（旅行路径）聚类机器学习算法

机器学习--聚类系列--DBSCAN算法

简单易学的机器学习算法——基于密度的聚类算法DBSCAN