一句话总结kNN算法

Posted 2021-01-07 dicksonjyl

 

一句话总结kNN算法

 

核心：模板匹配，将样本分到离它最相似的样本所属的类。

 

kNN算法本质上使用了模板匹配的思想。要确定一个样本的类别，可以计算它与所有训练样本的距离，然后找出和该样本最接近的k个样本，统计这些样本的类别进行投票，票数最多的那个类就是分类结果。下图是kNN算法的示意图：

                       

 

在上图中有红色和绿色两类样本。对于待分类样本即图中的黑色点，寻找离该样本最近的一部分训练样本，在图中是以这个矩形样本为圆心的某一圆范围内的所有样本。然后统计这些样本所属的类别，在这里红色点有12个，圆形有2个，因此把这个样本判定为红色这一类。

 

kNN算法是一种判别模型，即支持分类问题，也支持回归问题，是一种非线性模型。它天然的支持多分类问题。kNN算法没有训练过程，是一种基于实例的算法。