3-1 k近邻算法 模型三要素

Posted windmissing

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了3-1 k近邻算法 模型三要素相关的知识,希望对你有一定的参考价值。

距离度量:

欧式距离、LP距离

k值的选择:

k=1,方差(variance)大,估计误差(estimation error)大,过拟合(overfitting),模型复杂,对邻近的实例点非常敏感。
k=M(样本数),偏差(Bias)大,近似误差(approximation error)大,欠拟合(underfitting),离输入实例较远的训练实例也会对预测起作用。
通常使用交叉验证来选取最优的k值。

分类决策规则:

多数表决规则,此时经验风险最小

以上是关于3-1 k近邻算法 模型三要素的主要内容,如果未能解决你的问题,请参考以下文章

统计学习方法 (第3章)K近邻法 学习笔记

k近邻算法

《统计学习方法》笔记--K近邻

k近邻法的应用

统计学习三:2.K近邻法代码实现(以最近邻法为例)

机器学习--实验三