第四章 线性判据与回归
Posted orangee
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了第四章 线性判据与回归相关的知识，希望对你有一定的参考价值。
线性判据与回归
线性判据基本概念
生成模型
给定训练样本{(x_n)}，直接在输入空间内学习其概率密度函数p(x)
优势
- 可以根据p(x)采样新的样本数据(synthetic data)
- 可以检测出较低概率的数据,实现离群点检测(outlierdetection)
劣势
- 高维下，需要大量的训练样本才能准确估计p(x)，否则出现维度灾难问题
判别模型
判别模型:给定训练样本{(x_n)},直接在输入空间内估计后验概率$p(C_i|x)
优势
- 快速直接、省去了耗时的高维观测似然概率估计
线性判据
定义
如果判别模型f(x)是线性函数，则f (x)为线性判据
优势
计算量少，适用于训练样本较少的情况下
模型
判别式
决策边界
其中w是决策边界法向量，样本到决策边界的距离(r=frac{f(x)}{||w||})
以上是关于第四章 线性判据与回归的主要内容，如果未能解决你的问题，请参考以下文章