SVM

Posted 2020-08-13 小河沟大河沟

 

1。相对于容易过度拟合训练样本的人工神经网络，支持向量机对于未见过的测试样本具有更好的推广能力。

2.SVM更偏好解释数据的简单模型---二维空间中的直线，三维空间中的平面和更高维空间中的超平面。

3.SVM正是从线性可分情况下的最优分类面发展而来，主要思想就是寻找能够成功分开两类样本并且有最大分类间隔的最优分类超平面。算法最终转化为二次型寻优问题，得到的是全局最优，解决了在神经网络方法中无法避免的局部极值问题。

三类：对于样本中只有支持向量（SV）对超平面的划分有贡献，所以样本可由支持向量代替。（一般支持向量总是远远少于样本总数）

   线性可分的SVM

   非线性可分的SVM(C-SVM) 引入错误代价系数C

   需要核函数映射情况下的SVM  (通过非线性变换将其转化为某个高维空间中的线性问题) ---有个点积运算，可用核函数代替

核函数：

    Kernel 函数满足Mercer条件，它就对应某一变换空间中的内积。

多类问题：

1 一对多的最大响应策略

2 一对一的投票策略

3 一对一的淘汰策略