李航统计学习方法(第二版)（十四）：线性支持向量机与软间隔最大化

Posted 2021-02-21 qiu-hua

1 简介

线性可分问题的支持向量机学习方法，对线性不可分训练数据是不适用的，因为这时上述方法中的不等式约束并不能都成立。

怎么才能将它扩展到线性不可分问题呢?这就需要修改硬间隔最大化，使其成为软间隔最大化。

2 模型

2.1 相关条件

 

2.2 模型

 

 

 

3 学习策略

 

 

 

 

 

 

4 算法

对偶形式

 

 

 

 

 

 

 

 

5 概念扩展

5.1 支持向量

 

 

 

 

 

5.2 合页损失函数