支持向量机（SVM）之数学公式详细推导

Posted 2021-11-23 luv-gem

一、【概述】

1、含义：

支持向量机（support vector machine，SVM）是一种二类分类器，它的基本模型是定义在特征空间上的间隔最大化的线性分类器，通过引入核函数，也可以作为非线性分类器来解决非线性数据集的分类问题。

2、求解：

支持向量机的学习策略是间隔最大化，可转化为一个求解凸二次规划的问题。

3、模型：

支持向量机模型从简单到复杂可分为：线性可分支持向量机、线性支持向量机和非线性支持向量机。

线性可分支持向量机：训练数据线性可分，通过硬间隔最大化，学习一个线性分类器；

线性支持向量机：训练数据近似线性可分，通过软间隔最大化，学习一个线性分类器；

非线性支持向量机：训练数据线性不可分，通过使用核技巧（kernel trick）及软间隔最大化，学习一个非线性分类器。

本次数学推导就是推导以上三个模型，不涉及SMO算法的推导。考虑到公式比较多，所以是用手写笔记的形式进行整理。

二、【数学推导】