SVM(支持向量机)

Posted sharryling

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了SVM(支持向量机)相关的知识,希望对你有一定的参考价值。

1.什么是SVM

通过跟高斯“核”的结合,支持向量机可以表达出非常复杂的分类界线,从而达成很好的的分类效果。“核”事实上就是一种特殊的函数,最典型的特征就是可以将低维的空间映射到高维的空间。

技术分享图片技术分享图片?

我们如何在二维平面划分出一个圆形的分类界线?在二维平面可能会很困难,但是通过“核”可以将二维空间映射到三维空间,然后使用一个线性平面就可以达成类似效果。也就是说,二维平面划分出的非线性分类界线可以等价于三维平面的线性分类界线。于是,我们可以通过在三维空间中进行简单的线性划分就可以达到在二维平面中的非线性划分效果。

技术分享图片技术分享图片?

图  三维空间的切割

 

SVM的英文全称是Support Vector Machines,我们叫它支持向量机。支持向量机是我们用于分类的一种算法。让我们以一个小故事的形式,开启我们的SVM之旅吧。

在很久以前的情人节,一位大侠要去救他的爱人,但天空中的魔鬼和他玩了一个游戏。

魔鬼在桌子上似乎有规律放了两种颜色的球,说:"你用一根棍分开它们?要求:尽量在放更多球之后,仍然适用。"

技术分享图片技术分享图片?

于是大侠这样放,干的不错?

技术分享图片技术分享图片?

然后魔鬼,又在桌上放了更多的球,似乎有一个球站错了阵营。显然,大侠需要对棍做出调整。

技术分享图片技术分享图片?

SVM就是试图把棍放在最佳位置,好让在棍的两边有尽可能大的间隙。这个间隙就是球到棍的距离。

技术分享图片技术分享图片?

现在好了,即使魔鬼放了更多的球,棍仍然是一个好的分界线。

技术分享图片技术分享图片?

魔鬼看到大侠已经学会了一个trick(方法、招式),于是魔鬼给了大侠一个新的挑战。

技术分享图片技术分享图片?

现在,大侠没有棍可以很好帮他分开两种球了,现在怎么办呢?当然像所有武侠片中一样大侠桌子一拍,球飞到空中。然后,凭借大侠的轻功,大侠抓起一张纸,插到了两种球的中间。

技术分享图片技术分享图片?

现在,从空中的魔鬼的角度看这些球,这些球看起来像是被一条曲线分开了。

技术分享图片技术分享图片?

再之后,无聊的大人们,把这些球叫做data,把棍子叫做classifier, 找到最大间隙的trick叫做optimization,拍桌子叫做kernelling, 那张纸叫做hyperplane

 

以上是关于SVM(支持向量机)的主要内容,如果未能解决你的问题,请参考以下文章

支持向量机原理

支持向量机(SVM)基本原理

0#07 SVM 支持向量机

支持向量机

11支持向量机SVM:线性可分支持向量机

支持向量机(SVM):超平面及最大间隔化支持向量机的数学模型软间隔与硬间隔线性可分支持向量机线性支持向量机非线性支持向量机核函数核函数选择SMO算法SVM vs LR优缺点