支持向量机方法基础

Posted 2021-04-26 新统杂谈

支持向量机方法是分类方法的一种。是在分类与回归中分析数据的监督式学习模型与相关的学习算法。SVM除了进行线性分类外，还可以使用核技巧进行非线性分类。其改进的聚类算法，称为支持向量机聚类。在非线性依赖关系中尤为重要。在求解支持向量机方法的过程中，首先对问题，有三个转折点。第一个就是问题的变形。第一个问题转化为第二个问题，并在问题5中得到了解决，也就是alpha等于无穷和0的可能性最大，其次，就是在求解等式的过程中，首先转化为6，6通过求极值的等式，将问题转化为参数theta的等式，代入1式可得10式，即问题10。10和11等价，就可以利用求极值的方法，求出，alpha t的估计值，于是可以代入y的估计值求出分类结果。最后是关于theta0的确定。可以看出核的使用使得线性组合的函数表达式的求解更加简单。