与扩展特征空间中的线性 SVM 相比，内核 SVM 都有哪些缺点？

Posted 2023-03-12

【中文标题】与扩展特征空间中的线性 SVM 相比，内核 SVM 都有哪些缺点？

【英文标题】：What are the disadvantages of a Kernel SVM compared to a Linear SVM in an expanded feature space?与扩展特征空间中的线性 SVM 相比，内核 SVM 有哪些缺点？

【发布时间】：2018-08-25 06:23:26

【问题描述】：

这是我考试时提出的问题。 我给出了以下答案，我得到了 0 分。教授甚至不同意给予任何部分的信任，也没有告诉我我的回答有什么问题。谁能帮我弄清楚我的答案有什么问题？

这是我在考试中给出的答案。 缺点是： 1）如果数据在扩展的特征空间中是线性可分的，则线性SVM可以更好地最大化margin并且可以导致更稀疏的解决方案。 2）当有一个大数据集时，与扩展特征空间中的核化 SVM 相比，线性 SVM 需要更少的时间来训练和预测。 3) 与线性 SVM 相比，核化 SVM 可以过拟合生成更复杂的训练有素的 SVM 模型。

【问题讨论】：

看起来够了，也许教授想要更详细的数学描述。

不，我不这么认为。如果我遗漏了一些数学描述，她本可以给予部分功劳。

【参考方案1】：

嗯，我认为没关系。我绝对同意你的第二个回答。这里要提到的重要一点是，Kernel SVM 需要更多参数，因此更难训练和选择足够的这些参数集。

以 RBF 内核为例，它需要一个典型的 C 参数，就像线性 SVM 一样，但除此之外，它还需要 Sigma（通常Gamma) 参数，它是正态分布的标准差。因此，要确定两个参数的良好设置，必须使用 Grid-Search 等方法。