在 SVM 中，支持向量可以不是训练样本吗？

Posted 2023-03-12

【中文标题】在 SVM 中，支持向量可以不是训练样本吗？

【英文标题】：In SVM, can a support vector not be a training sample?

【发布时间】：2013-04-20 10:18:05

【问题描述】：

对于所有 SVM 版本，如 c-svm、v-svm、软边距 svm 等，支持向量可以不作为训练样本吗？

【参考方案1】：

不，它不能。支持向量始终是训练集中的样本。

这是一件好事，因为这意味着 SVM 忽略了样本的内部结构和支持向量。只有与 SVM 本身分离的核函数才需要了解样本的结构。虽然大多数内核对数字向量进行操作，但也存在对字符串、树、图形等进行操作的内核。

（请注意，linear 支持向量机可以在不考虑支持向量的情况下进行训练。即，当您使用 SGD 等算法通过适当的正则化在铰链损失下训练线性模型时，您会得到一个等效于具有线性内核的 SVM 的模型，但其中的支持向量是隐式的。）

【讨论】：

感谢 larsmans，顺便说一句，内核如何对图进行操作？你能举个例子吗？

@jarjar：想法是定义一个对称函数 K(x,y)，当对象 x 和 y 更相似时，它会返回更大的值。我对图核不是很熟悉，但如果你以字符串为例，那么 K 可能是与 Levenshtein 距离 D 相关的一些函数，例如1 / (1 + D(x,y))。