添加数据点对 SVM 与 SVM 损失的影响软最大

Posted 2023-03-14

【中文标题】添加数据点对 SVM 与 SVM 损失的影响软最大

【英文标题】：Effect of addition of a data point on the loss of SVM v.s. Softmax

【发布时间】：2018-09-25 16:18:13

【问题描述】：

是否可以向训练集中添加一个新的数据点，使 SVM 损失保持不变，但 Softmax 分类器损失不变？

【参考方案1】：

在 SVM 中，如果新数据点的分数超出正确类别分数的边际范围，则损失不会改变，但在 Softmax 损失中，如果新添加的数据点的分数接近 +infinity会对loss产生不利影响，但是Softmax的loss肯定会发生变化。