Dlib 的 svm_c_linear_trainer 啥时候比 svm_c_linear_dcd_trainer 好？

Posted 2023-03-16

【中文标题】Dlib 的 svm_c_linear_trainer 啥时候比 svm_c_linear_dcd_trainer 好？

【英文标题】：When is Dlib's svm_c_linear_trainer better than svm_c_linear_dcd_trainer?Dlib 的 svm_c_linear_trainer 什么时候比 svm_c_linear_dcd_trainer 好？

【发布时间】：2019-08-05 10:50:00

【问题描述】：

我有一个机器学习问题，涉及高维标记输入和相对较小的样本量。使用非常酷的visual guide 将我带到了svm_c_linear_trainer 方法。但我从文档中了解到，类似的svm_c_linear_dcd_trainer 可以选择“热启动”，这听起来比“冷启动”更好，例如，在交叉验证循环中。但是，svm_c_linear_dcd_trainer 是针对不同类型问题的选定方法，主要区别在于应用于未标记的数据。

在标记数据上使用svm_c_linear_dcd_trainer 会不会有问题，还是有其他充分理由说明svm_c_linear_trainer 更好？

【参考方案1】：

关于双下降 SVM 的 article 和 DLib 网站上的 documentation 表明，svm_c_linear_dcd_trainer 可以用作标准线性 SVM 的直接替代品。

它应该具有卓越的性能（引用提到的文章）：

实验表明，我们的 方法比最先进的实现更快。

...因为该算法据说可以更好地利用优化，同时给出与标准 SVM 算法相同的结果。

文章中的第 6 和 7 页，其中将它与几个不同数据集上的其他算法进行了比较，您可能会特别感兴趣。