SVM和SoftMax的原理区别对比

Posted 2020-12-04 tianqizhi

https://blog.csdn.net/han_xiaoyang/article/details/49999583

1. 线性分类器

在深度学习与计算机视觉系列(2)我们提到了图像识别的问题，同时提出了一种简单的解决方法——KNN。然后我们也看到了KNN在解决这个问题的时候，虽然实现起来非常简单，但是有很大的弊端：

• 分类器必须记住全部的训练数据(因为要遍历找近邻啊！！)，而在任何实际的图像训练集上，数据量很可能非常大，那么一次性载入内存，不管是速度还是对硬件的要求，都是一个极大的挑战。
• 分类的时候要遍历所有的训练图片，这是一个相当相当相当耗时的过程。