计算机视觉与深度学习线性分类器
Posted CCH²¹
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了计算机视觉与深度学习线性分类器相关的知识，希望对你有一定的参考价值。
目录
从线性分类器开始
- 线性分类器形式简单，易于理解。
- 通过层级结构（神经网络）或高维映射（支持向量机）可以形成功能强大的非线性模型。
线性分类器的定义
线性分类器是一种线性映射，将输入的图像特征映射为类别分数。线性分类器定义如下： f i ( x , w i ) = w i T x + b i , i = 1 , 2 , . . . , c f_i(\\bm x, \\bm w_i)=\\bm w_i^T \\bm x+b_i,i=1,2,...,c fi(x,wi)=wiTx+bi,i=1,2,...,c其中 x \\bm x x代表输入的 d d d维图像向量， c c c为类别个数， w i = [ w i 1 w i 2 . . . w i d ] T \\bm w_i=\\begin{gathered}\\begin{bmatrix} w_{i1} & w_{i2} & ... & w_{id} \\end{bmatrix}\\end{gathered}^T wi=[wi1wi2...wid]T为第 i i i个类别的权值向量， b i b_i bi为偏置。如果 f i ( x ) > f j ( x ) f_i(\\bm x)>f_j(\\bm x) fi(x)>fj(x)，则决策输入图像 x \\bm x x属于第 i i i类。
线性分类器的决策步骤
- 将图像表示为向量。
假设我们有一张图片 [ 56 231 24 2 ] \\begin{gathered}\\begin{bmatrix} 56 & 231 \\\\ 24 & 2 \\end{bmatrix}\\end{gathered} [56242312]将其转换为向量的形式即为 x = [ 56 231 24 2 ] \\bm x=\\begin{gathered}\\begin{bmatrix} 56 \\\\ 231 \\\\ 24 \\\\ 2 \\end{bmatrix}\\end{gathered} x=⎣⎢⎢⎡56231242⎦⎥⎥⎤ - 计算当前图片每个类别的分数。
假设我们当前需要完成的是一个三分类任务（将图片划分为汽车类、猫类、鸟类的其中一种），线性分类器为 f i ( x , w i ) = w i T x + b i , i = 1 , 2 , 3 f_i(\\bm x, \\bm w_i)=\\bm w_i^T \\bm x+b_i,i=1,2,3 fi(x,wi)=wiTx+bi,i=1,2,3其中权值矩阵 w i T = [ 0.2 − 0.5 0.1 2.0 1.5 1.3 2.1 0.0 0 0.25 0.25 − 0.3 ] \\bm w_i^T=\\begin{gathered}\\begin{bmatrix} 0.2 & -0.5 & 0.1 & 2.0 \\\\ 1.5 & 1.3 & 2.1 & 0.0 \\\\ 0 & 0.25 & 0.25 & -0.3 \\end{bmatrix}\\end{gathered} wiT=⎣⎡0.21.50−0.51.30.250.12.10.252.00.0−0.3⎦⎤偏置 b i = [ 1.1 3.2 − 1.2 ] b_i=\\begin{gathered}\\begin{bmatrix} 1.1 \\\\ 3.2 \\\\ -1.2 \\end{bmatrix}\\end{gathered} bi=⎣⎡1.13.2−1.2⎦⎤也就是说，对于汽车类，有 w 1 T = [ 0.2 − 0.5 0.1 2.0 ] \\bm w_1^T=\\begin{gathered}\\begin{bmatrix} 0.2 & -0.5 & 0.1 & 2.0 \\end{bmatrix}\\end{gathered} w1T=[0.2−0.50.12.0]对于猫类，有 w 2 T = [ 1.5 1.3 2.1 0.0 ] \\bm w_2^T=\\begin{gathered}\\begin{bmatrix} 1.5 & 1.3 & 2.1 & 0.0 \\end{bmatrix}\\end{gathered} w2T=[1.51.32.10.0]对于鸟类，有 w 3 T = [ 0 0.25 0.25 − 0.3 ] \\bm w_3^T=\\begin{gathered}\\begin{bmatrix} 0 & 0.25 & 0.25 & -0.3 \\end{bmatrix}\\end{gathered} w3T=