Caffe深度学习计算框架

Posted Asu_PC

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Caffe深度学习计算框架相关的知识,希望对你有一定的参考价值。

Caffe | Deep Learning Framework是一个清晰而高效的深度学习框架,其作者是博士毕业于UC Berkeley的 Yangqing Jia,目前在Google工作。Caffe是纯粹的C++/CUDA架构,支持命令行、Python和MATLAB接口;可以在CPU和GPU直接无缝切换:

1 Caffe::set_mode(Caffe::GPU);

Caffe的优势

    1. 上手快:模型与相应优化都是以文本形式而非代码形式给出。 Caffe给出了模型的定义、最优化设置以及预训练的权重,方便立即上手。
    2. 速度快:能够运行最棒的模型与海量的数据。 Caffe与cuDNN结合使用,测试AlexNet模型,在K40上处理每张图片只需要1.17ms.

    3. 模块化:方便扩展到新的任务和设置上。 可以使用Caffe提供的各层类型来定义自己的模型。

    4. 开放性:公开的代码和参考模型用于再现。
    5. 社区好:可以通过BSD-2参与开发与讨论

Caffe的网络定义

  Caffe中的网络都是有向无环图的集合,可以直接定义:数据以blobs的形式在层间流动。

1 name: "dummy-net"
2 
3 layers {<span><span>name: <span>"data" …</span></span></span>}
4 
5 layers {<span><span>name: <span>"conv" …</span></span></span>}
6 
7 layers {<span><span>name: <span>"pool" …</span></span></span>}
8 layers {<span><span>name: <span>"loss" …</span></span></span>} 

Caffe的各层定义

  Caffe层的定义由2部分组成:层属性与层参数,例如

 1 name:"conv1"
 2 type:CONVOLUTION
 3 bottom:"data"
 4 top:"conv1"
 5 convolution_param{
 6     num_output:<span>20
 7     kernel_size:5
 8     stride:1
 9     weight_filler{
10          type: "<span style="color: #c0504d;">xavier</span>"
11     }
12 }

Caffe的总体架构

  Caffe框架主要有五个组件,Blob,Solver,Net,Layer,Proto,其结构图如下图1所示。Solver负责深度网络的训练,每个Solver中包含一个训练网络对象和一个测试网络对象。每个网络则由若干个Layer构成。每个Layer的输入和输出Feature map表示为Input Blob和Output Blob。Blob是Caffe实际存储数据的结构,是一个不定维的矩阵,在Caffe中一般用来表示一个拉直的四维矩阵,四个维度分别对应Batch Size(N),Feature Map的通道数(C),Feature Map高度(H)和宽度(W)。Proto则基于Google的Protobuf开源项目,是一种类似XML的数据交换格式,用户只需要按格式定义对象的数据成员,可以在多种语言中实现对象的序列化与反序列化,在Caffe中用于网络模型的结构定义、存储和读取。

Blob

  下面介绍Caffe中的基本数据存储类Blob。Blob常用的存储格式:

1 图像数量N * 通道K * 图像高度H * 图像宽度W

  Blob使用SyncedMemory类进行数据存储并同步CPU和GPU上的数据,数据成员 data_指向实际存储数据的内存或显存块,shape_存储了当前blob的维度信息,diff_这个保存了反向传递时候的梯度信息。在Blob中其实不是只有num,channel,height,width这种四维形式,它是一个不定维度的数据结构,将数据展开存储,而维度单独存在一个vector<int> 类型的shape_变量中,这样每个维度都可以任意变化。来一起看看Blob的关键函数,data_at这个函数可以读取的存储在此类中的数据,diff_at可以用来读取反向传回来的误差。顺便给个提示,尽量使用data_at(const vector<int>& index)来查找数据。Reshape函数可以修改blob的存储大小,count用来返回存储数据的数量。BlobProto类负责了将Blob数据进行打包序列化到Caffe的模型中。

  Blob可根据CPU主机到GPU设备的同步需要,屏蔽CPU/GPU混合运算在计算上的开销。主机和设备上的内存按需求分配,已提高内存的使用率。使用GPU时,Caffe中CPU代码先从磁盘中加载数据到blob,同时请求先分配一个GPU设备核以使用GPU进行计算,再将计算好的blob数据送入到下一层,只要所有的layers均有GPU实现,这种情况下所有的中间数据都会保留在GPU上。

  这里一个实例,用以确定blob何时回复制数据:

 1 // 假定数据在 假定数据在 CPU上进行初始化,我们有一个blob 
 2 const Dtype* foo; 
 3 Dtype* bar; 
 4 foo = blob.gpu_data(); // 数据从CPU复制到 复制到 GPU
 5 foo = blob.cpu_data(); // 没有数据复制,两者都最新的内容 
 6 bar = blob.mutable_gpu_data(); // 没有数据复制
 7 // ... 一些操作 ... 
 8 bar = blob.mutable_gpu_data(); // 仍在GPU,没有数据复制
 9 foo = blob.cpu_data(); //由于GPU修改了数值,数据从GPU复制到 CPU
10 foo = blob.gpu_data(); //没有数据复制,两者都最新的内容
11 bar = blob.mutable_cpu_data(); // 依旧没有数据复制
12 bar = blob.mutable_gpu_data(); //数据从CPU复制到GPU
13 bar = blob.mutable_cpu_data(); //数据从GPU复制到CPU

 

Solver

  Solver通过协调Net的前向计算和反向梯度计算来进行参数更新,从而达到loss的目的。目前Caffe的模型学习分为两个部分:由Solver进行优化、更新参数;由Net计算出loss和gradient。solver具体的工作:1、用于优化过程的记录,创建训练网络和测试网络。2、用过forward和backward过程来迭代优化更新参数。3、周期性的用测试网络评估模型性能。4、优化过程中记录模型和solver状态的快照。一些参数的配置都在solver.prototxt格式的文件中:

 1 1. ####训练样本###
 2 
 3 总共:121368个
 4 batch_szie:256
 5 将所有样本处理完一次(称为一代,即epoch)需要:121368/256=475 次迭代才能完成
 6 所以这里将test_interval设置为475,即处理完一次所有的训练数据后,才去进行测试。所以这个数要大于等于475.
 7 如果想训练100代,则最大迭代次数为47500;
 8 2. ####测试样本###
 9 同理,如果有1000个测试样本,batch_size为25,那么需要40次才能完整的测试一次。 所以test_iter为40;这个数要大于等于40.
10 3. ####学习率###
11 学习率变化规律我们设置为随着迭代次数的增加,慢慢变低。总共迭代47500次,我们将变化5次,所以stepsize设置为47500/5=9500,即每迭代9500次,我们就降低一次学习率。
12 
13  ####参数含义#############
14 
15 net: "examples/AAA/train_val.prototxt"   #训练或者测试配置文件
16 test_iter: 40   #完成一次测试需要的迭代次数
17 test_interval: 475  #测试间隔
18 base_lr: 0.01  #基础学习率
19 lr_policy: "step"  #学习率变化规律
20 gamma: 0.1  #学习率变化指数
21 stepsize: 9500  #学习率变化频率
22 display: 20  #屏幕显示间隔
23 max_iter: 47500 #最大迭代次数
24 momentum: 0.9 #动量
25 weight_decay: 0.0005 #权重衰减
26 snapshot: 5000 #保存模型间隔
27 snapshot_prefix: "models/A1/caffenet_train" #保存模型的前缀
28 solver_mode: GPU #是否使用GPU
29 
30 stepsize不能太小,如果太小会导致学习率再后来越来越小,达不到充分收敛的效果。

  接下来我们看看Solver这个优化对象在Caffe中是如何实现的。SolverRegistry这个类就是我们看到的上面的factory类,负责给我们一个优化算法的产品,外部只需要把数据和网络结构定义好,它就可以自己优化了。Solver* CreateSolver(const SolverParameter& param)这个函数就是工厂模式下的CreateProduct的操作

  接下里我们看看Solver中的关键函数。Solver中Solve函数的流程图如下:

      

  Solver类中Step函数流程图:

        

  Solver中关键的就是调用Sovle函数和Step函数的流程,你只需要对照Solver类中两个函数的具体实现,看懂上面两个流程图就可以理解Caffe训练执行的过程了。

Net

  Net是由一些列层组成的有向无环图DAG,一个典型的Net开始于data layer ----> 从磁盘中加载数据----> 终止于loss layer。(计算和重构目标函数。)这个是我们使用Proto创建出来的深度网络对象,这个类负责了深度网络的前向和反向传递。以下是Net类的初始化方法NetInit函数调用流程:

    

  类中的关键函数简单剖析

    1).ForwardBackward:按顺序调用了Forward和Backward。

    2).ForwardFromTo(int start, int end):执行从start层到end层的前向传递,采用简单的for循环调用。,forward只要计算损失loss

    3).BackwardFromTo(int start, int end):和前面的ForwardFromTo函数类似,调用从start层到end层的反向传递。backward主要根据loss来计算梯度,caffe通过自动求导并反向组合每一层的梯度来计算整个网络的梯度。

    4).ToProto函数完成网络的序列化到文件,循环调用了每个层的ToProto函数。

  Net::Init()进行模型的初始化。初始化主要实现两个操作:创建blobs和layers以搭建整个DAG网络,并且调用layers的SetUp()函数。

Layer

  Layer是Net的基本组成单元,例如一个卷积层或一个Pooling层。本小节将介绍Layer类的实现。

  • NeuronLayer类:定义于neuron_layers.hpp中,其派生类主要是元素级别的运算(比如Dropout运算,激活函数ReLu,Sigmoid等),运算均为同址计算(in-place computation,返回值覆盖原值而占用新的内存)。
  • LossLayer类:定义于loss_layers.hpp中,其派生类会产生loss,只有这些层能够产生loss。
  • 数据层:定义于data_layer.hpp中,作为网络的最底层,主要实现数据格式的转换。
  • 特征表达层(我自己分的类):定义于vision_layers.hpp,实现特征表达功能,更具体地说包含卷积操作,Pooling操作,他们基本都会产生新的内存占用(Pooling相对较小)。
  • 网络连接层和激活函数(我自己分的类):定义于common_layers.hpp,Caffe提供了单个层与多个层的连接,并在这个头文件中声明。这里还包括了常用的全连接层InnerProductLayer类

Layer的重要成员函数

  layer主要定义了三种运算,setup,forward,backward

  在Layer内部,数据主要有两种传递方式,正向传导(Forward)和反向传导(Backward)。Forward和Backward有CPU和GPU(部分有)两种实现。Caffe中所有的Layer都要用这两种方法传递数据。Layer类派生出来的层类通过实现这两个虚函数,产生了各式各样功能的层类。Forward是从根据bottom计算top的过程,Backward则相反(根据top计算bottom)。注意这里为什么用了一个包含Blob的容器(vector),对于大多数Layer来说输入和输出都各连接只有一个Layer,然而对于某些Layer存在一对多的情况,比如LossLayer和某些连接层。在网路结构定义文件(*.proto)中每一层的参数bottom和top数目就决定了vector中元素数目。

1 layers {
2     bottom: "decode1neuron" // 该层底下连接的第一个Layer
3     bottom: "flatdata" // 该层底下连接的第二个Layer
4     top: "l2_error" // 该层顶上连接的一个Layer
5     name: "loss" // 该层的名字 type: EUCLIDEAN_LOSS //该层的类型
6     loss_weight: 0
7 }

 

 

 

 

以上是关于Caffe深度学习计算框架的主要内容,如果未能解决你的问题,请参考以下文章

深度学习框架 Caffe2

开源产业级深度学习框架 Caffe2

深度学习框架格局剧震:Caffe2 代码全部并入 PyTorch

Caffe2代码全部并入PyTorch:深度学习框架格局剧震

AI开发利器——深度学习框架Caffe-MPI加速比最好

荧客技荐Caffe2 代码全部并入 PyTorch:深度学习框架格局剧震