目标检测faster rcnn error == cudaSuccess (2 vs. 0) out of memory

Posted whu-zeng

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了目标检测faster rcnn error == cudaSuccess (2 vs. 0) out of memory相关的知识,希望对你有一定的参考价值。

想尝试 更深更强的网络,或者自己写了一个费显存的层,发现1080 ti的11G显存不够用了,老师报显存不够怎么办?

Check failed: error == cudaSuccess (2 vs. 0)  out of memory

调小batch_size的大小。

 

怎么调呢?

调这个文件:

experiments/cfgs/faster_rcnn_end2end.yml

 

EXP_DIR: faster_rcnn_end2end
TRAIN:
HAS_RPN: True
IMS_PER_BATCH: 1
BBOX_NORMALIZE_TARGETS_PRECOMPUTED: True
RPN_POSITIVE_OVERLAP: 0.7
#RPN_BATCHSIZE: 256
RPN_BATCHSIZE: 160
PROPOSAL_METHOD: gt
BG_THRESH_LO: 0.0
#BATCH_SIZE: 64
BATCH_SIZE: 32
#RPN_POST_NMS_TOP_N: 700
RPN_POST_NMS_TOP_N: 500
USE_OHEM: True
ASPECT_GROUPING: False
TEST:
HAS_RPN: True

 

 

当然,写代码的方式也可以。比如说写一个batch_norm层,来归一化参数。让每一层的参数没那么凌乱。不过这个减少的显存还是比较小的。


















以上是关于目标检测faster rcnn error == cudaSuccess (2 vs. 0) out of memory的主要内容,如果未能解决你的问题,请参考以下文章

caffe框架下目标检测——faster-rcnn实战篇操作

Faster-RCNN目标检测算法执行思路

faster-RCNN台标检测

深度学习和目标检测系列教程 10-300:通过torch训练第一个Faster-RCNN模型

目标检测框架py-faster-rcnn修改anchor_box

目标检测算法---faster rcnn 知识简要回顾(测试篇)