为啥Matlab训练神经网络用不了GPU

Posted 2023-03-09

我在train函数之后加了'useGPU','yes'然后训练之前就出现了问题，弹出了Out of memory on device. To view more detail about available memory on the GPU, use'gpuDevice()'. If the problem persists, reset the GPU by calling 'gpuDevice(1)'.错误。官网上说可以用我的指令，但是我试了之后每次都不行。请问这是为什么？我的CPU是i7-4790，GPU是GTX 750 Ti, 符合官网上的运算能力3.0的要求。内存是8G DDR3，如果这也是一个条件的话。感谢大家的帮助！

可以用gpu加速训练，可以通过增加'useGPU'字段:train(net,P,T,'useGPU','yes');或先将数据集P,T通过函数Pgpu=gpuArray(P);Tgpu=gpuArray(T);转移到gpu内存中，再调用训练函数train(net,Pgpu,Tgpu)但是需要注意以下几点：
1，由于要在gpu上训练，网络的权重调整也会在gpu内进行，所以会占用gpu的内存，内存占用率与数据集的大小相关，可以通过下面的代码了解内存占用：
gpudev=gpuDevice；%事先声明gpudev变量为gpu设备类
%其他代码
gpudev.AvailableMemory%实时获得当前gpu的可用内存
可以通过尝试不同的数据集大小选择一个合适的数据集大小
2，大部分gpu处理double类型的数据能力并不强，所以如果想要取得较好的训练效果，需要使用single数据类型的数据集，例：
P=single(P);%将double型的P转为single型
T=single(T);%将double型的T转为single型
train(net,P,T,'useGPU','yes');
但是matlab的神经网络工具箱的一个函数可能有bug，在gpu上运行double变量的数据集时没有问题，但运行single变量时可能会弹出如下错误：
Error using gpuArray/arrayfun
Variable xx changed type.
修复该问题需要在源文件上作一些修改，具体内容这里没法三言两语说清楚，如果遇到该问题可以留言
经过本人测试，single型的数据集在gpu上可以取得数十倍的加速，具体加速情况与具体gpu型号有关 参考技术A

一、可能跟你使用的matlab的版本有关（偏低）

在matlab2016a中训练神经网络时可以用GPU。如

P_pix = [26.0  0.1290;26.8  1.2762;27.1  2.3089;27.6  5.1042;28.4  6.9423;29.4  5.7834;30.3  4.9672;31.5  6.5437;32.1  3.8965]';

t= [1.23; 10.54; 26.95; 51.52; 69.87; 50.58; 43.28; 66.47; 37.56]';

net= patternnet([300,150])

net=train(net,P_pix,t,'useGPU','only')

二、用你电脑的CPU（i7-4790）运行是没有问题的，上述代码都能在CPU（i5-2450M）上运行。

fakeapp训练用GPU还是CPU

参考技术A GPU。
CPU训练是在载入图片并进行处理后再开始训练网络，而利用GPU 训练是在CPU 载入图片处理后利用GPU进行网络训练，GPU 训练速度更快且后面的图片加载不受音响。