Ubuntu14.10+cuda7.0+caffe配置

Posted 2020-06-21 lcchuguo

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Ubuntu14.10+cuda7.0+caffe配置相关的知识，希望对你有一定的参考价值。

Ubuntu14.10+cuda7.0+caffe配置

一：linux安装

Linux安装不说了。我这里安装的是ubuntu14.10

二：nVidia驱动和CUDA Toolkit的安装和调试（*.run方法）

1: Verify You Have a CUDA-Capable GPU

运行以下的操作，然后验证硬件支持GPU CUDA。仅仅要型号存在于https://developer.nvidia.com/cuda-gpus。就没问题了

$ lspci | grep -i nvidia

2: 、Verify You Have aSupported Version of Linux

$ uname -m && cat /etc/*release

重点是“x86_64”这一项，保证是x86架构。64bit系统

3: Verify the System Has gcc Installed

$ gcc --version

没有的话就先安装吧，这个是必须的用来编译CUDA Toolkit，只是Ubuntu 14.10是默认有的

4: Download the NVIDIA CUDA Toolkit

下载地址：https://developer.nvidia.com/cuda-toolkit

验证地址：https://developer.nvidia.com/rdp/cuda-rc-checksums

$ md5sum filename

比如：md5sum cuda_7.0.28_linux.run ，这个文件的正确 md5 =312aede1c3d1d3425c8aa67bbb7a55e

5: Handle Conflicting Installation Methods

依据官网介绍，之前安装的版本号都会有冲突的嫌疑

所以，之前安装的Toolkit和Drievers就得卸载，屏蔽。等等(由于我是新系统。没有安装过nvidia驱动。所以此步能够省略)

sudo apt-get --purge remove nvidia*

6: Graphical Interface Shutdown

退出GUI，也就是X-Win界面。操作方法是：同一时候按：CTRL+ALT+F1（F2-F6），切换到TTY1-6命令行模式。

关闭桌面服务：

$ sudo stop lightdm

7: Interaction with Nouveau

Nouveau是一个开源的显卡驱动。Ubuntu14.04 默认安装了，可是它会影响nVidia驱动的安装，所以仅仅有请他回老家了，sorry！

$ sudo vi /etc/modprobe.d/nvidia-graphics-drivers.conf

写入：blacklist nouveau

保存并退出: wq!

检查：$ cat nvidia-graphics-drivers.conf

$ sudo vi/etc/default/grub

末尾写入：rdblacklist=nouveau nouveau.modeset=0

保存并退出: wq!

检查：$ cat /etc/default/grub

8: Installation CUDA 7.0

切换到cuda_7.0.28_linux.run所在的文件夹。然后运行安装命令：

$ sudo sh cuda_7.0.28_linux.run

这里会一路问你各种问题，基本上就是Accept-yes-Enter-yes-Enter-yes-Enter，事实上就是让你接受协议。然后安装的默认位置确认等等。recruit就别自己定义安装位置了。默认才是天堂。

运行完后出现下面结果：

Driver: Installed requirereboot

Toolkit: installskip

Samples: installskip

看到了吗，这个CUDA安装包其实包括了Driver，Toolkit和Samples三部分。第一次安装时把驱动装上了，仅仅只是要又一次启动。又一次启动了一下，还是跟上面一样，退出GUI。又一次运行下面命令:

$ sudo sh cuda_7.0.28_linux.runsu

结果例如以下：

Driver:Installed

Toolkit: Installed in/usr/local/cuda-7.0

Samples: Installed in/home/caffe, butmissing recommended libraries

这次就成功安装了，可是缺少了一些推荐的库。

9: Extra Libraries

安装一些必要的库文件，譬如：OpenGL (e.g., Mesa), GLU, GLUT, and X11 (including Xi, Xmu, andGLX).

$ sudo apt-get install freeglut3-dev build-essential libx11-devlibxmu-dev libxi-dev libgl1-mesa-glx libglu1-mesa libglu1-mesa-dev

10: 驱动装完了，能够回到GUI界面了，也能够继续留这里玩文本。。

。

$ sudo start lightdm

11：POST-INSTALLATIONACTIONS

(1)环境变量配置

运行sudo vi /etc/profile，在后面加上：

exportPATH=/usr/local/cuda-6.5/bin:$PATH

exportLD_LIBRARY_PATH=/usr/local/cuda-6.5/lib64:$LD_LIBRARY_PATH

(2) Verify the Installation

a.验证驱动的版本号，事实上主要是保证驱动程序已经安装正常了

$ cat /proc/driver/nvidia/version

b. Compiling the Examples

$ nvcc -V

这里安装完。就能够编译了。切换文件夹到~/NVIDIA_CUDA-7.0_Samples：

$ cd /home/username/NVIDIA_CUDA-7.0_Samples

$ make

这里要等非常长时间。。

。

c. Running the Binaries

执行编译好的文件，比如看看设备的基本信息和带宽信息：

$ cd bin/x86_64/linux/release

$ ./deviceQuery

$ ./bandwidthTest

假设測试的时候出现说执行版驱动和实际驱动不符，原因可能是由于后面安装的nvidia-cuda-toolkit更新了配置文件，所以和原始的Cuda-Samples的配置或者是驱动程序有变化，所以检測无法编译通过。考虑以下的解决方法：

a.卸载现有驱动

$ sudo nvidia-installer --uninstall

b.下载合适版本号的驱动，并安装：

下载地址：http://www.geforce.cn/drivers

$ sudo sh ./NVIDIA-Linux-x86_65*.run

c. 重装CUDA Toolkit

$ sudo sh cuda-7.0

Nvidia Cuda安装结束(这里我推荐不要手动装合适NVIDIA驱动。最好是卸载将上述过程再装一遍。由于手动装有可能造成版本号不正确。到时桌面空白的问题-----我是重装了系统。。。

。

。)

三：BLAS安装与配置

1：BLAS安装

这里能够选择（ATLAS。MKL或者OpenBLAS），我这里使用MKL，首先下载并安装英特尔? 数学内核库 Linux* 版MKL，下载链接是：https://software.intel.com/en-us/intel-education-offerings。请下载Student版。先申请，然后会立刻收到一个邮件（里面有安装序列号），打开照着下载即可了。下载完之后，要把文件解压到home目录(或直接把tar.gz文件复制到home目录,为了节省空间。安装完记得把压缩文件给删除喔～)，或者其它的ext4的文件系统中。

接下来是安装过程，先授权，然后安装：

$ tar zxvf parallel_studio_xe_2015.tar.gz （假设你是直接拷贝压缩文件过来的）

$ chmod a+x parallel_studio_xe_2015 -R

$ sudo ./install_GUI.sh

2：MKL与CUDA的环境设置

1. 新建intel_mkl.conf，并编辑之：

$ sudo gedit /etc/ld.so.conf.d/intel_mkl.conf

/opt/intel/lib/intel64

/opt/intel/mkl/lib/intel64

2. 新建cuda.conf，并编辑之：

$ sudo gedit /etc/ld.so.conf.d/cuda.conf

/usr/local/cuda/lib64

/lib

3. 完毕lib文件的链接操作，运行：

$ sudo ldconfig –v

四．Opencv安装

1. 下载并编译OpenCV（官网原版OpenCV：http://opencv.org/），或者使用本站提供的改动版的安装包 Install-OpenCV-master（以下的安装方式使用该包完毕，安装包改动了dependencies.sh文件并添加了OpenCV 3.0.0的安装文件，同一时候保留了原来的2.3x和2.4x版）

2. 切换到文件保存的目录，然后安装依赖项：

$ sudo sh Ubuntu/dependencies.sh

3. 切换文件夹Ubuntu\3.0\安装OpenCV3.0.0rc1：

$ sudo sh opencv3_0_0-rc1.sh

保证网络畅通，由于软件须要联网这里时间较长。请耐心等待。

。。

。时间非常长！

五：安装其他依赖项

1. Google Logging Library（glog），下载地址：https://code.google.com/p/google-glog/。然后解压安装：

$ tar zxvf glog-0.3.3.tar.gz

$ ./configure

$ make

$ sudo make install

假设没有权限就chmod a+x glog-0.3.3 -R , 或者索性 chmod 777glog-0.3.3 -R , 装完之后，这个目录就能够kill了。

2. 其它依赖项，确保都成功

$ sudo apt-get install -y libprotobuf-dev libleveldb-devlibsnappy-dev libopencv-dev libboost-all-dev libhdf5-serial-dev

$ sudo apt-get install -y libgflags-dev libgoogle-glog-devliblmdb-dev protobuf-compiler

六: 安装Caffe并測试

1. 安装pycaffe必须的一些依赖项：

$ sudo apt-get install -y python-numpy python-scipypython-matplotlib python-sklearn python-skimage python-h5py python-protobufpython-leveldb python-networkx python-nose python-pandas python-gflags Cythonipython

$ sudo apt-get install -y protobuf-c-compilerprotobuf-compiler

2. 安装配置nVidia cuDNN 加速Caffe模型运算(我们没有安装，由于install.txt中说是针对CUDA6.5)

a. 安装cuDNN

该改版本号caffe-master默认支持cudnn-6.5-linux-x64-v2，使用cudnn-6.5-linux-R1会报错，安装前请去先官网下载最新的cuDNN。

$ sudo cp cudnn.h /usr/local/include

$ sudo cp libcudnn.so /usr/local/lib

$ sudo cp libcudnn.so.6.5 /usr/local/lib

$ sudo cp libcudnn.so.6.5.48 /usr/local/lib

b. 链接cuDNN的库文件

$ sudo ln -sf /usr/local/lib/libcudnn.so.6.5.48/usr/local/lib/libcudnn.so.6.5

$ sudo ln -sf /usr/local/lib/libcudnn.so.6.5/usr/local/lib/libcudnn.so

$ sudo ldconfig –v

3：切换到Caffe-master的目录。生成Makefile.config配置文件。运行：

$ cp Makefile.config.example Makefile.config

4：配置Makefile.config文件（仅列出改动部分）

a. 启用CUDNN，去掉"#"（眼下caffe-master仍然仅仅支持R1版本号）

USE_CUDNN := 1

b. 启用GPU，去掉凝视"#"

# CPU_ONLY := 1

c: 启用Intel ParallelStudio XE 2015 Professional Edition for C++ Linux

BLAS := mkl

5: 配置Makefile文件（实现对OpenCV3.x的支持）

查找“Derive include and lib directories”一节，改动“LIBRARIES +=”的最后一行，添加opencv_imgcodecs

opencv_core opencv_highgui opencv_imgproc opencv_imgcodecs

6: 编译caffe-master！

。！

"-j8"是使用CPU的多核进行编译，能够极大地加速编译的速度，建议使用。

$ make all -j8

$ make test -j8

$ make runtest -j8

建议：在make前。能够用之前的./bandwidthTest等命令測试驱动是否正常！

七：使用MNIST数据集进行測试

Caffe默认情况会安装在$CAFFE_ROOT，就是解压到那个文件夹。比如：$ home/username/caffe-master，所以以下的工作。默认已经切换到了该工作文件夹。以下的工作主要是，用于測试Caffe是否工作正常。不做具体评估。

具体设置请參考官网：http://caffe.berkeleyvision.org/gathered/examples/mnist.html

1. 数据预处理

$ sudo shdata/mnist/get_mnist.sh

2. 重建lmdb文件。

Caffe支持三种数据格式输入网络，包含Image(.jpg, .png等)，leveldb。lmdb。依据自己须要选择不同输入吧。

$sudo shexamples/mnist/create_mnist.sh

生成mnist-train-lmdb 和 mnist-train-lmdb目录，这里包括了lmdb格式的数据集

注：我运行此命令的时候报告说not in gzformat，后来发现是联网下载的mnist数据有问题。然后我就去网上了下载了mnist数据集，后在ubuntu上手动解压的，再运行后面的命令。

3. 训练mnist

$ sudo shexamples/mnist/train_lenet.sh

至此，Caffe安装的全部步骤完结，以下是一组简单的数据对照。实验来源于MNIST数据集，主要是考察一下不同系统下CPU和GPU的性能。能够看到明显的区别了。尽管MNIST数据集非常easy，相信复杂得数据集，区别会更大，Ubuntu+GPU是唯一的选择了。

測试平台1：i7-4770K/16G/GTX 770/CUDA 6.5

MNIST Windows8.1 on CPU：620s

MNIST Windows8.1 on GPU：190s

MNIST Ubuntu 14.04 on CPU：270s

MNIST Ubuntu 14.04 on GPU：160s

MNIST Ubuntu 14.04 on GPUwith cuDNN：30s

Cifar10_full on GPUwihtout cuDNN：73m45s = 4428s　（Iteration 70000）

Cifar10_full on GPU withcuDNN：20m7s = 1207s　（Iteration 70000）

測试平台2：技嘉P35X v3，[email protected]/16G/NVidiaGTX 980 4G

MNIST Ubuntu 15.04 on GPUwith cuDNN：33s

对照測试1：2*E5-2620(12CPUs)/128G/Tesla K20M/CUDA5.5/CentOS 6.4

MNIST CentOS 6.4 on GPU：294s

对照測试2：Tesla K40M/CUDA6.5/ubuntu 14.04

MNIST on GPU with cuDNN：30s

对照測试3：GTX 660/CUDA6.5/ubuntu 14.04

MNIST on GPU with cuDNN：49s

对照试验1是一个不太公平的測试，毕竟性能差非常大，非常可能不单单是由Tesla K20s 和GTX 770带来的。也可能是由于CentOS或者是CUDA5.5(without cuDNN)的影响，但整体上的结论和Caffe官网的 reference performance numbers 一致。对于普通用户：GTX的性价比高非常多。

对照试验2展现了Tesla K40的强大性能，相信对于复杂图像。它应该有更强劲的表现。

（感谢香港城市大学 Ph.D Jingjing、南京理工大学 Ph.D JinLu、华中科技大学 MS LiuMaolin 提供的測试环境和測试数据。）

假设不须要在python和matlab中使用caffe，则不须要安装python和matlab