深度学习之win10安装配置openvino

Posted 2021-06-17 ZONG_XP

0 背景

众所周知，在 GPU 领域，NVIDIA 的 tensorrt 是一个很好的推理框架，效率和精度都能达到工业部署要求。而在 CPU 领域，也有成熟的推理框架，即 Intel 推出的 openvino。本文对 openvino 的安装配置做一个介绍，在后续的文章中，我会对该框架的使用方法进行详细的介绍。

1 安装步骤

1.1 安装依赖

1.1.1 vs2019

在 Microsoft Visual Studio* 2019 with MSBuild 官网下载安装文件

• （1）转到Visual Studio下载页面。
• （2）点击免费下载的 Visual Studio 2019 社区部分：名为vs_community__581176015.1622262230.exe或类似的可执行文件保存在您的Downloads文件夹中。
• （3）双击可执行文件以启动Visual Studio安装程序。
• （4）在打开的窗口中，单击“ 继续”。Visual Studio Installer配置需要几分钟时间。
• （5）从“ 工作负载”选项卡中，使用复选框选择通用Windows平台开发和使用C ++进行桌面开发。
• （6）在Individual components选项卡下，选择MSBuild：屏幕右侧的安装详细信息显示您的安装选择：
• （7）不做任何其他更改。单击安装。安装开始，大约需要30分钟才能完成。
• （8）如果在安装完成后看到重新启动计算机的提示，请将其关闭。

1.1.2 cmake 3.20.3

我们进入 cmke 官网，下载最新的 windows 版本的安装文件

1.1.3 python3.8

下载链接，安装时要注意将 PYTHON 的环境变量加到 PATH 中

1.2 下载工具包

在官网根据自己的环境信息，下载最新版安装文件，然后双击默认安装即可

安装内容

但是提醒 cmake 没有安装，此时注意不能点击下一步，需要先安装好依赖

 

安装完之后，回到刚才的 warning 界面，点击 Back 回到上一步，重新 Next 检查依赖情况，没有错误时点击 Next 安装，直到安装完成。

1.3 设置环境变量

为了能完整地使用 openvino 软件，需要配置环境变量，官方建议不要使用 Windows PowerShell，而是直接使用系统自带的 cmd 界面，运行 "C:\\Program Files (x86)\\Intel\\openvino_2021\\bin\\setupvars.bat" 文件，如下

但关闭 cmd 终端后，该方法设置的环境变量就会失效，因此需要在系统中设置环境变量，给PATH增加以下内容

C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\ngraph\\lib;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\inference_engine\\external\\tbb\\bin;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\inference_engine\\bin\\intel64\\Release;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\inference_engine\\bin\\intel64\\Debug;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\inference_engine\\external\\hddl\\bin;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\inference_engine\\external\\omp\\lib;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\inference_engine\\external\\gna\\lib;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\deployment_tools\\model_optimizer;
C:\\Program Files (x86)\\Intel\\openvino_2021.3.394\\opencv\\bin;

如图所示

1.4 配置模型优化器

模型优化器 Model Optimizer 是 openvino 工具的核心组件，可以实现不同框架模型到 openvino 的转化，如 TensorFlow、MXNet、Caffe 等，而 openvino 部署时需要 IR 格式的模型，具体包含以下两部分

• .xml 文件：描述网络拓扑结构
• .bin 文件：包含网络权重的二进制文件

而 openvino 推理的过程，就是读取、载入 IR 文件的过程，通过通用 API 在 CPU、GPU 或 VPU 上进行推理。

你可以根据你的需求选择一次性配置支持多种框架（install_prerequisites.bat），也可以选择配置支持某一种框架（install_prerequisites_xx.bat）。直接双击运行所需要的模型框架，会提示安装相关环境

提示如下

至此，完成全部配置