使用 NCS2 加速推断识别图片

Posted 2021-08-31 ʚVVcatɞ

初始化IE(inference Engine)插件，查询设备支持的代码如下：

ie = IECore()
for device in ie.available_devices:  # 查看有哪些设备支持 OpenVino
    print(device)  # CPU GNA GPU MYRIAD

创建可执行的网络的代码如下：

exec_net = ie.load_network(network=net, device_name="MYRIAD")  #使用神经棒加速推断

目录文件如下

• imagenet_classes.txt：类别文件
• resnet18.bin：权重文件
• resnet18.xml：模型文件

下面是完整代码：

from openvino.inference_engine import IECore
import numpy as np
import cv2 as cv

ie = IECore()
for device in ie.available_devices:  # 查看有哪些设备支持 OpenVino
    print(device)  # CPU GNA GPU MYRIAD

with open('imagenet_classes.txt') as f:
    labels = [line.strip() for line in f.readlines()]

model_xml = "resnet18.xml"
model_bin = "resnet18.bin"

net = ie.read_network(model=model_xml, weights=model_bin)
input_blob = next(iter(net.inputs))
out_blob = next(iter(net.outputs))

n, c, h, w = net.inputs[input_blob].shape
print(n, c, h, w)

src = cv.imread("./messi5.jpg")
image = cv.resize(src, (w, h))
image = np.float32(image) / 255.0  # 归一化
image[:, :, ] -= (np.float32(0.485), np.float32(0.456), np.float32(0.406))
image[:, :, ] /= (np.float32(0.229), np.float32(0.224), np.float32(0.225))
image = image.transpose(2, 0, 1) # 矩阵转置

exec_net = ie.load_network(network=net, device_name="MYRIAD")  #使用神经棒加速推断
res = exec_net.infer(inputs={input_blob: [image]})

res = res[out_blob]
print(res.shape)
label_index = np.argmax(res, 1)[0]
print(labels[label_index])
cv.putText(src, labels[label_index], (50, 50), cv.FONT_HERSHEY_SIMPLEX, 1.0, (0, 0, 255), 2, 8)  # 在图片上写入文本
cv.imshow("image classification", src)
cv.waitKey(0)

原图：

检测结果：

原图：

检测结果：