当英特尔 OpenVINO 遇上微软 Azure，AI在边云协同的新方案

Posted 2022-07-13 CSDN云计算

作者 | 宋慧

出品 | CSDN云计算

数字化浪潮下，越来越多的终端 IoT 设备接入网络，边缘的数据量与分析需求也随之增加。根据 Eclipse 对边缘负载的分析显示，人工智能是边缘计算中占比最高的负载之一，高于控制逻辑、数据分析等负载所占比例。

凭借企业级至强系列处理器，在云计算的基础设施中处于核心位置的英特尔，对于边缘计算领域也一直在不停地积累和实践。现在，芯片巨头英特尔和云领域的巨头微软 Azure 携起手来，一起打造了从边缘到云端的 AI 完整方案，详细了解后，不能不感叹方案的完整与强大。

当 OpenVINO™ 遇上 Azure

 英特尔边缘到云的 AIoT 架构图，囊括英特尔重磅软硬件产品组合

从上面的架构图我们能看到，AI 在边缘和云的方案囊括了英特尔在 CPU、GPU 的硬件产品，软件层面则是英特尔 AI 工具包 OpenVINO™。而微软 Azure 提供了在边缘端和云中心端的资源支持，以及 AI 训练模型，还有数据可视化等能力。

微软 AI 能力的产品矩阵图

另外，从微软的角度，除了 Azure 在云领域的优势，微软 Azure 的机器学习平台 AML（Azure Machine Learning），整合了微软在软件和企业级应用各层的优势，OpenVINO™ 则提供和补充了更丰富的机器学习预训练模型，补充了微软 AML 平台的 AI 实力。最终，微软希望在 AML 平台上，通过自动机器学习、拖放式、代码工具 notebook 等等功能，简化 AI 的使用难度，在软件工程师和数据科学家等专业 IT 人员之外，AI 相关的业务人员也可以成为机器学习平台的重要的使用者。

现在，英特尔的 AIoT 方案已经应用到了医疗、工业、教育、安防等各类重要的行业中。例如中国两癌筛查中的宫颈癌病理筛查方案，将 LBP 涂片识判断数字化、自动化和智能化，平均精度达到 91%-98.6%，漏检率小于 4%。以往人工诊断一张切片平均耗时约 15-20 分钟，基于 Intel Xeon 平台的人工智能诊断耗时约 30 秒/张。再例如工业质检中使用 AI 实时产品缺陷检测，也是完整的云边端架构下，实现每个工位每秒钟采集 400 多张图片，对各类质量问题的检测准确度已经降低到 1PPM 缺陷率之下。在园区或居民区安防的 AI 视频监控，通过肢体特征、运动规律、行为逻辑等 40 多种算法，能处理分析出私闯、闲逛、乱丢垃圾、电瓶车上楼、高空抛物、意外摔倒、打架冲突、撞车、违规停车等等多种异常行为和危险情况。

对开发者友好的 OpenVINO™

从 IoT 领域成长起来的开放视觉推理和神经网络优化工具包 OpenVINO™，是英特尔在 AI 领域的重磅软件产品。而在英特尔与微软合作的边缘 AIoT 方案里，OpenVINO™ 也发挥了重要的作用。

OpenVINO™ 工具包已经适配和支持了多种机器学习平台，以及各类系统和 Intel 自家的 CPU、GPU、VPU 芯片。OpenVINO™ 还有丰富的模型库，自身已有 270 多个预训练模型，另外，OpenVINO™ 和飞桨合作适配的模型已经超过了 400 个。

另外在英特尔开发者生态的大战略下，OpenVINO™ 也切实做到对开发者友好的各类特性和服务。开发者使用 OpenVINO™，甚至可以最少使用七行代码，就能完成一个推理的过程。

机器学习应用深入了各行业，也产生了多种硬件平台共存的情况，OpenVINO™ 最新支持了这类多硬件平台的开发场景，可以自动更换硬件设备。另外，OpenVINO™ 还在持续优化对 GPU 推理的加速，以及对吞吐量和时延要求不同的模型自动选择，以保证推理性能优先。

 OpenVINO Notebook 在 Azure 上的代码示例

另外，OpenVINO™ 也为开发者提供了丰富的代码示例供参考，例如模型优化器、压缩工具，一些常规深度学习场景和图像分类，以及如笔记本外接摄像头等数据采集设备的接入和调试的代码。

英特尔从芯片的绝对领导地位，到现在重申了开发者生态的战略。而本次的从云到边缘的 AIoT 方案，两家巨头的携手，软硬件的联动，共同打磨 AI 在边缘的方案案例，以及大量开发者所服务的特性研发，能看到英特尔在技术创新和开发者生态上切实地投入和探索，值得行业参考与关注。CSDN 也将持续关注和报道人工智能在边缘领域的最新进展与应用实践。