AIoT的发展路上，英特尔如何通过边缘计算掀起产业变革

Posted 2021-08-12 AI科技大本营

你知道吗？到明年，仅我国的物联网连接规模将达到70亿，而全世界的人口也不过刚刚达到这个数字。物联网的爆发意味着什么？相信每个人都有着不同的答案，对于我国的14亿人口而言，即将全面到来的物联网红利不仅能够让生活变得更加便利，这也意味着海量的机会与创新将会加速到来。

不过，智能设备的急剧增长也并非那样容易。新设备的增加使得边缘层需求趋势越发明显，英特尔公司物联网事业部副总裁、视频事业部全球总经理、中国区总经理陈伟博士表示：“为实现物联网边缘层关键技术的转折点，智能边缘让物联网在边缘具备数据采集、分析计算、通信等关键智能功能，并与云中心形成分布式的有机整体，实现负载的合理分配。”

而为了加速人工智能落地发展，提升边缘计算技术力量。2021年7月7日，2021人工智能峰会暨英特尔&云图睿视AI生态发布会在成都举办。会上，英特尔携手成都云图睿视科技有限公司正式发布最新的算法商城解决方案，并正式揭牌人工智能产业应用研究院，加速成都“立足高新，面向全球”。  

AIoT的鸣奏曲，边缘侧的镇魂音

在2016年，AlphaGo与李世石的一场石破天惊的比赛震惊了全球，而人工智能在各行各业应用的热潮也再次被掀起。但对于业内而言，AlphaGo实际上就是将围棋的棋盘看成了一个19×19的图片，将这一图片送到卷积神经网络中进行处理，来得到下一步行棋策略。卷积神经网络在AI圈内的流行早在2012年就已经开启，而这一技术也确实推动了人工智能，乃至于AIoT产业的加速发展。

当然，在外界看来人工智能的兴起似乎是近10年来才有的事情。但如果你是AI的从业者，你一定会为人工智能半个世纪以来的沉浮而感慨。早在上世纪，人工智能的研究就已经取得了长足的进步，在90年代时，卷积神经网络就已经开始被应用。但是问题在于，人工智能有三大要素的必不可缺的，算法之外，算力和数据缺一不可。而英特尔公司物联网事业部中国区首席技术官及高级首席工程师张宇博士认为，如今人工智能技术能够越来越广泛的应用，尤其是在视频和图像处理领域，其原因一是在算力方面有了极大提升，二是行业有了大量的可供训练的数据，这两个因素是推动本轮人工智能发展浪潮最核心的要素。

算力的升级是肉眼可见的，从超算、云计算到边缘计算，算力的能力在升级，算力的种类也在持续丰富。更多算力的出现使得我们可以在更短时间内完成神经网络模型训练，从而来处理更加复杂的神经网络模型。可以说，算力的升级使得人工智能和商业诉求之间的距离被拉近；数据的升级影响更是全面，从数据的存储、传输到处理技术，我数据和信息的理解能力得到了全面的提升，也因此，此次人工智能的浪潮才会如此的振奋人心。

要说此次人工智能浪潮中受益最多的是哪个领域，物联网可能要当属其中翘楚。张宇博士介绍称，物联网的发展经历了三个阶段，从互联到智能，从智能到自主。智能是阶段主要是用一些事先设计好的网络模型和规则来对数据进行处理；自主主要是指机器人完全可以根据人的意图进行自主性调整，自主地学习。这三个阶段其实就像是物联网领域的“摩尔定律”，AI会在后两个阶段发挥极大作用，因此物联网今后的发展必然离不开人工智能的存在。

人工智能在边缘计算和物联网方面的应用正在变得越来越广泛。边缘计算的推理及算力能够把原本的处理节点实现下沉，降低整体时延，提升处理效率。而成都云图睿视科技有限公司CEO孟莹认为，当前的边缘计算只是雏形，后面的路还很远。包括像自学习、分布式计算、自决策、综合感知等技术都还有待进一步发展。就目前来看，我们需要做的就是推动边缘计算和人工智能应用落地。

在此前，孟莹在参加CSDN访谈的时候也谈到过，任何新技术的推进都来自于海量增加的客户；如果没有，技术就永远都只是一个实验室当中的尖端技术，其很难得到发展。可以说，边缘人工智能的发展才刚刚起步，在技术层面、产业链领域所面临的挑战还需要大家共同面对。因此，构建一个完整的人工智能产业链及标准化工作，对整个行业发展来说至关重要。也正是基于这一原因，英特尔和云图睿视及其他合作伙伴倡导在成都成立人工智能产业研究院，并希望借助这样的一个平台来推动人工智能技术在各行业以及各地域落地、生根、发芽、推广。   

面向AI落地难题，算法商城解决方案推出

人工智能技术看起来一直都很高大上，但越是这样其落地就越成问题。孟莹介绍称，成都有很多本土软件开发商、算法供应商，但他们的境况都很苦。因为算法和软件无法单独落地，最终还是要依赖于算力、解决方案等细分场景领域来落地应用。

而反观英特尔，其在中国市场的AI层面应用拥有多样性、深入性、完整性、创新性和系统发展性。这些特质使得其能够联合中国的本土企业共同把生态链打造完整。早在2019年10月，英特尔就联合云图睿视推出了基于英特尔边缘计算技术的开放式人工智能边缘计算平台。

在7月7日的峰会上， 英特尔还与云图睿视、成都工业职业技术学院、成都种智孵化器管理有限公司共同成立了人工智能产业应用研究院，旨在通过搭建人工智能产业链生态平台推动人工智能技术尽早形成应用于多元化场景的行业应用标准，以更完善的生态推动人工智能产业落地，合力突破“AI落地难”的业界困境。

同时，英特尔还联合云图睿视发布的算法商城解决方案，通过通用算法应用部署的方式，能够极大提升算法模型的部署速度，并帮助算法供应商和算法集成商快速验证算法和业务匹配程度。该解决方案主要包括以下三部分：

人工智能边缘计算终端（AI-Box）：云图睿视AI-Box是基于英特尔第11代酷睿处理器（Tiger Lake）推出的标准算力平台，能够提供通用算法框架支撑。该平台运行于边缘侧，可提供最大4路视频流的实时分析和最大8个算法模型的同时运行。该算力平台同时支持所有主流人工智能框架训练出的算法模型，可快速部署在任何已经安装数字摄像头的场景下，为传统监控提供AI赋能。

 Beacon OS（边缘操作系统）：该操作系统整合了英特尔OpenVINO、SVET等框架，能够为AI运行提供系统级的标准支撑。Beacon OS可支持上层标准化的算法（AI Ability）的标准化加载和运行方式，减少工程化的应用开发工作。同时，Beacon OS还内置了EdgeX等其他丰富的IoT组件，能够支撑摄像头的接入和分析，并支持其他传感器的接入和分析，为场景综合感知提供强大的软件基础。

AI Store（算法商城）：云图睿视最新算法商城解决方案目前已上线并商用。该算法商城不仅是一系列算法模型的集合，还包含一个标准的边缘计算设备管理平台。商城内的所有算法模型均已经过标准化的封装，允许用户在线订阅后通过设备管理平台推动到Beacon OS的边缘计算设备。同时，商城内的所有模型均可直接运行在基于Beacon OS的硬件设备上，无需再次开发。

从商业到赋能，AIoT发展还需更多助力

不论是算法商城、是边缘计算平台或是人工智能产业应用研究院，其核心的目的终究是为了让AIoT这些技术最终能够实现落地，让产业链上的各个企业不再为生存而奔波。在这一过程中，英特尔更多扮演的“赋能者”角色，其通过更多的技术、产品来帮助合作伙伴实现新商业模式的构建，以新的商业模式来推动产业的落地。这其中主要有水平和垂直两种思路，此次发布的算法商城，其能够打造水平化的赋能平台，通过算法商城可以赋能不同垂直行业，让用户可以基于平台选择自己适合的软硬件产品；另一方面，英特尔也在推动人工智能技术在垂直行业的落地。

在水平这条思路上，如何实现技术的打通和接口统一十分重要。尤其是在人工智能框架方面，国外有TensorFlow、Caffe、MXNet，国内有PaddlePaddle等，不同的框架背后可能有不同的硬件适配和支持。为了实现不同框架上的无缝迁移，英特尔在OpenVINO中做的不同人工智能算法平台上的普适性归一化工作。在不同架构上设计和训练好的模型，经过OpenVINO类似编译器的作用转化成一个通用的、标准的内部文件格式，这一文件去适配不同英特尔硬件平台，就可以帮助开发者减少不同框架之间的适配性困扰。

在底层来看，人工智能最底层的运算实际上也是矩阵的乘法运算和加法运算。对于这一类负载的处理，现在大量AI加速芯片开始使用基于硬件加速的矩阵运算单元，因此英特尔提供了像Movidius、VPU等AI加速芯片，从而能够在很低功耗之下完成AI操作。

为了实现不同负载对上层应用支持有统一接口，使开发者在调用底层硬件时能够通过统一接口和编程模型访问不同硬件资源，英特尔打造了OneAPI项目。在OneAPI项目中构建了一个基于标准的、跨架构的编程语言叫DPC++，这也是业界比较公认的跨平台编程模式。英特尔还提供了丰富的函数库，能够支持不同架构的硬件平台。利用OneAPI工具，能够适配到不同架构硬件平台上，降低开发者开发软件的负载。

面向行业这些纵向领域，英特尔以技术赋能者的方式支持了大量的标准化安全技术和安全标准在平台上实现快速、高效的部署和实施。比如在英特尔最新服务器平台上，已经支持SGX技术对内存运行进行保护，而且SGX保护的内存容量在不断增加。这样可以使一些比较大型的人工智能网络模型在解压完运行时，能够通过SGX对其保护，防止黑客或其他一些非法的盗取和使用。

未来的AIoT发展必然是协同的，无论软件、硬件、平台或是生态，单一的功能将会很难实现全面的赋能。因此，负载整合的方式可以让边缘计算、AI的能力通过平台进行产业赋能。对于英特尔而言，其正在通过软件底层工具和参考实现方式，把对硬件使用的心得和最佳实践贡献到平台和操作系统中去。这些解决方案可以涵盖端、边、云各个方面，来用户构建一套端到端的系统。此次英特尔和云图睿视的合作就是整个行业发展背景下的一个缩影，无论AI应用或是边缘计算，未来的发展模式都将充满生机。