日调用量超600亿次，HMS Core HiAI Foundation助力AI应用高效开发

Posted 2022-05-10 华为移动服务

随着新技术的不断演进，人工智能已经广泛地应用到教育、金融、物流、零售、交通、医疗等各个领域。而在AI高速发展的当下，高效开发变得更为重要，如何将创意想法与AI技术深度融合，迅速转化为可落地的AI应用，是开发者在激烈竞争中制胜的关键。

为了助力开发者快速上线AI业务，为消费者提供创新AI体验，HMS Core HiAI Foundation将HiAI 生态中的底层硬件能力开放，为开发者提供了300多个具备业界优质模型兼容性的AI算子，让开发者更简单快捷地应用华为AI能力，快速构建智能AI应用。

此外，HUAWEI HiAI Foundation还推出端云协同、Model Zoo、自主调优工具包、多IP深度协同等多种解决方案和能力，为众多业务场景打造更高性能更低功耗的计算环境，助力开发者快速开发和部署AI应用。

五大性能优势，助力开发者高效灵活开发

• 端云协同：针对新业务场景算子以及已有典型业务场景算子，提供性能优化、快速升级平台能力的解决方案

当前，AI业务和算法模型都在持续快速演进，AI计算平台适配新业务和新算法快速升级成为难题。端云协同具备可变的计算框架、广适的模型结构，助力开发者快速支持新模型、上线新业务，让消费者快速获得端侧AI带来的体验提升。

• Model Zoo：辅助开发者优化模型结构，更好地利用NPU加速优势

开发者在业务开发过程中，为了更大程度利用底层算力，需要针对底层硬件结构做一些模型调整，这个过程可能会出现效率低，资源利用不足的情况。HiAI Foundation打造Model Zoo，将NPU友好的模型结构、Backbone、算子放进去，供开发者自行挑选，辅助其优化模型结构，更好地发挥麒麟芯片NPU的加速优势。

• 模型量化工具包：让开发者的App更快、更小

正常情况下，开发者训练的模型是32bit，这样的模型计算精度固然高，但对手机功耗和内存的要求也比较高。HiAI Foundation为开发者提供模型量化工具包，在满足计算精度的前提下，可以把原始模型直接量化为更小、更轻便且更适合NPU结构的低比特模型，无需开发者做二次调整，从而节省手机空间，降低计算资源的消耗。

HiAI Foundation模型量化工具包

• 网络结构搜索工具包：让网络设计更简单、更有效

网络结构搜索工具包支持多种类型的网络结构搜索任务，包含分类，检测和分割。通过精度，性能目标牵引，协同硬件信息通过最优化搜索算法获得最优的网络结构，得到最佳的性能提升。网络结构搜索工具包支持多种主流训练框架使能，包含：caffe，tensorflow，pytorch。同时针对多种主流硬件平台具有算力和时延建模的能力。

HiAI Foundation网络结构搜索工具包

• 多IP深度协同：各计算单元共用DDR内存，提升性能降低功耗

HiAI Foundation在硬件裸算力开放的同时，还具备硬件底层多IP深度协同的优势。多IP深度协同的好处在于，CPU、NPU、ISP、GPU等各计算IP可以共用DDR内存，最大程度减少IP之间拷贝数据流转的开销，既可提升性能又能降低功耗。

从平台架构来看，HMS Core HiAI Foundation衔接智慧业务和底层硬件能力，上层支持MNN、TNN、华为MindSpore Lite、Paddle Lite、KwaiNN等合作伙伴的框架对接，利用推理加速平台（Foundation DDK）和异构计算平台（Foundation HCL）将AI任务调入NPU/CPU/GPU/DSP等IP中进行计算，赋能手机、平板、智慧屏、车机、手表等终端设备，将更多好玩酷炫的AI应用带到消费者面前。

HiAI Foundation 开放架构

日调用量突破600亿，引领端侧AI行业标准构筑

如今，AI技术在端侧的应用越来越广泛，语音识别、图像识别、图像分割、图像超分、人脸识别、文字识别等已经成为全民通用的技术，消费者期待更好玩的AI应用出现，希望获得更优质的AI应用体验。HiAI Foundation为AI应用开发提供了基础保障，让开发者能够突破性能瓶颈，提高开发效率，节省计算资源，更好地投入到AI玩法的研究与落地中，满足消费者对智慧生活的美好期待。

据统计， HiAI Foundation自2018年开放以来，以高性能、低功耗、高易用性收获越来越多的开发者青睐，短短几年间日调用量从100万+增长到600亿+（数据来自参与体验改进计划的用户）。爱奇艺、美颜相机、抖音、剪映、快手、优酷等头部应用已先后接入HiAI Foundation，利用端侧AI强大的计算能力，为用户打造智能新体验。

HiAI Foundation日调用量突破600亿+

为了助力端侧AI行业繁荣发展，HiAI Foundation在优化平台性能的同时，已加入AI标准化组织AITISA（人工智能产业技术创新战略联盟），并参与端侧AI标准草案撰写，共同构筑AI行业标准，目前该草案已进入标准定稿审核阶段。

更多HiAI Foundation相关信息，请关注5月24日HUAWEI Developer Day（简称HDD）-HiAI Foundation主题演讲，你也可以登录华为开发者联盟官网>HMS Core>HiAI Foundation查看。

了解更多详情>>

访问华为开发者联盟官网
获取开发指导文档
华为移动服务开源仓库地址：GitHub、Gitee

关注我们，第一时间了解 HMS Core 最新技术资讯~