Adlik和Paddle达成合作意向,共同推进深度学习技术在通信领域落地
Posted Adlik 深度学习推理工具链
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Adlik和Paddle达成合作意向,共同推进深度学习技术在通信领域落地相关的知识,希望对你有一定的参考价值。
近日,深度学习开源推理优化工具Adlik和深度学习开源平台PaddlePaddle的开源开发团队就双方在深度学习推理侧的技术研究和应用进行了深入研讨,并达成了合作意向。
Adlik项目旨在加速深度学习模型部署在各种硬件平台上的推理运行效率。Adlik以各种主流训练框架下训练的深度学习模型作为输入,根据特定的部署环境完成模型编译优化,生成对应的优化推理引擎,减少运行时的时延、能耗。
在深度学习部署于通信领域各场景的过程中,要满足B域、O域、M域等多种复杂的业务需求,不同的吞吐率、时延、资源占用、及适配软硬件基础架构的要求、使模型部署人员应接不暇。Adlik的一大特点就是,它集成了TensorRT, OpenVINO等在内的多种深度学习的推理框架,根据硬件从中自动匹配最佳运行时,并提供统一的模型推理接口。对于部署人员来说,模型部署变得高效而简洁。
PaddlePaddle作为产业级的深度学习平台,除了深度学习模型开发、训练能力之外,也通过Paddle Inference、Paddle Serving、Paddle Lite等不同产品提供了从服务器端到移动嵌入式设备等多种硬件环境的部署能力,并具有业界领先的性能。中兴通讯和百度都是人工智能产业联盟AIIA的会员,借助AIIA联盟提供的交流平台,Adlik和PaddlePaddle在部署方向达成了合作意向。PaddlePaddle在众多硬件上表现出了出色的推理性能,相信将会成为Adlik工具库中的一把利刃,使Adlik在应对通信领域云边端等各种场景的模型优化部署时更加游刃有余。
中兴通讯数据智能平台中心总工程师、Adlik项目负责人韩炳涛说:“期待PaddlePaddle和Adlik在深度学习模型优化、编译、部署等关键技术上展开合作,将成果应用于ORAN,推进标准化进程,加速深度学习技术在通讯领域落地。”
百度深度学习平台高级产品经理王运凯说:“Adlik和PaddlePaddle的合作,是国内开源生态加速建设的具体案例。希望能够与更多的开源项目擦出火花,为中国新基建中的AI产业落地构筑好坚实的基础设施,助力AI赋能千行百业。”
开源是软件的未来,近年来也是AI浪潮滚滚向前的重要驱动力。合作又是开源的未来,开源项目之间的合作将产生更大的合力,构建更开放、更有活力的开源生态。Paddle和Adlik同为国内发起的开源项目,它们之间的合作更加自主可控,有望推动国内开源生态的内循环。
以上是关于Adlik和Paddle达成合作意向,共同推进深度学习技术在通信领域落地的主要内容,如果未能解决你的问题,请参考以下文章
GOLD BULL COIN与General Catalyst海外投资机构达成深度合作意向
OneFlow和寒武纪达成适配,共同推进新一代超大模型训练解决方案
重磅:第九城市Polygon及Protocol Labs达成生态合作,共同推进NFTSTAR平台及GameFi生态建设