Ampere 收购 OnSpecta,加速对云原生应用程序的 AI 推理

Posted CSDN云计算

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Ampere 收购 OnSpecta,加速对云原生应用程序的 AI 推理相关的知识,希望对你有一定的参考价值。

安晟培半导体科技有限公司(Ampere Computing)日前宣布收购 AI 技术初创公司 OnSpecta,该收购将助力 Ampere 通过 AI 推理应用程序进一步增强 Ampere® Altra® 的性能。相较于常用的基于 CPU 的机器学习(ML)框架,OnSpecta 深度学习方案(DLS)的 AI 优化引擎可带来显著的性能提升。目前,两家公司已开展合作,在基于 Ampere 的实例上运行了流行的 AI 推理工作负载,并展示了超过四倍的加速。此次收购将包括一个优化的模型集合(model zoo),包含对象检测、视频处理和推荐引擎等功能。

Ampere 创始人、董事长兼首席执行官 Renee James 表示:“很高兴 OnSpecta 团队加入 Ampere。借助他们在深度学习领域的专业积累,Ampere 将推出更强大的推理任务处理平台,提供更低的能耗、更强的性能、更高的可预测性。此次收购也凸显了我们致力于为云和边缘部署的客户提供差异化的云原生计算平台的承诺。”

据 IDC 研究显示,到 2024 年,AI 服务器市场市值预计将超 260 亿美元,年增长率将达 13.7%。在中心和边缘的基础架构中,Ampere 的客户正在寻找解决方案,以管理 AI 推理任务成本和不断增长的需求。DLS 为无缝二进制 drop-in 库,适用于多种 AI 框架,可大幅提升 Ampere Altra 上的推理速度。它支持使用 Altra-native FP16 数据格式,该格式可将 FP32 格式的性能提高一倍,且不会显著降低精度,也无需重新对模型进行训练。

OnSpecta 联合创始人兼首席执行官 Indra Mohan 表示:“本次收购是我们双方通力合作后水到渠成的结果。加入 Ampere 后,我们将进一步助力 Ampere Altra 取得更大的成功,为客户提供关键支持,让 Altra 产品系列更好地用于各种 AI 推理用例。”

Oracle 云基础设施执行副总裁 Clay Magouyrk 表示:“在 Oracle OCI Ampere A1 实例上, Ampere Altra 和 OnSpecta 所展现的强大性能和易用性有目共睹。凭借 DLS 在所有主要开源 AI 框架(包括 Tensorflow、PyTorch 和 ONNX)上的兼容性,以及 Ampere Altra 可预测的性能,OCI Ampere A1 将在 AI 推理工作负载中继续开拓创新。”

依据惯例,此次收购将于 8 月完成,具体交易条款未披露。

以上是关于Ampere 收购 OnSpecta,加速对云原生应用程序的 AI 推理的主要内容,如果未能解决你的问题,请参考以下文章

启明创投合伙人叶冠泰:我对云原生投资趋势的思考 | 云原生加速器观点

128核云原生新力作:Ampere® Altra® Max性能参数公布,提升50%!

华为云发布全新容器技术 加速云原生技术商用进程

押宝云原生,Ampere Computing打响服务器芯片变革关键一枪

基于云原生技术构建的新一代数据中心具有哪些特征?

强强联手,NVIDIA 与 Ampere Computing 重磅推出云原生服务器平台