华为云发布GPU共享型AI容器及Istio服务网格

Posted 2021-04-13 华为云

8月28日，“AI上有信仰的云——华为云中国行2018”成都站如期举行。华为EBG中国区行业云拓展部部长胡维琦在主题演讲《做有信仰的云，在创新的路上加速奔跑》中发布了华为云两款全新产品——GPU共享型AI容器和Istio服务网格。这是继裸金属容器、Windows容器等重大特性之后，华为云在容器领域的又一次技术突破，将极大地推动AI技术的普及，助力“普惠AI”策略加速落地，为广大用户提供“用得起、用得好、用得放心”的AI云平台。

华为EBG中国区行业云拓展部部长胡维琦做现场发布

 全球首发GPU共享型高性能AI容器 

 让人工智能触手可及 

当下，人工智能已成为各行各业的热点和趋势，在实际应用中，企业在不断追求各类AI计算场景下性能和成本的极致体验。容器以其独特的技术优势，已经成为业界主流AI计算框架（如Tensorflow、Caffe）的核心引擎。华为云为了进一步解决企业在AI计算性能与成本上面临的问题，为企业量身打造了AI容器产品。

华为云AI容器是全球首款支持共享GPU的高性能容器产品，在业界首家实现了多容器共享GPU资源，大幅降低了AI计算的成本，并在AI计算性能上比通用方案提升了3-5倍以上。

极致性能

裸金属NUMA架构与高速IB网卡，性能提升3-5倍

在典型的深度学习模型训练场景下，需要传输和处理海量的数据。

华为云AI容器运行在高性能的裸金属服务器上，并通过NUMA架构和100G IB网卡实现高速、低延迟的大数据量传输，让GPU充分发挥大规模并行计算的优势，从而大幅缩短训练的时间。经实践验证，深度学习训练对比传统GPU加速方式能够进一步提升3-5倍。

高效计算

GPU资源多容器共享调度，计算成本大幅降低

华为云通过优化K8S容器调度引擎，能够为容器中的AI计算任务分配更细粒度的GPU资源，实现多个AI计算任务共享GPU，在部分AI计算如推理类场景中能够实现更高的资源利用率，从而大幅降低AI计算成本。

成熟应用

主流GPU型号全适配，并在华为云EI产品大规模使用

华为云AI容器已完成多款主流GPU的适配，包括 Nvidia Tesla P4/P100/V100等产品系列，客户可根据不同应用场景灵活选取，以达到最高的性价比。

华为云AI容器支持Tensorflow、Caffe等主流深度学习框架，并在华为云EI的深度学习、推理平台、人脸/图像/文字识别等多个服务得到广泛应用与验证。

 国内首发公有云Istio服务网格 

 让云原生应用治理更简单 

华为EBG中国区行业云拓展部部长胡维琦现场分享到：“在Cloud 2.0时代，容器技术解决了应用快速部署、上线、升级与弹性伸缩等运维效率问题，但应用运行时的灰度发布、流量治理与健康管理等方面仍存在诸多难点。Istio是云原生Cloud Native生态的重要一环，通过提供完整的非侵入式的微服务治理解决方案，能够很好地解决云原生应用的管理、网络连接以及安全管理等应用网络治理问题。”

华为云在云容器引擎CCE中深度集成了Istio最新版本，并在易用性、可靠性、可视化等方面进行了一系列增强。

一键启动，与容器引擎无缝整合

无需用户自行安装，华为云容器引擎CCE已实现Istio的深度集成，只需在创建集群时做一次简单勾选，即可在集群和应用中启用完整的Istio服务网格，实现了开箱即用。

内置多种灰度发布流程，确保应用平滑升级

应用上线后，运维面临的一大挑战是如何不中断业务升级，华为云Istio服务网格内置了金丝雀、A/B Testing等多种灰度发布策略，完美地解决了这一难题。用户还可自定义配置，实现更多复杂流量策略。

图形化应用拓扑，让流量治理可视化

华为云Istio服务网格提供了可视化的流量监控，异常响应、超长响应时延、流量状态信息拓扑等一目了然；同时，结合华为云AOM/APM服务，提供了详细的微服务级流量监控、异常响应流量报告以及调用链信息，实现更快速、更精准的问题定位。

智能路由与弹性流量管理，让流量治理更轻松

华为云Istio服务网格支持根据微服务的流量协议，提供策略化、场景化的网络连接、安全策略管理能力。支持基于应用拓扑对服务配置负载均衡、熔断容错等治理规则，并提供实时的、可视化的微服务流量管理。应用无需任何改造，即可进行动态的智能路由和弹性流量管理。

云容器引擎CCE（Cloud Container Engine）是华为云提供的企业级容器应用管理服务，致力于为客户提供高安全、高可靠、端到端的容器全栈解决方案，完全兼容Kubernetes社区原生应用和工具，大幅简化了云上自动化容器运行环境搭建。

目前AI容器与Istio服务已在华为云的CCE容器服务中开展公测

扫描下方二维码

申请试用

相关链接：

• 
  

• 
  

• 
  

-END-

点击“阅读原文”，了解云容器引擎 CCE！