微软推出了Cloud Native Application Bundles和开源ONNX Runtime

Posted 2021-04-30 dotNET跨平台

微软的Microsoft Connect(); 2018年的开发者大会 对Azure和IoT Edge服务进行了大量更新;  以及.NET 基金会会员模型的扩展。但那些只是冰山一角。微软还联合Docker发布了Cloud Native Application Bundle（CNAB），这是一个开源的，云无关的规范，用于打包和运行分布式应用程序。它还免费提供ONNX Runtime，这是一种用于ONNX格式的人工智能（AI）模型的推理引擎。

云原生应用程序包

微软本周发布了CNAB规范(https://cnab.io/)，以及Duffle (https://github.com/deislabs/duffle)，这是一个CNAB客户端的开源参考实现，可以安装，升级，卸载，加密签名和验证CNAB捆绑包的完整性。此外，Microsoft还提供了一个包存储库服务器，一个Visual Studio Code扩展和一个Electron点击式安装程序的示例实现。

Docker是第一个为容器化应用程序实现CNAB的公司。它将作为Docker App的一部分推出，这是一种用于将CNAB捆绑包装为Docker Hub或Docker Enterprise中的管理Docker镜像的新工具。

微软表示：“今天的云不是只在一个运行时系统上运行：它不仅仅是无服务器，或只是Kubernetes，[或]只是虚拟机。每个运行时都有自己的配置工具，Terraform，Ansible，ARM，容器。为了在这种环境中取得成功，开发人员需要一个用于分布式应用程

与Docker合作开发的CNAB是从头开始设计的，可与Docker，Azure，本地运行时环境（如OpenStack，Kubernetes）以及介于两者之间的所有内容一起使用。它允许开发人员定义可部署到平台组合的资源，包括工作站，公有云，离线网络和物联网环境，并将分布式应用程序中的离散资源作为单个逻辑单元进行管理。

此外，CNAB的可扩展体系结构使用户能够对包进行签名，数字验证和附加签名，即使底层技术本身不支持这些功能，也可以控制捆绑包的使用方式。它还支持导出捆绑包及其依赖项，以及在存储库中存储捆绑包以进行远程搜索，获取和安装。

ONNX运行时

微软在开源中提供了大量框架和引擎。第一个是开放式神经网络交换（ONNX）运行时 https://github.com/microsoft/onnxruntime，这是一种用于ONNX格式的机器学习模型的高性能推理引擎。它从今天开始在GitHub上提供，可以自定义并直接集成到现有代码库中，或者从源代码编译，在Windows 10，Linux和各种其他操作系统上运行。

对于不熟悉的人来说，ONNX是一种与平台无关的深度学习模型，可以实现开源AI框架之间的互操作性，例如Google的TensorFlow，Microsoft的Cognitive Toolkit，Facebook的Caffe2和Apache的MXNet。微软，AWS和Facebook在大约一年前于2017年9月联合宣布，它正在由亚马逊，Nvidia，英特尔和AMD等公司进行积极的开发。

也许更重要的是，它得到了更广泛的ONNX社区的支持。英特尔和微软正在合作将nGraph编译器集成为ONNX Runtime的执行提供程序。Nvidia正在帮助整合TensorRT; 高通公司表示支持。它可以在嵌入式设备，Windows和Linux上运行......它极大地简化了开发人员的生活。随着微软开发Azure机器学习服务 - 一个允许开发人员构建，培训和部署AI模型的云平台 - 一般可用并发布Azure认知服务语言理解API的容器化支持，ONNX的推出也随之而来。

---