“逃离”ONNX

Posted 2022-01-06 OneFlow深度学习框架

在 AI 模型的开发过程中，不可避免地会遇到不同算法用不同框架实现的问题。每个深度学习框架各有侧重，针对不同的任务有独特的优化。然而每个框架都有自己独有的格式来存储网络模型，这为深度学习算法的落地带来了一个无法避免的麻烦：在不同框架间进行模型描述格式转换。

2017 年，ONNX 对外发布，希望成为兼容所有格式的中立角色，减少开发者在各个训练和推理框架间切换的代价。然而由于中立这一点又导致了它内部细节无比分裂，想要完美支持全部的 opset 难于上青天。

为了能更好地从 ONNX 上转换到其他各种格式，无数开发者投入其中开发转化工具，比如一流科技（OneFlow）工程师大缺弦开发的 ONNX Simplifier 。然而天下分久必合，合久必分，ONNX 带来的一系列分裂问题让一部分做深度学习落地推理的开发者们痛苦难耐，尝试绕开 ONNX 。

旷视天元 MegEngine 做为一款训推一体的框架，开发出了 Traced Module 这一模型格式，直接从训练粒度的操作进行转换，简单快捷。而无独有偶，nihui 在 ncnn 里开发了 PNNX ，直接从 PyTorch 导出比较干净的高层 OP，简化整体流程。各方「逃离」ONNX的路线有何异同？ONNX 这样的中立模型格式前景如何？

12月18日14:00—15:30，机器之心最新一期线上分享邀请到腾讯优图实验室专家研究员nihui、一流科技工程师大缺弦、旷视天元 MegEngine 工程师许欣然、李相银，共同探讨改进或替代 ONNX 的思路和方法。

分享主题：「逃离」ONNX

分享摘要：为了绕开 ONNX ，旷视天元 MegEngine 开发了 Traced Module， ncnn 的负责人 nihui 开发了 PyTorch 模型部署的新途径 PNNX ，两个思路一致但起点不同的方案有何异同？ONNX 到底有哪些问题让这些方案放弃它？新方案解决了哪些 ONNX 的痛点？ONNX 是否还能重拾它的「口碑」？本次 Meetup 中，来自旷视天元 MegEngine 、ncnn、OneFlow 的工程师将一起探讨这些问题。

Meetup主持人：许欣然，旷视天元 MegEngine 技术负责人

嘉宾介绍：

• nihui，腾讯优图实验室专家研究员，腾讯端侧开源项目 ncnn 负责人

• 大缺弦，一流科技（OneFlow）工程师，ONNX 成员，ONNX Simplifier 开发者

• 李相银，旷视天元 MegEngine 工程师

Meetup 议程：

• 12月18日14:00-15:00：圆桌讨论

• 12月18日15:00-15:30：Q&A

直播间：关注机动组视频号，北京时间 12 月 18 日开播。

交流群：本次直播设有 QA 环节，欢迎加入本次直播交流群探讨交流。

如群已超出人数限制，请添加机器之心小助手：syncedai2、syncedai3、syncedai4 或 syncedai5，备注「ONNX」即可加入。