Pytorch未来之我见

Posted 2021-05-02 奇点

本月初，Caffe2 的 Github 页面突然出现了一个「巨大的改动」：Caffe2 开源代码正式并入 PyTorch，至此，Facebook 主力支持的两大深度学习框架已合二为一。这两大框架，在整个深度学习框架格局中都极受关注。

自 2017 年 1 月发布之后，由于调试、编译等多方面的优势，PyTorch 已经成为很多科研机构首选的深度学习框架；而 2017 年 4 月推出的 Caffe 2 则具有可在 ios、android 和树莓派等多种设备上训练和部署模型的优势。

如果你紧跟 PyTorch 的开发进程，那么你可能会注意到过去几个月这个库有一些改变：

• PyTorch 和 Caffe2 目前会共享 CI，这是非常重要的工程工作。

• PyTorch 和 PyTorch-ONNX 有非常复杂的 CI，onnxbot 触发器构建在每一个 PyTorch PR 上，并以 roundabout 的方式更新。

• 在「pending」状态中有后端研发工作，例如与最新和最重要的库集成（MKLDNN、cuFFT 和更多的 NNPACK 覆盖等）。

作为 PyTorch 和 Caffe2 框架的主要维护者，共享二者通用的工程性内容也就很合理了，例如算子库。

然而，在两个单独的 Github repos 上共享代码很有挑战性（不可去掉的子模块或者子树，Continuous Intergration 变得很难等）。

在协作下，我们把 Caffe2 repo 并入到了 PyTorch 的 github。也就是，如果你用命令 git clone https://github.com/pytorch/pytorch，你可以看到 caffe2 的二进制文件。

作为 PyTorch 用户，你需要知道：并没改变什么，PyTorch 的安装、搭载、使用和往常一样。

其实这并不会意味着我们的代码会失效，这只是开发和后端工程工作。如何你并不是 core-developer，这个问题甚至不会与你有任何关系。此外对于用户来说，我们同样也并不需要关注 protobuf 问题。

关于Pytorch“吞并”Caffe2这件事，我觉得有这样几件事基本可以确认。

第一：语言简洁优美的Python最终还是会获得亿万程序员的芳心

到目前为止所有的深度学习框架已经经历了若干轮的创新和死亡，能够留下来的已经是那些社区活跃，支持人数众多的框架。Tensorflow背后的老大谷歌的实力自不必说，Pytorch能够在这么多的框架中脱颖而出，毫无疑问是把中了“得屌丝者得天下”的这条脉。我也一直坚信，除了那些以自虐和卖弄能力为乐的人之外应该没有人希望把明明可以简单实现的东西做复杂了。

第二：Pytorch将会成为与Tensorflow并驾齐驱的两个强大框架

由于很多不喜欢Tensorflow繁文缛节和复杂逻辑的程序员相继倒戈，Pytorch必将吸引一大批“低端”深度学习的学生客户。毫无疑问，这肯定是好事。你就想想历史上那些类似的事情就能得到基本相同的结论了，复杂的光学相机和数码傻瓜相机相比，性能调节更为自由的手动挡汽车和新手酒后无证的毒驾女司机都可以开的自动挡汽车相比。前者都是貌似功能强劲，适应范围更广，然而都是后者在市场上的占有率一路上升，最后压倒性地战胜前者。

第三：深度学习普及化工作还将迎来一个新的小高潮

如果前两点能够确认，我相信第三点也一定会成为现实。因为Pytorch将会把深度学习变成每个计算机系大学生的玩具。到那个时候深度学习就会是像今天Java、Hadoop、Shell这么具有普及性的技能了。那我们还等什么呢？赶紧出发吧。