PyTorch笔记 - A ConvNet for the 2020s (ConvNeXt) 论文

Posted 2022-12-16 SpikeKing

欢迎关注我的CSDN：https://blog.csdn.net/caroline_wendy
本文地址：https://blog.csdn.net/caroline_wendy/article/details/128233172

Paper，A ConvNet for the 2020s，FAIR，Berkeley

基于Transformer网络改造ResNet50网络，处理速度更快，准确率更高，无论怎么优化，都保证是卷积网络(Conv)。调参的论文，优化自己的模型，把调参发挥到极致。

ViT用于目标检测和语义分割的效果较差，像素密集。Swin Transformer引入一些卷积的归纳偏置(Inductive Bias)，将标准的ResNet逐渐进行现代化(Modernize)进行改造，引入Transformer的结构。所以是下一代的卷积网络，即ConvNeXt，优于Transformer，即Swin Transformer。探索卷积网络的极限。

1. 背景：当前的情况，Transformer非常好。
2. 动机：卷积网络本身所能达到的效果。
3. 细节：模型的设计方式。
4. 效果：模型的性能表现。

效果：