深度学习Transformer相关知识学习
Posted 超级无敌陈大佬的跟班
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了深度学习Transformer相关知识学习相关的知识，希望对你有一定的参考价值。
CNN和Transformer的区别：
1）CNN卷积归纳偏置对于规模较小的数据集较为有用，但对于较大的数据集(千万级规模数据集)而言，Transformer学习相关模式就足够了，甚至更加有效；
2）CNN提取局部信息，Transformer提取全局信息；
以一个目标检测网络为例，介绍Transformer的结构：
以上是关于深度学习Transformer相关知识学习的主要内容，如果未能解决你的问题，请参考以下文章
[Python人工智能] 三十五.基于Transformer的商品评论情感分析 机器学习和深度学习的Baseline模型实现