attention

Posted 东东就是我

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了attention相关的知识,希望对你有一定的参考价值。

1.attention

https://www.jianshu.com/p/d7f50cc5560e

2.self—attention

https://blog.csdn.net/yujianmin1990/article/details/85221271
https://www.jianshu.com/p/cd5b47e3cce9

3.transform

https://www.jianshu.com/p/b1030350aadb

4.Vision Transformer

https://mp.weixin.qq.com/s/cLPMJm4u67QDsJg0IkmYFQ

5.T2T Vision Transformer

https://mp.weixin.qq.com/s/0ovJfhBU6YEj7wmGehf2kA

以上是关于attention的主要内容,如果未能解决你的问题,请参考以下文章

attention的原理

深入理解再看Attention

[NLP/Attention]关于attention机制在nlp中的应用总结

目前主流的attention方法有哪些?

parallel attention -- AOA &Bi-DAF

CV中的Attention机制易于集成的Convolutional Block Attention Module(CBAM模块)