Pytorch CIFAR10图像分类 Vision Transformer（ViT） 篇

Posted 2022-12-10 风信子的猫Redamancy

Pytorch CIFAR10图像分类 Vision Transformer（ViT） 篇

文章目录

• Pytorch CIFAR10图像分类 Vision Transformer（ViT） 篇
• • 4. 定义网络（ViT篇）
  • • Vision Transformer（ViT）简介
    • Transformer基本原理
    • Attention模块
    • MLP多层感知机（MLP）
    • Transformer Encoder
    • ViT模型的输入
    • 整体构建ViT
  • 5. 定义损失函数和优化器
  • 6. 训练
  • • 损失函数曲线
    • 准确率曲线
    • 学习率曲线