MobileNetv3论文译读笔记

Posted 2022-02-02 songyuc

论文名称

Searching for MobileNetV3

摘要

本文提出了新一代的MobileNets模型，基于互补搜索技术的组合，同时这也是一种新型的架构设计。（实际上就是加入了NAS方法）MobileNetv3是面向移动手机CPU而进行改进的，使用了硬件感知的网络架构搜索方法（network architecture search, NAS），以NetAdapt算法进行辅助，并通过新型的架构改进来进一步提升。本文首先探索将自动搜索算法和网络设计相结合，以利用互补的方法来提高整体先进方法的性能。通过这个过程，本文创造出两种新的MobileNet模型：MobileNetv3-Large和MobileNetv3-Small，分别面向高端和低端资源的用户场景。这些模型之后被用于目标检测和语义分割的任务中。对于语义分割的任务（或其它密集像素预测），本文提出了新的高效分割解码器 Lite Reduced
Atrous Spatial Pyramid Pooling (LR-ASPP)。本文实现了移动端模型分类、检测和分割任务中新的SOTA结果。与MobileNetv2相比，MobileNetv3-Large在ImageNet数据集上精度提升3.2%，同时时延下降20%；与MobileNetv2相比，MobileNetv3-Small精度提高6.6%而时延相近。MobileNetv3-Large在检测上与MobileNetv2精度相当而速度提升25%以上。对于 Cityscapes分割任务， MobileNetV3-Large LR-ASPP比 MobileNetV2 R-ASPP速度提升34%而精度相近。

1. 引言

  高效的神经网络在移动应用程序中逐渐变得无处不在。这些模型还可以很好的保护个人隐私，允许用户从神经网络中获益而不需要将他们的数据发送到服务器去推理。神经网络效率的提高不仅通过更高的精度和更低的时延来提升用户体验，而且还可以通过降低功耗来延长电池寿命。
  本文提出了开发 MobileNetv3-Large&Small的方法，以获得下一代高精度高效率的网络模型，来支持on-device的计算机视觉任务。这种新的网络推动了前沿的发展，并且展示出如何将自动搜索和新型的架构改进相结合，来构建高效的模型。
  本文的目标是通过优化精度-速度均衡，来开发尽可能最优的移动端视觉架构。