出现 CUDA out of memory 的解决方法

Posted 2023-03-14 码农研究僧

目录

• 1. 问题所示
• 2. 原理分析
• 3. 解决方法
• • 3.1 调batch_size大小
  • 3.2 不考虑梯度
  • 3.3 删除无用变量
  • 3.4 kill进程（暴力放弃）
  • 3.5 其他方法

1. 问题所示

运行这段程序的时候出现如下错误：

RuntimeError: CUDA out of memory. Tried to allocate 1.38 GiB (GPU 0; 7.80 
GiB total capacity; 5.94 GiB already allocated<