Pytorch 使用了太多资源

Posted

技术标签:

【中文标题】Pytorch 使用了太多资源【英文标题】:Way too much resources are used with Pytorch 【发布时间】:2020-07-22 05:44:56 【问题描述】:

我正在使用 pytorch 来训练 DQN 模型。使用 ubuntu,如果我使用 htop,我会得到

如您所见,所有资源都已使用,我有点担心。 这是我的code。

有没有办法使用更少的资源?我必须使用 pytorch 添加我的要求吗?

请注意,我的机器上没有 GPU,只有 CPU

【问题讨论】:

【参考方案1】:

是的,有。您可以使用torch.set_num_threads(...) 指定线程数。根据您使用的 PyTorch 版本,此功能可能无法正常工作。在这个issue 中了解原因。在那里,您会看到,如果需要,您可以使用环境变量分别通过OMP_NUM_THREADS=?MKL_NUM_THREADS=? 来限制OpenMP 或MKL 线程的使用,其中? 是线程数。

请记住,这些东西预计将在具有数千个内核的 GPU 上运行,因此我只会在非常必要时限制 CPU 使用率。

【讨论】:

以上是关于Pytorch 使用了太多资源的主要内容,如果未能解决你的问题,请参考以下文章

ValueError:pytorch 中的“str”python 维度太多

资源 | PyTorch第一版中文文档发布

深度学习之30分钟快速入门PyTorch(附学习资源推荐)

吐血整理:PyTorch项目代码与资源列表 | 资源下载

Pytorch保留验证集上最好的模型

推荐不可思议的PyTorch:PyTorch教程论文项目社区资源大汇总