Pytorch 中的 non_blocking
Posted 怎样才能回到过去
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Pytorch 中的 non_blocking相关的知识,希望对你有一定的参考价值。
Pytorch官方说法是pin_memory=True和non_blocking=True搭配使用,这样能使得data transfer可以overlap computation
如果pin_memory=True的话,将数据放入GPU的时候,把non_blocking = True,这样就只把数据放入GPU而不取出,访问时间会大大减少
以上是关于Pytorch 中的 non_blocking的主要内容,如果未能解决你的问题,请参考以下文章
PyTorch 数据加载器中的“工人数量”参数实际上是如何工作的?