直到啥时候才能设置 CUDA 设备（主上下文）调度策略？

Posted 2023-03-23

【中文标题】直到啥时候才能设置 CUDA 设备（主上下文）调度策略？

【英文标题】：Until when exactly can I set a CUDA device' (primary context) scheduling policy?直到什么时候才能设置 CUDA 设备（主上下文）调度策略？

【发布时间】：2021-01-19 01:43:37

【问题描述】：

我想为（一个）CUDA 设备的（主要上下文）设置调度策略。

阅读Runtime API guide，我注意到：

如果当前设备已设置且该设备已初始化，则此调用将失败并返回错误cudaErrorSetOnActiveProcess。在这种情况下，必须先使用cudaDeviceReset() 重置设备，然后才能设置设备的初始化标志。

设置当前设备 - 我明白了。但是，设备已“初始化”到底意味着什么？如何避免它被“初始化”？

注意：this 问题是相关的。

【参考方案1】：

这似乎意味着设备的主要上下文的初始化。比如这个

cuDevicePrimaryCtxRetain(&pc, device_id);

应该使您无法再设置策略。这是有道理的，因为对于其他上下文，您也可以在创建上下文时设置一次此类策略。