Cuda 内核代码驻留在英伟达 GPU 上的啥位置？

Posted 2023-04-15

【中文标题】Cuda 内核代码驻留在英伟达 GPU 上的啥位置？

【英文标题】：Where does Cuda kernel code reside on nvidia GPU?Cuda 内核代码驻留在英伟达 GPU 上的什么位置？

【发布时间】：2011-07-04 13:12:04

【问题描述】：

我已经浏览了Cuda programming guide，但仍然不清楚 cuda 内核驻留在 GPU 上的什么位置？换句话说，它驻留在哪个内存段中？

另外，我如何知道我的设备支持的最大内核大小是多少？最大内核大小是否取决于设备上同时加载的内核数量？

【参考方案1】：

指令存储在用户无法访问的全局内存中，但在执行期间会预取到指令缓存中。

最大内核大小在编程指南第 G.1 节中规定：200 万条指令。

【讨论】：

要明确一点，如果两个内核加起来超过 200 万条指令，会有限制吗？例如，它们可以同时执行吗？

那个，我不知道，但我对此表示怀疑。就个人而言，我认为如果您达到指令限制，您应该重新考虑您的内核设计，使其更加模块化。