如何查找 Google COLAB GPU 中的内核数？

Posted 2023-02-23

【中文标题】如何查找 Google COLAB GPU 中的内核数？

【英文标题】：How to find the number of cores in Google COLAB's GPU?

【发布时间】：2021-09-13 10:00:38

【问题描述】：

我想知道 Colab 分配的 GPU 中的内核数量。我使用了!nvidia-smi -q，但它显示了所有其他细节，但没有显示 GPU 的核心数。

我已经研究过它但没有找到它。 关于这个的任何帮助！

【参考方案1】：

简单的方法是运行!nvidia-smi 命令来获取所有 GPU 信息。在那之后您将获得的卡上似乎有 2 个可能的选项 - K80 或 T4，K80 有 4992 个 CUDA 核心，而 T4 有 2560 个 CUDA 核心（发现这使用谷歌）。

如果您仍然需要脚本来确定内核数量，您可以在this answer (python) 和this answer (C) 中找到这些脚本。我仍然建议使用更简单的方法来查找该特定模型的 CUDA 内核。

在旁注中，instances 用户只能获得 5% 的 GPU 内存可供他们访问。我没有遇到过这个问题，但您仍然应该检查 !nvidia-smi 命令中显示的 Volatile GPU Util（0% 是在没有运行时应该预期的值）。