在 Google Colab 上请求特定类型的 GPU

Posted 2023-03-16

【中文标题】在 Google Colab 上请求特定类型的 GPU

【英文标题】：Requesting a particular type of GPU on Google Colab

【发布时间】：2020-06-03 13:46:15

【问题描述】：

我正在使用 Google Colab 运行一些深度学习代码。

在前几天它可以正常运行，但最近，没有对代码进行更改，我得到了错误：

RuntimeError: CUDA call failed (correlation_forward_cuda at correlation_cuda.cc:80)

Apparently this is an error that can appear depending on the graphics card or system that you are using to run the code.

在 Google Colab 上，我刚刚重新启动运行时并再次尝试了代码。这次它成功了——所以我只是怀疑这取决于运气——取决于你是否获得了兼容的 GPU。

问题是，现在每次我运行代码时，我都会收到错误消息，无论我重新启动运行时或关闭我的笔记本或将运行时类型更改为无然后返回 GPU 多少次 - 我现在总是得到错误信息。

有没有一种方法可以请求特定类型的 GPU？我还不确定是什么类型 - 但肯定有一个版本可以成功运行我的代码。

我的代码甚至需要一段时间才能到达故障点，因此一遍又一遍地运行代码非常令人沮丧，希望有一次它会起作用。

【问题讨论】：

请分享一个能够重现您观察到的错误的独立示例。

【参考方案1】：

您无法选择特定的 GPU。连接到 VM 后，您可以使用以下命令检查分配的 GPU：

!nvidia-smi --query-gpu=gpu_name,driver_version,memory.total --format=csv

如果给定的不是您想要的，您可以在“管理会话”菜单中终止机器（如果按钮不起作用，请刷新页面）。如果幸运的话，再次连接到另一台机器，你将获得你想要的GPU，否则你可以重复这个过程直到那时。

我看到您发布的链接与 DAIN 应用程序有关。我不知道具体案例或者您是否正在尝试执行它，但我在 Colab 上尝试了 DAIN 网络并且只使用了 P1000 和 P4。 T4 和 K80 未能抛出您所指的相同错误。