Google Colab CUDA内存不足

Question

我正在运行一个colab笔记本“迪斯科扩散”，它是一个文字图像ML阿尔戈。我正在尝试呈现，但是我得到了一个运行时错误：

从记忆中消失了。尝试分配960.00 MiB (GPU0；15.78 GiB总容量；14.11 GiB已经分配；158.75 MiB空闲；14.14 GiB被PyTorch总共保留)如果已分配内存，请尝试设置max_split_size_mb以避免碎片化。请参阅内存管理和PYTORCH_CUDA_ALLOC_CONF文档

现在，如果我渲染的尺寸小，它的工作非常好。我试图升级我的GCE，但我仍然得到同样的错误。

这里是代码：

https://colab.research.google.com/github/alembics/disco-diffusion/blob/main/Disco_Diffusion.ipynb

Answer 1

你用什么GPU来运行笔记本电脑？如果它是一个K80，这可能就是为什么K80有较少的内存。当您也尝试运行笔记本时，它将显示以下警告

笔记本需要高内存，此笔记本是在高RAM运行时环境中编写的，可能需要比在Colab免费版本中分配的资源更多。如果您遇到错误，您可能需要检查Colab Pro。区块报价

我建议使用一个具有更多RAM的GPU，如果可以的话，或者你可以尝试降低图像分辨率。

Answer 2

您将获得以下组合中的此错误：

• 的批处理尺寸太大
• 图像的分辨率太高，使得数据集太大的
• 模型由于输入形状

太重

唯一的解决办法是得到Colab Pro或尝试处理我前面提到的三个问题。