深度学习CNN吃VRAM

Question

我最近开始构建自己的小型深度学习设备，配备了ryzen 53600处理器、32 GPU内存和8gp VRam的RTX2080Super

使用tensorflow处理CNN(这是我的大部分工作)时，我发现大部分VRam几乎立即被占用(7.8 GPU中使用了7.8 GPU)，而GPU利用率约为35%

为了与tesnofrflow v2兼容，我安装了最新的驱动程序并运行了CUDA v10.0。

这对于CNN处理图像来说是正常的吗？我是否应该投资更多的VRam而不是更快的图形处理器(一个多图形处理器系统，有几个使用过的1080Ti或2060超级卡)

有什么想法？

Answer 1

占用GPU的不是你的CNN，而是Tensorflow。默认情况下，Tensorflow会在代码运行之前占用所有可用的GPU内存，即使不需要这些内存。

您可以使用以下代码片段(GPU 0，TF2.*)使Tensorflow只占用所需的内存：

import tensorflow as tf
gpu_devices = tf.config.experimental.list_physical_devices('GPU')
tf.config.experimental.set_memory_growth(gpu_devices[0], True)

set_memory_growth选项阻止Tensorflow保留所有内存。