在tensorflow中训练小模型(< 100 mb)时没有足够的GPU内存

Question

在tensorflow中训练小模型(< 100mb)总是占用太多的GPU内存，为什么？如何解决这个问题？

Answer 1

默认情况下，tensorflow可以增长到所有GPU内存的总量。您可以通过为会话设置config来限制它：

gpu_memory_fraction = 0.4 # Fraction of GPU memory to use
config = tf.ConfigProto(gpu_options=
                       tf.GPUOptions(per_process_gpu_memory_fraction=gpu_memory_fraction))                          
sess = tf.Session(config=config)