Tensorflow低GPU利用率

Question

我运行的是Windows10，酷睿i7-8700CPU，gtx geforce 1660 ti GPU。训练模型时，gpu利用率非常低(最大为5-10%，有时更低)。即使是is网络也有五层。另一方面，CPU利用率为30%或更高。

Answer 1

请检查以下各项：

1. CUDA和CuDNN版本匹配。根据统计数据，它很可能在训练时使用CPU而不是GPU。你可以尝试在选项2.
2. 下面看看你的图形处理器是否可用。如果前者得到了解决，你可能想要增加batch_size，以防出现非常小的批处理大小。可能的情况是，TensorFlow会为您的训练预先分配少量的图形处理器。

对于步骤1，为了验证显卡是否可用且已使用，请使用以下几行代码：

import tensorflow as tf
print("Num GPUs Available: ", len(tf.config.experimental.list_physical_devices('GPU')))

tf.debugging.set_log_device_placement(True)

# Create some tensors
a = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
b = tf.constant([[1.0, 2.0], [3.0, 4.0], [5.0, 6.0]])
c = tf.matmul(a, b)

print(c)

打印应包含(与结果一起)以下信息：

在device /job:localhost/replica:0/task:0/device:GPU:0中执行操作MatMul的