使用GPU部署到GCE的Google Cloud DL Container找不到CUDA设备

Question

我将Pytorch镜像用于GPU: gcr.io/deeplearning-platform-release/pytorch-gpu.1-2:latest.我使用K80和V100 GPU将其部署到GCE上。

import torch
torch.cuda.device_count()
#returns 0

已安装Cuda。当我ssh进入docker容器并在终端上运行以下命令时，我可以看到它。

cat /usr/local/cuda/version.txt
CUDA Version 10.0.130

仅供参考，来自终端的nvidia-smi命令不起作用。我做错了什么？或者是docker镜像有问题吗？

Answer 1

NVIDIA驱动程序似乎未正确安装。请注意，“each version of CUDA requires a minimum GPU driver version or a later version.”要检查您的CUDA版本所需的最低驱动程序，请参阅此链接：Toolkit and Compatible Driver Versions。

您可以遵循此link to install the driver manually。你也可以找到一些libraries that needs to be installed in this link。