我应该在谷歌云平台(GCP)上使用哪个GPU？

Question

现在，我正在研究我的硕士论文，我需要在GCP上训练一个巨大的变压器模型。而培养深度学习模式最快的方法就是使用GPU。因此，我想知道在GCP?提供的GPU中，我应该使用哪个GPU，目前可用的GPU是：

• NVIDIA A100
• NVIDIA T4
• NVIDIA V100
• NVIDIA

H 111NVIDIA P4H 212H 113NVIDIA K 80H 214F 215

Answer 1

Nvidia说，使用最现代化、功能最强大的GPU不仅速度更快，而且最终也更便宜：https://developer.nvidia.com/blog/saving-time-and-money-in-the-cloud-with-the-latest-nvidia-powered-instances/。

谷歌得出了一个类似的结论(这是几年前A100发布之前的情况)：https://cloud.google.com/blog/products/ai-machine-learning/your-ml-workloads-cheaper-and-faster-with-the-latest-gpus

我想你可以提出这样一个论点，Nvidia和Google在做出这一判断时都有一点偏见，但他们也很适合回答这个问题，我认为没有理由不相信他们。