谷歌云平台AI笔记本-如何确保GPU被使用？

Question

我正在使用木星在GCP (通过人工智能平台建立简单的方式)从scikit-garden训练一个MondrianForestRegressor。我的数据集大约是450000×300，使用机器进行训练，即使使用并行性n_jobs=-1 (32 CPU，208 32内存)也比我想要的要慢得多。

我附加了一个GPU (2倍NVIDIA特斯拉T4)，重新启动实例，然后再试一次。训练速度似乎不受这一变化的影响。

• 在木星中训练模型时，我需要做些什么来确保GPU确实被使用了吗？
• GPU对基于树的方法甚至有用吗？有文献表明它们是(44)，但我不完全理解是什么使GPU更适合不同类型的算法，除了它们很好地处理巨大的矩阵计算，例如深度学习。

Answer 1

在创建笔记本时，它会分配一个GCE VM实例和一个GPU，为了监视GPU，您应该在每个附加GPU的VM实例上安装 GPU度量报告代理，这将收集GPU数据并将其发送给StackDriver监测。

此外，有两种方法可以实现利用GPU

• 高级Estimator :只要您的ClusterSpec配置正确，就不需要更改代码。如果集群是CPU和GPU的混合物，则将ps作业名称映射到CPU，将工人作业名称映射到GPU。
• 核心TensorFlow API:您必须分配运行在启用GPU的计算机上的操作操作。这个过程与本地使用TensorFlow的GPU是一样的。您可以使用tf.train.replica_device_setter将操作系统分配给设备。

另外，这里有一个关于何时使用GPU而不是CPU的讲课，在这里您可以阅读关于在使用GPU培训时的性能的讲课