如何使用nvlink GPU创建Tensorflow会话

Question

我试着用Tensorflow进行推理。我有两个象限my 100的连接通过nvlink和另一个GPU显示在我的桌面上。

创建SessionOptions对象时，需要调用以下命令来设置要使用的GPU：

auto options = SessionOptions();
options.config.mutable_gpu_options()->set_visible_device_list(gpuToUse);

似乎Tensorflow并不认为nvlink‘’ed是一体的，如果我只指定一个gpu来创建一个会话，这似乎否定了nvlink和第二个GPU的好处。

我的问题是，Tensorflow是否能够利用nvlink的双GPU设置？

我使用的是Tensorflow v1.7。非常感谢您的帮助！

Answer 1

简短的回答是肯定的，Tensorflow能够利用NVLINK技术。但是，正如这里所提到的，大多数算法都没有从这一技术中获益。

在一些用例中，NVLINK桥可能会对产生重大的影响。例如，在一些机器学习应用程序中，假设GPU代码被优化以最小化通信，则可以通过跨设备的数据分布来获得并行性。