渐变在每个服务器上的所有GPU上累积,然后将每个服务器聚合渐变应用于主副本。在所有工作人员这样做后,每个工作人员都会从主副本更新其变量副本。 以下是关于每种方法的更多细节。
服务器渲染(ServerRendering) 服务器端渲染最常见的用例是当用户(或搜索引擎搜寻器)首次请求我们的应用程序时处理初始渲染。
公证服务器配置文件 本文档适用于那些希望指定自定义选项的运行自己的公证服务 概述 公证服务器需要配置文件,并且必须使用命令行中的-config选项指定配置文件的路径。
“PS”代表“参数服务器”:负责存储和更新模型参数的任务。其他任务在更新这些参数时会优化参数。任务之间的这种特殊分工不是必需的,但是分布式培训是很常见的。
两种渲染模式 GPU加速 GPU加速渲染意味着GPU被用于合成。由于该帧必须从需要更高性能的GPU复制,因此该模式比另一个慢得多。这种模式的好处是支持WebGL和3DCSS动画。
我们还提供了该模型的多GPU版本,它演示了: 配置模型以并行训练多个GPU卡。 在多个GPU之间共享和更新变量。 我们希望本教程为TensorFlow上的视觉任务构建更大的CNN提供了一个启动点。
结果是在服务器和移动平台上的速度,内存使用率和可移植性得到了改善。最初,大多数用户不会从XLA中看到很大的好处,但是欢迎您通过使用即时(JIT)编译或提前编译(AOT)的XLA进行试验。
针对GPU进行优化 本节包含一般最佳实践中未涉及的GPU特定提示。在多GPU上获得最佳性能是一项挑战。常用的方法是使用数据并行。
要创建集群,您需要为集群中的每个任务启动一台TensorFlow服务器。每个任务通常运行在不同的机器上,但您可以在同一台机器上运行多个任务(例如,控制不同的GPU设备)。
TensorFlow现在支持一台或多台计算机中的多个设备(CPU和GPU)。 TensorFlow与Python3兼容吗?
<DEVICE_INDEX>是一个表示设备索引的非负整数,例如,用于区分同一进程中使用的不同GPU设备。 您不需要指定设备规范的每个部分。

扫码关注腾讯云开发者
领取腾讯云代金券
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号:粤B2-20090059
粤公网安备44030502008569号
腾讯云计算(北京)有限责任公司 京ICP证150476号 | 京ICP备11018762号
