在分布式Tensorflow中,我们可以运行多个客户端,使用参数-服务器体系结构(称为“图间复制”)中的工作人员。根据文件,
图间复制。在这种方法中,每个/job:worker任务都有一个单独的客户端,通常在与工作任务相同的进程中。
它说,客户端和工作人员通常处于相同的过程中。但是,如果他们不是在同一过程中,客户的数量是否不等于工人的数量?此外,多个客户端可以在同一个CPU核心上共享和运行吗?
发布于 2017-04-09 13:29:28
客户端是定义图形并初始化会话以便运行计算的python程序。如果启动这些程序,则创建的进程表示分布式体系结构中的服务器。
现在,可以编写不创建图形、不运行会话的程序,而只需使用适当的作业名称和任务索引调用server.join()方法。通过这种方式,理论上可以让单个客户端定义整个图并使用相应的server.target启动会话;然后在此会话中,图的部分将自动发送到其他进程/服务器,它们将进行计算(只要您设置了要执行的服务器/任务)。此设置描述了图形复制体系结构.
所以,在同一台只有一个CPU的机器上启动几个服务器/进程基本上是可能的,但是你不会获得太多的并行性,因为多个正在运行的进程之间的上下文切换会减慢速度。因此,除非服务器正在做一些无关的工作,否则您应该避免这种设置。
中间图只意味着每个工作人员将分别拥有自己的客户端和运行自己的会话。
https://stackoverflow.com/questions/43150671
复制相似问题