回答情况：
提问时间：
问题标签：
2回答
当未显式指定分布式培训时，我找不到关于Sag怪人行为的文档。具体来说，
当通过distribution=‘数据并行’使用SageMaker分布式数据并行时，文档声明每个实例处理不同批数据。
浏览 11提问于2021-12-15得票数 0
1回答
我正在使用MXNet对Caltech 256数据集上的Resnet模型进行细化，如下示例所示：
如果需要，我可以发布我的代码并运行命令。
浏览 4修改于2017-10-03得票数 0
回答已采纳
我想通过使用分布式训练来缩短使用SageMaker内置对象检测算法(实例计数> 1)的训练作业的时间。我试图通过将培训数据分割成多个RecordIO文件而不是仅仅一个文件来做到这一点。这使我相信，该算法不支持通过分布式训练来加快训练时间。我说的对吗？还是有其他方法可以利用多个培训实例来加快培训工作的持续时间？
浏览 2提问于2022-09-12得票数 0
SageMaker内置的LightGBM算法是否支持分布式训练？非常感谢您对此的任何建议或澄清。
浏览 20提问于2022-09-11得票数 0
回答已采纳
我正在使用Tensorflow MirroredStrategy在2个GPU上并行训练神经网络。使用单个GPU时，每个时期需要19秒才能完成，而使用2个GPU时，每个时期需要13秒才能完成。我对此并不感到惊讶，因为我知道由于在训练期间更新变量的all_reduce开销，缩放并不完美。 然而，在分布式训练的每个时期之后，有大约8秒的暂停。当使用单个GPU时，此暂停时间少于1秒。有没有人知道为什么在分发训练时，每个时代之后都会有这么长的停顿？ 或者，有人能解释一下分布式训练
浏览 17修改于2020-07-02得票数 0
我正在跟踪这个页面，以了解SageMaker的分布式培训功能。上面写着：-
SageMaker分布式培训库只能通过TensorFlow、PyTorch和HuggingFace框架的AWS深度学习容器在SageMaker培训平台中使用。这是否意味着我们不能使用SageMaker分布式训练来使用传统的机器学习算法(如线性回归、随机森林或XGBoost )来训练机器学习模型？我有一个用例，其中数据集非常大，和分布式培训可以帮助模型并行和数据并行。为了避免在训练实例的内存中输
浏览 12提问于2022-09-17得票数 -1
我正在尝试弄清楚如何在分布式训练中为tensorflow设置输入管道。目前还不清楚读取器是否会从单个进程读取数据并将数据发送给所有工作进程，还是每个服务器都会启动自己的输入管道？
浏览 0修改于2017-08-07得票数 4
use_gpu=True,run = exp.submit(est) 似乎在使用这种配置的运行中，各个工作人员提出了自己的训练模型实例我需要在Tensorflow训练脚本中处理分布式训练吗？
浏览 21提问于2019-09-13得票数 1
我试图使用ML引擎中的分布式培训作业来训练我的模型(这不是用tf.estimator或tf.keras构建的)。
所以，如果在命令行中提供了前者，是否意味着我不需要对后者做任何事情，因为ML引擎在某种程度上负责在设备之间分发我的图形
浏览 0提问于2018-05-15得票数 3
回答已采纳
我有一个数据科学应用程序，涉及到训练数以万计的小个体高斯模型。所谓“小”，我的意思是，任何单独的模型都可以很容易地在我们的一个工人服务器上训练。事实上，我们应该能够在每一个节点上同时训练几个。我一直在探索与Yarn一起使用Spark，但是Spark似乎真的是为了训练多台机器上的大型模型，而不是包含在单个机器上的许多小型模型。我正在想象一个工作流程，看起来像：将整组数据发送到单个工人机器，报告或保存受过训练的模型。
我需要一些关于如何实现这一
浏览 0修改于2018-09-18得票数 2
回答已采纳
最近，我对将分布式培训整合到我的Tensorflow项目中产生了兴趣。我正在使用Google Colab和Python3来实现一个带有定制的、分布式的训练循环的神经网络，如本指南中所述：
在“创建分发变量和图形策略”部分的指南中，有一些代码的图片，这些代码基本上设置了一个据我所知，输出表明MirroredStrategy只创建了模型的一个副本，因此，只有一个GPU将用于训练模型。我的问题是: Google Colab是否仅限于在单个GPU上进行培训？因此，我预计有可能在Google Colab中并行训练四
浏览 8修改于2020-06-20得票数 5
我目前正在筛选大量关于神经网络分布式训练(反向传播的训练)的材料。我越深入研究这些材料，我就越觉得每一个分布式神经网络训练算法都只是一种结合分布式节点(通常使用平均值)产生的梯度与执行环境的约束(即网络拓扑结构、节点性能相等、.)之间的梯度的一种方法。所有的底层算法都集中在对执行环境约束的假设的挖掘上，目的是减少总体滞后，从而减少完成训练所需的总时间。因此，如果我们只是以某种巧妙的方式将梯度和分布式训练结合起来，那么整个过程训
浏览 0修改于2019-06-30得票数 0
回答已采纳
是否有可能对多个工作人员/服务器进行ML.NET模型的分布式培训/拟合？我有大量的记录与多达10个或更多的功能，我想再培训，但它将需要很长时间来做在一台电脑上。
浏览 4修改于2021-12-29得票数 0
回答已采纳
我正在使用低水平的Tensorflow API作为我的模型培训。当我说低级别时，这意味着我定义了图的tf.Session()对象，并在这个会话中对图进行了计算。我可以使用tensorflow在文档中共享的示例在tensorflow顺序API上使用mirroredstrategy()。我尝试使用distribute.MirrorStrategy()，下面是资源利用的结果：
0 GeForce RTX 2080 Ti区48'C，40 %区1077
浏览 0修改于2021-06-22得票数 2
我想使用Tensorflow高级apis，以分布式的方式在MNIST上训练卷积神经网络。我试图指定集群配置，并将其传递给Estimator (下面的代码)。
浏览 1修改于2017-03-23得票数 0
在参数服务器分布式模式下，我正在使用tensorflow 2.1.0的估值器api训练一个模型。我使用2个ps服务器和5个工作人员(索引范围从0到4)来训练模型。工人0是主任，工人1是评估者，休息的是普通工人。
浏览 10修改于2021-04-02得票数 1
回答已采纳
我有一个要求，使用N1xGPU Spot实例，而不是1xN-GPU实例的分布式培训。
SageMaker分布式培训是否支持GPU Spot实例的使用？如果是，如何启用？
浏览 10提问于2022-09-11得票数 0
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号