- 综合排序
- 最热优先
- 最新优先
- 来自专栏罗西的思考
深度学习分布式训练框架 horovod (4) --- 网络基础 & Driver
[源码解析] 深度学习分布式训练框架 horovod (4) --- 网络基础 & Driver 目录 [源码解析] 深度学习分布式训练框架 horovod (4) --- 网络基础 & Driver 具体服务逻辑 5.3 HorovodRunTaskService 0x06 总结 0xEE 个人信息 0xFF 参考 0x00 摘要 Horovod 是Uber于2017年发布的一个易于使用的高性能的分布式训练框架 前面几篇链接如下： [源码解析] 深度学习分布式训练框架 Horovod (1) --- 基础知识 [源码解析] 深度学习分布式训练框架 horovod (2) --- 从使用者角度切入 [源码解析] 深度学习分布式训练框架 horovod (3) --- Horovodrun背后做了什么 0x01 引子 在 horovod/runner/launch.py 文件中，_run_static 函数中使用 0x06 总结 本文总结如下： 因为 Horovod 分布式训练 涉及到多个 hosts，所以如果要彼此访问，需要知道路由信息； 当所有 task 都启动，注册，probe 环中下一个worker 邻居完成
70710发布于 2021-06-21 - 来自专栏罗西的思考
PyTorch 分布式之弹性训练(4)---Rendezvous 架构和逻辑
[源码解析] PyTorch 分布式之弹性训练(4)---Rendezvous 架构和逻辑 目录 [源码解析] PyTorch 分布式之弹性训练(4)---Rendezvous 架构和逻辑 0x00 摘要 弹性训练系列文章如下： [源码解析] PyTorch 分布式之弹性训练(1) --- 总体思路 [源码解析] PyTorch 分布式之弹性训练(2)---启动&单节点流程 [源码解析] PyTorch 分布式之弹性训练(3)---代理 0x01 总体背景 TE 是围绕在 Rendezvous 基础之上的多个elastic agent构成，这是一种功能分离，让我们对比一下看看。 其可以理解为一个分布式治理过程：Rendezvous 被Torch Distributed Elastic用来收集一个训练job的参与者（节点），这样，参与者们可以商议得到参与者列表和每个参与者的角色， 0xFF 参考 云原生的弹性 AI 训练系列之二：PyTorch 1.9.0 弹性分布式训练的设计与实现 PyTorch Elastic源码阅读
2.6K20编辑于 2021-12-28 - 来自专栏罗西的思考
模型并行分布式训练 Megatron (4) --- 如何设置各种并行
[源码解析] 模型并行分布式训练 Megatron (4) --- 如何设置各种并行 目录 [源码解析] 模型并行分布式训练 Megatron (4) --- 如何设置各种并行 0x00 摘要 0x01 Data-parallel 7.1 分组 7.2 如何使用 0x08 模型组 0x09 如何把模型分到GPU 0xFF 参考 0x00 摘要 NVIDIA Megatron 是一个基于 PyTorch 的分布式训练框架 本系列其他文章为： [源码解析] 模型并行分布式训练Megatron (1) --- 论文 & 基础 [源码解析] 模型并行分布式训练Megatron (2) --- 整体架构 [源码解析] 模型并行分布式训练 流水线模型并行应该主要用于支持不适合单个 worker 的大型模型训练。而数据并行应该用于扩大训练规模。 Tensor versus Data Parallelism. 数据并行则在前两者基础之上进行加持，使得训练可以扩展到更大规模和更快的速度。
3.2K10编辑于 2022-05-09 小马哥 Java 分布式架构训练营4期
小马哥 Java 训练营 第四期 Java 分布式架构 - 多活架构多活架构介绍多活架构（Multi-Active Architecture）是一种设计用于提高系统可用性和容错性的架构模式。 小马哥 Java 训练营 第四期 Java 分布式架构 - 负载均衡架构设计负载均衡是多活架构中至关重要的一环，它确保了系统的各个节点能够平衡地处理流量，提高了系统的可用性和性能。 小马哥 Java 训练营 第四期 Java 分布式架构 - Java架构优化Java架构优化是一个持续的过程，旨在提升系统的性能、可维护性、可扩展性和整体质量。 4. 异步与并发异步处理：对于非实时性的操作，使用异步处理来提高系统的响应速度。并发编程：合理使用多线程和并发库，如java.util.concurrent，来提高系统吞吐量。5. 日志管理：合理使用日志系统，如Logback或Log4j，记录关键信息，便于问题排查。10. 资源优化资源管理：优化资源使用，如减少内存泄漏，避免线程资源浪费。
52710编辑于 2024-04-19- 来自专栏计算机视觉理论及其实现
分布式训练代码
Pytorch 分布式模式介绍_Wanderer001的博客-CSDN博客_pytorch 分布式1、分布式训练代码import torchfrom config import Configfrom dataset "output size", output.size()) return outputmodel = Model(input_size, output_size)# 4)
84340编辑于 2022-09-02 - 来自专栏AI算法能力提高班
Pytorch分布式训练
Pytorch分布式训练 Dataset next(iter(dataloader))返回一个batch的数据 , 等价于IterableDataset 可以用 pytorch IterableDataset iterable Dataset 在分布式训练 在分布式时训练中数据并行的时，每块GPU都有一个独立的model和独立的进程(DDP模式)去训练完整数据的子集，在Pytorch中的DDP模式是通过DistributedSampler ()去实现在分布式并行训练时每个模型读取是整个数据集上不同部分，从而避免训练时取数据发生重复。 backend torch提供了NCCL, GLOO,MPI三种可用的后端 CPU的分布式训练选择GLOO, GPU的分布式训练就用NCCL即可 init_method 显式指定init_method， 或者 mp.spawn 启动分布式训练 image-20230817150712701 1 分布式训练数据加载 Dataloader需要把所有数据分成N份(N为worldsize), 并能正确的分发到不同的进程中
1.9K20编辑于 2023-09-13 - 来自专栏torch-detection-学习笔记
Pytorch 分布式训练
基本原则： 用 NCCL 进行分布式 GPU 训练 用 Gloo 进行分布式 CPU 训练 无限带宽互联的 GPU 集群 使用 NCCL，因为它是目前唯一支持 InfiniBand 和 GPUDirect 的后端 无限带宽和 GPU 直连 使用 NCCL，因为其目前提供最佳的分布式 GPU 训练性能。 launch 可用于单节点的分布式训练，支持 CPU 和 GPU。对于 GPU 而言，若每个进程对应一个 GPU，则训练将取得最大性能。 该工具以及多进程分布式训练，目前只有在 NCCL 上才能发挥最好的性能，NCCL 也是被推荐用于分布式 GPU 训练的。 --nnodes 指定用来分布式训练脚本的节点数 --node_rank 多节点分布式训练时，指定当前节点的 rank。 --nproc_per_node 指定当前节点上，使用 GPU 训练的进程数。
3K30发布于 2020-09-07 - 来自专栏Michael阿明学习之路
4. 训练模型
线性模型正则化 4. 早期停止法（Early Stopping） 本文为《机器学习实战：基于Scikit-Learn和TensorFlow》的读书笔记。 中文翻译参考 1. 正规方程求解 先生成带噪声的线性数据 import numpy as np import matplotlib.pyplot as plt X = 2*np.random.rand(100,1) y = 4+ 多项式回归 依然可以使用线性模型来拟合非线性数据 一个简单的方法：对每个特征进行加权后作为新的特征 然后训练一个线性模型基于这个扩展的特征集。 这种方法称为多项式回归。 ，高偏差的模型最容易出现欠拟合 方差：模型对训练数据的微小变化较为敏感，多自由度的模型更容易有高的方差（如高阶多项式），会导致过拟合 不可约误差：数据噪声，可进行数据清洗 3. ElasticNet(alpha=0.1, l1_ratio=0.5) elastic_net.fit(X, y) elastic_net.predict([[1.5]]) # array([4.99822842]) 4.
72840发布于 2021-02-19 - 来自专栏人人都是极客
4.训练模型之准备训练数据
终于要开始训练识别熊猫的模型了， 第一步是准备好训练数据，这里有三件事情要做： 收集一定数量的熊猫图片。 将图片中的熊猫用矩形框标注出来。 将原始图片和标注文件转换为TFRecord格式的文件。 收集熊猫图片倒不是太难，从谷歌和百度图片上收集 200 张熊猫的图片，应该足够训练一个可用的识别模型了。 最后需要将数据集切分为训练集合测试集，将图片文件打乱，然后按照 7：3 的比例进行切分： random.seed(42) random.shuffle(all_examples) 最后还需要一个 label map 文件，很简单，因为我们只有一种物体：熊猫 label_map.pbtxt: item { id: 1 name: 'panda' } 训练一个熊猫识别模型所需要的训练数据就准备完了 ，接下来开始在 GPU 主机上面开始训练。
2.4K80发布于 2018-03-16 - 来自专栏计算机视觉理论及其实现
Pytorch分布式训练错误
main_distribute.py’, ‘–local_rank=1’]’ returned non-zero exit status 1.pytorch DistributedDataParallel训练时遇到的问题
4.6K10编辑于 2022-09-02 - 来自专栏计算机视觉理论及其实现
PyTorch分布式训练简介
PyTorch分布式训练分布式训练已经成为如今训练深度学习模型的一个必备工具，但pytorch默认使用单个GPU进行训练，如果想用使用多个GPU乃至多个含有多块GPU的节点进行分布式训练的时候，需要在代码当中进行修改 ，这里总结一下几种使用pytorch进行分布式训练的方式。 如果是单节点多GPU，将会在单个GPU上运行一个分布式进程，据称可以非常好地改进单节点训练性能。如果用于多节点分布式训练，则通过在每个节点上产生多个进程来获得更好的多节点分布式训练性能。 在单节点分布式训练或多节点分布式训练的两种情况下，该工具将为每个节点启动给定数量的进程（–nproc_per_node）。 至此就介绍完了pytorch的分布式训练的基础内容。
5.3K20编辑于 2022-09-03 - 来自专栏算法私房菜
Tensorflow笔记：分布式训练
前言 对于数据量较大的时候，通过分布式训练可以加速训练。 本文简单介绍了多机(单卡/多卡不重要)情况下的分布式Tensorflow训练方法。 对于分布式训练与单机训练主要有两个不同：1. 如何开始训练；2. 训练时如何进行分工。分别会在下面两节进行介绍。 确认彼此 单机训练直接可以通过一个脚本就告诉机器“我要开始训练啦”就可以，但是对于分布式训练而言，多台机器需要互相通信，就需要先“见个面认识一下”。就需要给每一台机器一个“名单”，让他去找其他机器。 分布式训练的方式分为异步训练和同步训练。 下面我们分别介绍： 2.1 异步分布式训练 我们还是据一个简单的DNN来分类MNIST数据集的例子，脚本应该长这样： # 异步分布式训练 #coding=utf-8 import time import
1.6K31发布于 2021-09-24 - 来自专栏ThoughtWorks
从分布式计算到分布式训练
对于模型训练来说，目前一般会有两种做法： 单机模型训练 分布式模型训练 ---- 单机模型训练 所谓的单机训练，其实就是在一台机器上训练了，对于单机模型训练来讲，瓶颈主要在于提升单机的性能配置，例如不停的提高单个 分布式模型训练 对于单机训练来说，单个GPU，始终会陷入瓶颈，所以对于模型训练，也有人开始尝试，是否可以分布式训练？ 对于目前来讲，模型的分布式一般会有以下几种做法： 数据分布式训练 模型分布式训练 混合训练 ? ? ，将计算描述为一个图，然后再判断图中的哪些计算可以并行运行，分别拆分到不同的节点上进行训练，从而达到分布式训练的效果。 在混合训练中，模型训练会被分散，同时数据也会分散，无论是哪种分布式训练，最终都会涉及一个操作：模型的归一。在目前来说，有不同的做法，可以将模型最终归一，例如集成算法就是逻辑上实现了模型的归一。
1.6K50发布于 2018-04-17 - 来自专栏AI算法能力提高班
DeepSpeed大模型分布式训练
return args Initialization 必须把args, model结构和参数变成deepspeed版本 对于dataloder可以用deepspeed.initialize变成分布式 DistributedSampler 自定义分布式dataloder，注意batch_size定义，分布式的batch_size是指每张gpu上批大小，不开启分布式batch_size指所有gpu的总大小 # 开启分布式 用DistributedSampler if local_rank >= 0: if data_sampler is None: data_sampler = self.data = (x for x in self.dataloader) return self.dataloader Training API 把读取的分布式 loss) model_engine.step() Configuration 定义 JSON file (ds_config.json) { "train_batch_size": 4,
1.3K30编辑于 2023-09-13 - 来自专栏云社区活动
分布式模型训练的利与弊
这时候，分布式模型训练应运而生，为解决资源和计算瓶颈提供了一种高效的路径。然而，分布式训练并非完美无缺，它既带来了新的可能性，也伴随着新的挑战。 今天，我就结合自己的经验，和大家聊聊分布式模型训练的利与弊，并通过代码案例让你更直观地感受这一技术。什么是分布式模型训练？ 分布式模型训练的优点1. 加速训练过程分布式训练的直接收益就是加快了训练速度。例如，将1000张图片的训练任务分配到4台机器上，每台只需要处理250张。对于超大规模模型来说，分布式训练更是不可或缺。 分布式训练能通过模型并行有效解决这一问题，让大模型的训练成为可能。4. 容错性和灵活性分布式训练还可以通过一定的冗余机制提升系统的容错性。 4. 调试困难分布式环境中的Bug往往难以复现，调试过程复杂，需要额外的监控工具和日志系统支持。
41600编辑于 2025-03-18 - 来自专栏IT技术订阅
DeepSeek分布式模型训练详解
随着人工智能技术的飞速发展，大规模预训练语言模型（LLM）逐渐成为研究和应用的热点。DeepSeek作为一款高性能的预训练语言模型，其分布式模型训练技术在业界引起了广泛关注。 本文将从分布式训练架构、关键技术优化、训练过程、模型配置与超参数设置、数据集准备与处理以及训练任务启动等方面，深入解析DeepSeek的分布式模型训练过程。 （二）超参数设置 DeepSeek-V3采用AdamW优化器，预训练阶段最大序列长度为4K，在14.8T token上进行训练。学习率调度采用线性增加、保持和余弦衰减的策略。 （二）任务启动 进入代码根目录并执行相应的脚本命令，启动单台或分布式训练任务。训练任务的启动是训练过程的最后一步，通过执行脚本命令，可以启动模型的训练过程，并在大规模集群上进行分布式训练。 七、总结 DeepSeek的分布式模型训练技术在大规模预训练语言模型的训练过程中发挥了重要作用。
1.4K11编辑于 2025-02-18 - 来自专栏罗西的思考
使用 TensorFlow 进行分布式训练
[翻译] 使用 TensorFlow 进行分布式训练 目录 [翻译] 使用 TensorFlow 进行分布式训练 0x00 摘要 1. 概述 2. 在tf.keras.Model.fit 中使用 4. 在自定义训练循环中使用 5. ] TensorFlow 分布式环境(4) --- WorkerCache [源码解析] TensorFlow 分布式环境(5) --- Session [源码解析] TensorFlow 分布式环境( 就分布式训练架构而言，TPUStrategy 和 MirroredStrategy 是一样的，即实现同步分布式训练。 /distributed_training.ipynb Tensorflow上手4: 初探分布式训练
2.4K21编辑于 2022-05-09 大模型自训练与分布式训练技术前沿
ImportAI 449: 大语言模型训练其他大语言模型；72B分布式训练运行；计算机视觉比生成式文本更难大语言模型能否自主精调其他大语言模型以执行新任务？ 4个模型和7个基准：初始评估在四个模型上运行：Qwen3-1.7B、Qwen3-4B、SmolLM3-3B、Gemma-3-4B。 ***COVENANT-72B：通过分布式训练挑战AI的政治经济学通过区块链进行的分布式训练取得了有意义的胜利一群人利用区块链协调了一个72B参数模型的分布式训练运行，该模型的性能与某机构在2023年发布并训练的 其真正独特之处在于它以分布式方式训练，大约20个不同的对等节点，每个节点运行8块B200 GPU，共同参与训练。 但要做到这一点，分布式训练需要赶上前沿水平——尽管Covenant令人印象深刻，它主要证明了分布式训练可以构建一些具有一定效用但并非最前沿的非平凡模型，而这与当前的前沿水平仍有很大距离——现代前沿模型是在数万到数十万个芯片上训练的
13110编辑于 2026-06-09- 来自专栏罗西的思考
Facebook如何训练超大模型---(4)
[源码分析] Facebook如何训练超大模型 --- (4) 目录 [源码分析] Facebook如何训练超大模型 --- (4) 0x00 摘要 0x01 背景知识 1.1 单精度、双精度和半精度浮点格式的区别 0xFF 参考 0x00 摘要 我们在前文介绍过，微软 ZeRO 可以对一个万亿参数模型可以使用 8 路模型并行、64 路管道并行和 8 路数据并行在 4,096 个 NVIDIA A100 GPU 本系列其他文章如下： [源码解析] PyTorch 分布式之 ZeroRedundancyOptimizer [论文翻译] 分布式训练 Parameter sharding 之 ZeRO [论文翻译] 分布式训练 Parameter Sharding 之 Google Weight Sharding [源码分析] Facebook如何训练超大模型---(1) [源码分析] Facebook如何训练超大模型 因此，在相同的超参数下，使用半精度浮点（FP16）和单精度（FP32）浮点的混合精度训练就可以达到与使用纯单精度（FP32）训练相同的准确率，而且模型训练速度可以大大加速。
2K10编辑于 2022-05-09 - 来自专栏罗西的思考
分布式训练 Parameter sharding 之 ZeRO
[论文翻译] 分布式训练 Parameter sharding 之 ZeRO 目录 [论文翻译] 分布式训练 Parameter sharding 之 ZeRO 0x00 摘要 0x01 综述 1.1 本系列其他文章如下： [源码解析] PyTorch 分布式之 ZeroRedundancyOptimizer 0x01 综述 这部分主要翻译自 DeepSpeed: Extreme-scale model 使用流水线阶段数的 4 倍或 8 倍的梯度累积步骤（以及 batch 大小）进行训练，相较于只有一个流水线阶段分别达到了 81％ 和 90％ 的扩展性。 此外，它还需要保存优化器状态，参数动量和方差的fp32副本，其内存需求分别为4ψ，4ψ和4ψ字节。 让我们使用K来表示优化器状态的内存乘数（multiplier），即存储它们所需的额外内存是Kψ字节。 此外，当 较大时，模型状态的内存需求从4ψ+12ψ=16ψ字节减少到4ψ+ 字节≈ 4ψ字节，导致4x倍数的减少。
1.3K20编辑于 2022-05-09
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号