- 综合排序
- 最热优先
- 最新优先
- 来自专栏ReganYue's Blog
【玩转 GPU】初探大模型、Stable Diffusion所需GPU配置（根据需求提供不同选择）
初探大模型、Stable Diffusion所需GPU配置（根据需求提供不同选择） 部署Falcon-40B、MPT-30B 和 Stable Diffusion 应该使用哪些 GPU 方案？ 本文将对每一种模型部署所需GPU提供多种方案——性能型、均衡型、经济型。 通过阅读本文，就不必研究市面上所有型号的GPU，并测试判断下面这几种模型能否在选择的GPU上运行。 2 * RTX 6000 Ada（该方案A6000 或 RTX 6000不符合要求） Falcon-40B 经济型 2 * A6000 另外附上对于该大模型其他方案与 Stable Diffusion 经济型 1 * RTX 3090 或 1 * A5000 附表：一些GPU配置需求 场景 GPU配置要求 Nvidia A100s at the time.” ——8k张A100 训练 Falcon (40B) “384 A100 40GB GPUs” 微调大尺寸的大模型
4.3K51编辑于 2023-07-30 - 来自专栏计算机视觉
为什么大模型训练需要GPU，以及适合训练大模型的GPU介绍
文章目录 前言 1、为什么大模型训练需要GPU，而非CPU 2、现在都有哪些合适的GPU适合训练，价格如何 前言 今天偶然看到一篇关于介绍GPU的推文，我们在复现代码以及模型训练过程中，GPU的使用是必不可少的 ，那么大模型训练需要的是GPU，而不是CPU呢。 1、为什么大模型训练需要GPU，而非CPU 总的来说，选择GPU而非CPU进行大模型训练的主要原因是因为GPU在并行处理能力、高吞吐量和针对机器学习任务的优化方面的优势。 下面介绍几款常用的GPU： A100：非常适合大规模并行计算任务和大模型训练，现在用的最多的卡之一，性价比高，1.5w美元左右，但是溢价严重，人民币价格区间10w~20w，运气好的话10w左右可以拿下。 4090：最后再来说一下4090显卡，4090显卡训练大模型不行，因为大模型训练需要高性能的通信，但4090的通信效率太低，但是进行推理可以。价格一般在2w左右。
6.3K11编辑于 2024-04-25 - 来自专栏AI分享
GPU实战：低成本运行多模态大模型
无服务器 GPU 服务结合其弹性扩展和按需付费的特性，为开发者提供了部署多模态大模型的理想平台。本文将从实战角度，探讨如何基于 无服务器 GPU 基础设施，低成本运行多模态大模型。 环境配置与模型部署优化方案弹性GPU计算集群构建（无服务器模式）在 Machine Learning服务中，可通过智能资源调度实现GPU资源的弹性供给。 推荐使用NCv3系列虚拟机（建议选择Standard_NC6s_v3型号，搭载NVIDIA Tesla V100 GPU），该配置在计算性能与成本效益间取得平衡，特别适合大模型推理场景。 在A100 80GB平台实现同时运行4个量化模型实例2。 无服务器 GPU 通过弹性资源、精细化成本控制和多模态工具链，为开发者提供了高效运行大模型的解决方案。
4.5K11编辑于 2025-04-14 - 来自专栏计算机视觉CV
【玩转 GPU】本地部署大模型--chatGLM（尝鲜篇）
本文主要介绍ChatGLM-6B 的本地部署，提供更保姆级别的教程，让完全不懂技术的同学，也能在本地部署大模型～在19年曾经尝试过使用GPT2进行代码补全，当时就被大模型效果惊艳到啊，只是没想到短短3年多 ，大模型效果提升这么快。 学不完，根本学不完....大模型实在太火了，终于还是忍不住对它下手。今天介绍如何在本地部署大模型尝鲜，后面有时间会持续出大模型技术原理篇。 1 大语言模型LLM大语言模型（Large Language Model），是一种人工智能模型，旨在理解和生成人类语言。 以下是NVIDIA A100显存容量的几种配置：40GB HBM2显存：这是NVIDIA A100的最大显存配置，可以提供最高的性能和内存带宽，适用于大规模的深度学习和机器学习任务。
27.5K289编辑于 2023-06-03 - 来自专栏TechLead
为大模型提供服务需要多少 GPU 显存？
在几乎所有的 LLM 面试中，有一个问题总是会被提及：“为大模型提供服务需要多少 GPU 显存？” 当你使用 GPT、LLaMA 或任何其他 LLM 时，了解如何估算所需的 GPU 内存是至关重要的。无论你是在处理一个 70 亿参数的模型，还是更大的模型，正确地配置硬件以支持这些模型至关重要。 让我们深入探讨一下数学计算，这将帮助你估算有效部署这些模型所需的 GPU 内存。 估算 GPU 内存的公式 要估算为大型语言模型提供服务所需的 GPU 内存，可以使用以下公式： M 是 GPU 显存，以 GB（千兆字节）为单位。 P 是模型的参数数量。 × 2 字节（因为使用 16 位精度，即每个参数占用 2 字节） = 140,000,000,000 字节 考虑 20% 的额外开销： 考虑开销的总字节数 = 总字节数 × 1.2
1.7K11编辑于 2024-09-20 - 来自专栏机器之心
消费级GPU成功运行1760亿参数大模型
机器之心报道 机器之心编辑部 在消费级 GPU 上运行大规模模型是机器学习社区正面临的挑战。 例如，BLOOM-176B 需要在 8 个 80GB A100 GPU（每个约 15000 美元）上运行才能完成推理任务，而微调 BLOOM-176B 则需要 72 个这样的 GPU。 该方法不仅为异常值对模型性能的影响提供了新思路，还首次使在消费级 GPU 的单个服务器上使用非常大的模型成为可能，例如 OPT-175B/BLOOM。 这使得 FP16 数字的可表示范围远低于 FP32，面临溢出（试图表示一个非常大的数字）和下溢（表示一个非常小的数字）的风险。 该研究首先在实验中用 2-byte BF16/FP16 半精度代替 4-byte FP32 精度，实现了几乎相同的推理结果。这样一来，模型减小了一半。
1.7K10编辑于 2022-08-25 - 来自专栏AI前沿技术
大模型训练—Nvidia GPU 互联技术全景图
2，GPU和GPU之间的数据流动 2.1，有共享内存参与的GPU-GPU间数据流动： 1）GPU0 通过PCle将显存中的数据，拷贝到系统内存中的固定共享内存。 2）从共享内存通过PCIe总线，将数据拷贝到GPU1显存中。 利用此方案将数据从GPU0传送到GPU1，整个过程发生多次数据拷贝，直观上有些是冗余拷贝。 使用CUDA Toolkit 和driver 就可以支持原生支持P2P技术，进而实现GPU之间直接通信。 GPUDirect P2P 功能和优势？ 如果两个GPU连接到同一PCIe总线，P2P允许每个GPU直接访问自己与对方的GPU显存，而不用通过CPU辅助。即将数据从源GPU拷贝到目标GPU不需要系统内存缓存中间数据。 例如，在训练千亿参数模型时，节点内8个GPU 使用 NVLink P2P同步梯度；节点间通过 RDMA将聚合后的梯度广播到其他服务器。
78711编辑于 2026-01-13 - 来自专栏科学计算
GPU编程2--CUDA核函数和线程配置
CUDA核函数 在GPU上执行的函数称为CUDA核函数（Kernel Function)，核函数会被GPU上多个线程执行，我们可以在核函数中获取当前线程的ID。 gt;>来指定线程索引方式 核函数相对于CPU是异步的，在核函数执行完之前就会返回，这样CPU可以不用等待核函数的完成，继续执行后续代码 核函数不支持可变参数，不支持静态变量，不支持函数指针 线程配置 这是刚刚接触GPU编程最为困惑的地方，到底应该如何去索引GPU的线程？ 首先要对GPU中的基本概念有所了解，可参考另一篇文章《GPU中的基本概念》 在Host端核函数的调用方式为： kernel<<<Dg, Db, Ns, S>>>(param list); 其中， 2行4列 具体排列方式如下图所示，blockidx从0到3，Threadidx从(0,0)到(1,2) ?
4K20发布于 2020-07-06 买不起GPU，玩不起大模型，ChatBI还有戏吗？
从ChatGPT到各类开源大模型，人工智能正从遥远的技术概念，变为触手可及的生产力工具。 我们这些买不起GPU、玩不起大模型的普通企业，是否就此与这场数据分析的革命无缘？答案是否定的。本文将揭示一条更具普适性的路径，证明即便不依赖昂贵的大模型，企业依然可以实现高效、低成本的ChatBI。 根据GeeksforGeeks的硬件推荐，运行大型模型需要配备如NVIDIAA100或RTX4090等拥有海量VRAM的专业GPU，以及高性能CPU、大容量内存和高速存储，整套系统的成本动辄数十万美元。 NL2SQL技术从早期的规则方法演进到基于大语言模型（LLM）的现代方法更关键的是，LLM固有的“幻觉”问题在BI场景中是致命的。BI分析要求结果的绝对准确，一个错误的数据可能导致灾难性的商业决策。 结语：务实的选择，即是最好的选择回到最初的问题：买不起GPU，玩不起大模型，ChatBI还有戏吗？答案是肯定的。
22510编辑于 2026-01-05- 来自专栏新智元
给定计算量，较小模型打败大模型，Llama 2训练与GPU计算关联度
新智元报道 编辑：桃子 【新智元导读】对于固定的计算量，小模型和大模型相比性能如何？ 模型推断时，避免将算力浪费在缓慢收敛上至关重要。 不过，OpenAI最近的一句话暗示着这一假设： 我们期望较大的模型总是比较小的模型表现更好。[…] 大小固定的模型将受到GPU容量限制。 这一假设是OpenAI计算帕累托边界的基础。 Meta本周发布了 LLaMA 2！ 证实「质疑」 同样，Llama 2也公布了模型的训练时间： 一眼望去，我们就会发现训练曲线与LLaMA 1并不一致，即使模型完全相同。 原来，LLaMA 2是在双倍的上下文大小和更长的余弦时间上进行训练的，不幸的是，这对所有大小的模型都产生了负面影响。 不过，较小模型受到的影响比较大模型更严重。 首先，它们比更大的模型更快， 2. 然后，它们放慢速度，被较大的模型超越（根据Chinchilla的说法） 3.
51010编辑于 2023-08-07 - 来自专栏cuijianzhe
配置openstack GPU直通
更新grub，并重启设备：grub2-mkconfig -o /boot/grub2/grub.cfgshutdown -r now[root@ostack-NMCS-001-021 ~]# grub2 这里我们将GPU带的4个设备的驱动都配置成vfio的一个原因是：默认情况下，统一pci端口的不同设备，会被分配到同一个iommu组，同一组的设备，只能同时被分配到一个虚拟机使用。 vfio-pci模块，编辑/etc/modules-load.d/openstack-gpu.conf，添加如下内容：#注意vfio_pci的写法，一旦写错，创建带GPU的虚拟机的时候，可能会无法直通到虚拟机或者非常慢 :2,nv2080bus:2'pci_passthrough:alias是固定格式，标识用alias方筛选pci设备 nv2080vga:2标识2块名为 nv2080vga的设备，多个设备英文逗号隔开以上步骤可以 参考这个文档：使用 GPU 在直通中启动虚拟机时出现问题 - 红帽客户门户 (redhat.com)
4.3K10编辑于 2022-07-22 - 来自专栏Python与算法之美
使用GPU训练模型
单GPU训练，多GPU训练) 本篇我们介绍使用GPU训练模型。 Pytorch中使用GPU加速模型非常简单，只要将模型和数据移动到GPU上。核心代码只有以下几行。 # 定义模型 ... 如果要使用多个GPU训练模型，也非常简单。只需要在将模型设置为数据并行风格模型。则模型移动到GPU上之后，会在每一个GPU上拷贝一个副本，并把数据平分到各个GPU上进行训练。核心代码如下。 《torch使用gpu训练模型》 https://colab.research.google.com/drive/1FDmi44-U3TFRCt9MwGn4HIj2SaaWIjHu? gpu上 net = nn.Linear(2,1) print(next(net.parameters()).is_cuda) net.to("cuda:0") # 将模型中的全部参数张量依次到GPU上
3.5K20发布于 2020-07-22 - 来自专栏云服务业务
如何在腾讯云GPU服务器上部署私有化大模型？附GPU简介
本文讲如何用最低成本在腾讯云上部署专属大模型？首先来了解部署专属大模型前期的工作准备和腾讯云GPU服务器的简介。 服务器配置推荐如下： GPU：NVIDIA T4/A10/A100 CPU：32核以上 内存：64GB以上 软件环境： 操作系统：主流的操作系统如 Windows 10/11、Ubuntu 等都可以用于大模型部署 Python 环境：Python 是大模型开发和部署的核心语言。我们需要安装 Python 3.7 及以上版本。 腾讯云GPU服务器进行大模型部署优势 性能优势 T4/A10/A100等多种GPU配置可选；支持GPU直通，性能损耗极小；网络带宽大，数据传输快速。 四、安全组配置 部署完成后，需要正确配置腾讯云安全组，以确保API服务能够被外部访问： 1. 创建安全组 登录腾讯云控制台；进入【安全组】页面；点击【新建安全组】；选择【自定义】模板。 2.
1.4K20编辑于 2025-09-04 - 来自专栏机器之心
你的GPU能跑Llama 2等大模型吗？用这个开源项目上手测一测
机器之心报道 编辑：陈萍 你的 GPU 内存够用吗？这有一个项目，可以提前帮你查看。 在算力为王的时代，你的 GPU 可以顺畅的运行大模型（LLM）吗？ 因为查看 GPU 可以处理哪些 LLM 并不像查看模型大小那么容易，在推理期间（KV 缓存）模型会占用大量内存，例如，llama-2-7b 的序列长度为 1000，需要 1GB 的额外内存。 ，从而帮助用户选择适合自己的 GPU 配置。 你可以输入 Huggingface 上的模型 ID（例如 meta-llama/Llama-2-7b）。 如果你使用自定义模型或 Hugginface ID 不可用，这时你需要上传 json 配置（参考项目示例）或仅输入模型大小（例如 llama-2-7b 为 70 亿）就可以了。
1.5K40编辑于 2023-10-24 H100 GPU如何加速大语言模型与AI开发
GPU设计用于同时执行不同的计算，从而加速任何大语言模型的训练和推理。此外，GPU能更高效地处理大型数据集和复杂模型，从而推动先进AI应用的开发。多种深度学习算法需要强大的GPU才能高效运行。 H100 PCIe Gen 5 GPUH100 PCIe Gen 5配置拥有与H100 SXM5 GPU相同的功能，但功耗仅为350瓦。 显著特性配备多项先进特性的NVIDIA H100 NVL GPU，为大语言模型的性能和可扩展性进行了优化。 H100 NVL GPU的这些先进特性增强了大语言模型的性能和可扩展性，使其更易于主流使用且更高效。 Transformer引擎和第四代Tensor核心： H100 GPU中的这些先进技术实现了这些惊人的加速，特别是对于大语言模型和合成媒体模型。
37110编辑于 2026-01-15- 来自专栏Soul Joy Hub
【大模型AIGC系列课程 3-2】国产开源大模型：ChatGLM
GLM https://arxiv.org/pdf/2103.10360.pdf GLM是General Language Model的缩写，是一种通用的语言模型预训练框架。 具体来说，GLM通过随机遮盖文本中连续的标记，并训练模型按顺序重新生成这些遮盖的部分。这种自回归的空白填充目标使得GLM能够更好地捕捉上下文中标记之间的依赖关系，并且能够处理可变长度的空白。 这个图示说明了GLM预训练的过程，具体解释如下： a) 原始文本：给定一个原始文本，例如[x1, x2, x3, x4, x5, x6]。 在生成过程中，模型可以根据之前生成的词片段和Part A中的上下文来预测下一个词片段。 d) 自注意力掩码：为了限制模型的注意力范围，
76020编辑于 2023-08-28 - 来自专栏AI SPPECH
42_大语言模型的计算需求：从GPU到TPU
训练计算需求 根据最新研究，训练一个万亿参数级别的大语言模型可能需要： 10,000-100,000个高端GPU/TPU核心 持续训练2-6个月 消耗数十亿度电 计算成本达数千万至数亿美元 推理计算需求 能效比：每瓦性能提升了2-3倍 大规模扩展性：支持数万个GPU的高效扩展 这些性能提升使得训练更大规模的模型和处理更多推理请求成为可能，推动了大语言模型技术的持续进步。 ASIC提高灵活性：通过可配置单元提高ASIC的灵活性 混合架构：结合多种加速器的优势，如CPU+GPU+ASIC的异构系统 这种融合趋势使得不同类型加速器之间的界限变得越来越模糊，也为大语言模型计算提供了更多优化空间 内存墙问题 内存墙是指计算能力增长速度远超内存带宽增长速度的现象，这在大语言模型计算中尤为明显： 计算与内存不平衡：GPU计算能力每1-2年翻一番，而内存带宽增长相对缓慢 数据移动开销：数据在CPU和GPU 异构内存系统 异构内存系统结合了不同类型的存储设备，形成多层次的内存架构： 高速缓存：如GPU的L1/L2缓存，用于频繁访问的数据 主内存：如GPU的HBM内存，用于活跃的模型参数和激活值 扩展内存：如
75610编辑于 2025-11-16 - 来自专栏openclaw系列
OpenClaw怎么换大模型？3步免费切换各种大模型配置教程
一句话总结：OpenClaw 本身不内置任何大模型，而是通过灵活的配置机制对接各类模型服务。更换模型只需三步：选择目标模型获取 API Key、在配置文件中添加模型提供商、重启网关生效。 第一章：核心原理——OpenClaw 如何对接大模型？1.1 为什么需要更换模型？OpenClaw 的核心价值在于“连接”——连接大模型的思考能力与电脑的真实操作权限。 hunyuan-turbo# 临时切换单次对话（不改变默认）openclaw chat --model yuanbao/hunyuan-turbo --prompt "测试"第二章：云端模型配置——接入主流大模型 2.1 腾讯元宝模型配置（推荐中文场景）腾讯元宝基于混元大模型，提供强大的中文理解和多模态能力，2026 年推出免费额度方案，大幅降低使用门槛。 选择更小的量化版本（如从 Q5_K_M 换为 Q4_K_M）选择更小的模型（如从 32B 换为 7B）确保 GPU 驱动正常，CPU 推理会明显变慢调整 Context Window 长度，过长的上下文会消耗大量显存
11.7K43编辑于 2026-03-28 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（2） 】
BERT 量化实战分析前言：在【大模型学习 | 量化实战（1）】-腾讯云开发者社区-腾讯云中基于BERT实现了情感分析系统以及量化的实现，但是量化的结果导致了模型的精确度急剧下降，从90%降到了54%， 未出现截断情况（即分布区域超过量化上下限）、分布近似 scale过大scale的计算如下所示：scale=\frac{max(w)-min(w)}{255} , 个别层的权重有离群值，会导致scale非常大， Sensitive Layers:") for r in results[:5]: print(f"{r[0]:40s} | Acc: {r[1]:.4f} | ΔAcc: {r[2] :.4f}") return results 其他分析方法层级 fallback 到 FP32与敏感性分析相关，该方法是将原模型逐层量化，观察精度下降情况误差传播分析对 float32 模型 和 模型 vs INT8 模型输出差异有多大
78810编辑于 2025-06-27 - 来自专栏大模型成长之路
【大模型学习 | BLIP2原理】
BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models 作者提出一种从离线、梯度冻结的图像、语言模型中提升图文的预训练模型。为了联系两个不同模态预训练模型，作者提出一种使用两个阶段预训练模型Querying Transformer (Q-Former)。 一、预训练方法这种预训练方法分为了两个阶段 （1）视觉语言特征表示学习阶段 （2）视觉到文本的生成学习阶段 1.1 Q-Former主要作用就是对齐两个不同模态的冻结预训练模型 Q-Former包含了两个 transformer子模块：（1）Image Transformer （特征提取） （2） Text transformer (作为文本编码器和解码器) ; 一组可学习的查询嵌入向量作为 Image 作者尝试了两种LLM冻结模型：(1) decoder-based LLMs : query 表征作为 LLM 的输入前缀（prefix） → LLM 自己完成文本生成(2) encoder-decoder-based
1.1K00编辑于 2025-07-01
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号