- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型成长之路
【大模型学习 | 量化】pytorch量化基础知识（1）
.支持INT8量化，可以降低4倍的模型大小以及显存需求，加速2-4倍的推理速度通俗理解：降低权重和激活值的精度（FP32→INT8），从而提高模型大小以及显存需求。 例如将Conv → BN → ReLU, 融合为ConvBnReLU操作流程 内存访问次数计算强度未融合（3个算子）6次 低 已融合（1个算子）2次 高 NVIDA GPU 2.1 对称量化 & 非对称量化⚙️ 区别对称量化（Symmetric Quantization）非对称量化（Affine Quantization）特性 对称量化（Symmetric Quantization notePTQ 是直接对训练后的模型参数进行量化，因此适合于快速部署；QAT是通过插入伪量化节点，在训练过程中模拟量化误差以达到更高的精度，因此需要重新训练。 ⚙️ 区别特性 PTQ（训练后量化） QAT（量化感知训练） 训练阶段仅FP32训练 插入伪量化节点训练反向传播❌ 不支持 ✅ 通过STE支持 精度损失较大（尤其小模型）通常更小
51210编辑于 2025-06-25 - 来自专栏机器学习与统计学
纯离线安装大模型推理引擎，部署量化大模型
大家好，我是 Ai 学习的老章 继续介绍大模型推理引擎+Llama.cpp，前文我写了# 内网部署 llama.cpp，运行量化大模型，详细介绍了 llama.cpp 这个推理引擎，内网离线 cmake 本文我们用个更省事儿的内网离线部署方式——Docker，然后用其部署量化大模型，其中踩坑若干，才有如此精炼、极简教程 1、联网环境拉取 llama.cpp 镜像并保存 选择镜像最好是官方，比如 llama.cpp server-cuda https://github.com/ggml-org/llama.cpp/blob/master/docs/docker.md 市面上有很多个人打包的镜像，大多都是阉割版 费老大劲搞进去，发现大模型无法加载 5、启动大模型 docker run --rm --runtime nvidia -e TZAsia/Shanghai --gpus "device=2" -v /opt/data/ai/GGUF:/models server-cuda -m /models/gpt-oss-20b-F16.gguf --port 8000 --host 0.0.0.0 -c4096 -n 1024 -ngl 999 可以看到已经启动成功 6、
1.3K10编辑于 2025-10-11 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（1）】
axis=1) return {"accuracy": accuracy_score(p.label_ids, preds)} print(encoded_dataset["train"]) # 6. original_model = AutoModelForSequenceClassification.from_pretrained(model_name).to('cuda') # 2. 8-bit量化加载模型 加载原始模型 model_name = ". 将模型移到 CPU（Eager 模式量化推荐在 CPU 上执行） model.to('cpu') # 3. （存在bug） 目前的这种量化方式还有bug存在，并且还找不到错误，希望有大哥帮助一下，主要的问题是模型可以成功量化，但是量化后的模型推理时会报错误,而且量化结果的大小也很奇怪：Original BERT
98710编辑于 2025-06-27 - 来自专栏AI工程落地
大语言模型--KV Cache量化论文
论文地址：[2402.02750] KIVI: A Tuning-Free Asymmetric 2bit Quantization for KV Cache (arxiv.org) 谷歌学术被引数：6 使用高精度 5.再反量化后增加了一个Qnorm算子 6.per vector检测异常值，并对异常值做特殊处理 GEAR: An Efficient KV Cache Compression Recipe for Large Language Models Gains More 论文地址：https://arxiv.org/html/2402.12065v2 谷歌学术被引数：6 研究机构：哈尔滨工业大学（ 这类特定词元上的离群值会导致LLM将大量的自注意力得分分配到这些词元上 2.先使用全精度模型生成关键词元的无损KV cache并将其缓存下来（i.e., IntactKV），量化模型在推理时就能直接使用无损的关键词元表征 ，从而有效提升量化模型精度。
1.7K10编辑于 2024-07-18 - 来自专栏大模型成长之路
【大模型学习 | BERT 量化实战（2） 】
BERT 量化实战分析前言：在【大模型学习 | 量化实战（1）】-腾讯云开发者社区-腾讯云中基于BERT实现了情感分析系统以及量化的实现，但是量化的结果导致了模型的精确度急剧下降，从90%降到了54%， 为此，在本章中，尽可能的分析导致量化后模型精度下降的原因上期问题 在量化过程中，发现无法采用export量化，但是 Eager Mode 成功了， Eager Mode 只对线性层进行了量化，而没有对 量化分析方法为了进一步的优化量化模型，可以从以下方法进行分析： Calibration Range 分析 逐层敏感性分析 层级 fallback 到 FP32 误差传播分析 具体样本误差对比 Calibration ）、分布近似 scale过大scale的计算如下所示：scale=\frac{max(w)-min(w)}{255} , 个别层的权重有离群值，会导致scale非常大，严重丢失精度。 ，观察精度下降情况误差传播分析对 float32 模型 和 量化模型，输入相同的样本；逐层提取中间层输出；对每层输出计算误差（如 MSE、Cosine 距离等）；画出误差随层数变化的曲线 → 看是否有层明显放大了误差
78810编辑于 2025-06-27 - 来自专栏Java技术进阶
基于LMDeploy部署大模型和量化
背景 大模型具有庞大的参数量，内存开销大，7B模型仅权重就需要14+G内存，采用自回归生成token，需要缓存Attention 的k/v带来巨大的内存开销；动态shape，请求参数不固定，Token逐个生成 包括模型轻量化、推理和服务。 列并行 行并行 简单来说，就是把一个大的张量（参数）分到多张卡上，分别计算各部分的结果，然后再同步汇总。 我想直接在自己的 Python 项目中使用大模型功能。推荐使用 TurboMind推理 + Python（2.5）。 我想在自己的其他非 Python 项目中使用大模型功能。 3 模型量化 本部分内容主要介绍如何对模型进行量化。主要包括 KV Cache 量化和模型参数量化。总的来说，量化是一种以参数或计算中间结果精度下降换空间节省（以及同时带来的性能提升）的策略。
2.5K00编辑于 2024-03-01 - 来自专栏AI SPPECH
54_模型优化：大模型的压缩与量化
深度解析大模型瘦身技术与工程实践 大模型优化技术演进 ├── 早期阶段(2018-2020): 基本剪枝、8位量化，性能损失明显 ├── 发展阶段(2021-2023): 知识蒸馏、结构化剪枝，平衡效率与精度 本文将深入剖析大模型压缩与量化的核心技术、最新进展及工程实践，探讨如何通过创新技术让大模型在保持高性能的同时实现轻量化部署，为企业和开发者提供全面的技术指导。 本文核心要点 要点 描述 互动思考 量化技术 从FP32到INT4的精度优化策略 你在部署中最常使用哪种量化方式？ 知识蒸馏 小模型如何继承大模型能力 蒸馏过程中的最大挑战是什么？ 转换为量化模型 model_quantized = torch.quantization.convert(model_prepared) # 6. GPTQ - 大模型量化工具 针对大型语言模型的量化方法 支持INT4/INT8精度量化 保持较高的生成质量 与流行的LLM框架兼容 2.
82210编辑于 2025-11-16 - 来自专栏机器学习与统计学
量化大模型，本地部署，效果不打折
大家好，我是 AI 学习的老章 Unsloth 出圈是 DeepSeek-R1 爆火的时候，它发布了最小 1.58 位量化版本的 R1，把 DeepSeek-R1 这个非常大的模型（它有 6710 亿个参数 Unsloth 秘密武器是动态量化，核心思路是：对模型的少数关键层进行高质量的 4-6bit 量化，而对大部分相对没那么关键的混合专家层（MoE）进行大刀阔斧的 1-2bit 量化。 ”： 将重要的层保留为 8 或 16-bit，非重要层则压缩至 1、2、3、4、5 或 6-bit。 结论 Unsloth 的动态量化技术证明，通过智能的、非均匀的量化策略，我们可以在大幅压缩模型体积的同时，保持甚至超越 SOTA 模型的性能。 对于追求本地化、低成本部署高性能模型的用户来说，Unsloth 的动态量化模型无疑是当前最值得关注的方案之一。
53510编辑于 2025-11-29 - 来自专栏奇点大数据
话说量化（6）
你想，咱们今天的人出门能不带钱包就不带钱包，能用大纸票就不用钢镚……古代人得多痛苦，买个什么东西动不动带着几斤的金银出去买东西，如果走远路那就又费劲儿又不安全。
40030发布于 2018-10-23 - 来自专栏机器学习、深度学习
模型量化
下图显示不同量化策略对速度的提升影响 ? 量化卷积过程 ? 加速策略： AND, XOR and bitcount operations 训练过程 ? 分类性能对比 ?
88110发布于 2019-05-26 - 来自专栏GiantPandaCV
AffineQuant: 大语言模型的仿射变换量化
量化是一种有效的方法，通过将权重和激活映射到低比特表示来实现。 然而，量化经常会带来性能损失，尤其是在模型较小或使用低比特设置时。 因此，后训练量化（PTQ）成为了一种受到关注的策略，它允许在不进行模型重训练的情况下进行优化，但这需要巧妙地处理量化过程中的误差和信息损失。 方法 3.1 AffineQuant AffineQuant 是一种利用仿射变换来优化后训练量化（PTQ）的方法，它在大型语言模型（LLMs）中应用，以减少量化误差并保持模型性能。 通过这种方式，AffineQuant 不仅能够减少模型在量化后的性能损失，而且能够扩展模型在边缘设备上的应用，为大型模型的部署提供了新的可能性。 维持或提升量化后的模型性能： 如表格所示，即便在较低的位宽（例如4/4位量化）下，AffineQuant方法在多个性能指标上仍然优于或接近全精度模型的表现，显示出较好的量化抗性和模型鲁棒性。
85510编辑于 2024-05-13 - 来自专栏DeepHub IMBA
大语言模型量化方法对比：GPTQ、GGUF、AWQ
分片 在我们进入量化策略之前，我们先介绍一个前置的方法：分片。通过分片可以将模型分割成小块，每个分片包含模型的较小部分，通过在不同设备上分配模型权重来解决GPU内存限制。 虽然它没有任何的压缩和量化，但是这种方法算是一个最简单的加载大模型的方案。 比如Zephyr-7B-β，实际上已经分片了! 4GB的分片 量化 大型语言模型由一堆权重和激活表示。 预量化(GPTQ、AWQ、GGUF) 我们已经探索了分片和量化技术。但是量化是在每次加载模型时进行的，这是非常耗时的操作，有没有办法直接保存量化后的模型，并且在使用时直接加载呢？ 但是如果你的GPU无法处理如此大的模型，那么从GPTQ开始切换到以cpu为中心的方法(如GGUF)是绝对值得的。
12.9K71编辑于 2023-11-20 - 来自专栏机器之心
字节开源大模型量化新思路，2-bit量化模型精度齐平fp16
随着深度学习大语言模型的越来越火爆，大语言模型越做越大，使得其推理成本也水涨船高。模型量化，成为一个热门的研究课题。 背景 大模型的迅速发展，使得推理成本越来越高。模型量化，作为一个降低推理成本的技术方案，得到了越来越多的关注与研究。然而，在传统的量化范式下，模型的精度在极低比特下会迅速下降。 我们将一个大模型量化完毕以后，交付给下游引擎同学的时候，只需要知道 (3) 式中的 和 (s,z) 即可。 进一步挖掘 (3) 式中，我们可以将一个大模型的参数，解耦 (decouple) 成整数部分 和浮点部分 (s,z)。 事实上，优化目标函数 (6) 与 (4) 是完全一致的， 就是反量化过程。 将一个量化问题转化为形如(5)式的数学优化问题，正是 decoupleQ 区别于传统量化论文的关键所在。
1.2K10编辑于 2024-05-14 - 来自专栏大模型&AIGC
6种大模型微调技术
值得一提的是，通过使用T5模型进行模型大小的消融实验，我们展示了提示微调随着规模的增加变得更加具有竞争力：当模型参数超过数十亿时，我们的方法“缩小了差距”并达到了模型微调（即调整所有模型权重）的强大性能 input和target，则使用原始的input embedding(5) 使用方式离散和连续template token混合时，显示地插入一下anchor（离散的token）有助于template的优化(6) ，无需verbalizer(4) 特点在小、大模型上，效果均优于P-tuning。 当参数量达10B，效果相当于FT6.LoRA（2021）(1) 论文信息来自论文：《LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS》（2）摘要自然语言处理的一个重要范式包括在通用领域数据上进行大规模预训练 Model)，学习目标为而加入LoRA后，学习目标为：(6) 配置在多个部位$(Q/K/V/Output)$同时添加$\bigtriangleup W$ ，会比只在单一部分上添加权重$\bigtriangleup
2.6K00编辑于 2025-05-08 - 来自专栏OpenMMLab
6G显存玩转大模型，更快更省的4bit量化推理硬核开源！
LMDeploy 推出了 4bit 权重量化和推理功能啦。 /lmdeploy，直接下载 4bit 模型。 huggingface.co/lmdeploy/llama2-chat-7b-w4 或者，根据文档 https://github.com/InternLM/lmdeploy#quantization，一键式把模型权重量化为 profile_throughput.py，在A100-80G 上分别测试 4bit 和 16bit Llama-2-7B-chat 的 request 处理速度，对照结果如下： 最后 除了 4bit 权重量化 ，LMDeploy 还支持了 k/v cache int8 量化。
2.2K20编辑于 2023-08-21 - 来自专栏为了不折腾而去折腾的那些事
CPU 混合推理，非常见大模型量化方案：“二三五六” 位量化
看过前两篇文章《零一万物模型折腾笔记：官方 Yi-34B 模型基础使用》、《本地运行“李开复”的零一万物 34B 大模型》的同学知道，类似 34B 的模型，如果想不怎么量化直接跑起来，大概需要 76～85GB 如果我们进行效果损失比较小的 8 位量化，那么也需要 46GB 左右，如果是 4 位量化模型，那么也需要 21GB 左右的显存。 虽然模型能跑了，但是有可能模型效果“打了骨折”。 准备材料 关于模型量化需要准备两个素材，一个是模型，另外一个是量化使用的计算设备。 量化使用的硬件 而量化模型使用的硬件，需要 CPU 计算能力相对强一些的机器，如果你有 GPU，那么将会极大的提升模型量化速度，如果没有也没有关系。 但如果，我们希望制作更多其他的不同的类型的模型，比如 2 位量化～ 6 位量化，那么我非常建议大家使用 convert.py 脚本制作和转换一个 f16 类型的 GGML 模型。
2.1K20编辑于 2023-12-12 - 来自专栏计算机视觉战队
量化新方法 | 模型压缩6倍，无需重训练
神经网络权值的最优离散表示的解析估计，以及所获得的模型中误差概率的公式。 将参数x0从0到1，并将位数从2改为6。 在表1和表2中收集了获得的结果，并在图3和图4中显示了它们。 ? ? ? ? ? 在上图中，给出了神经网络离散化的过程。 应特别注意倒数第二排。 但是，计算机模型只有有限的模型容量和存储空间。为了处理大量数据，这一领域的研究者必须发明各种方法来降低对模型能力的需求，包括所谓的量化。这有助于减少资源消耗，但需要对系统进行重新训练。 训练之后，该网络会使用新方法进行量化，并且不进行重新训练。然后，该研究将实验结果与其他量化算法进行了比较。 RUDN 大学的 Iakov Karandashev 补充说道：「量化之后，分类准确率仅降低了 1％，但是所需的存储容量减少了 6 倍。
92710发布于 2021-03-13 - 来自专栏为了不折腾而去折腾的那些事
CPU 混合推理，非常见大模型量化方案：“二三五六” 位量化
看过前两篇文章《零一万物模型折腾笔记：官方 Yi-34B 模型基础使用[1]》、《本地运行“李开复”的零一万物 34B 大模型[2]》的同学知道，类似 34B 的模型，如果想不怎么量化直接跑起来，大概需要 准备材料 关于模型量化需要准备两个素材，一个是模型，另外一个是量化使用的计算设备。 但如果，我们希望制作更多其他的不同的类型的模型，比如 2 位量化～ 6 位量化，那么我非常建议大家使用 convert.py 脚本制作和转换一个 f16 类型的 GGML 模型。 -34b.html [2] 本地运行“李开复”的零一万物 34B 大模型: https://soulteary.com/2023/11/26/locally-run-the-yi-34b-large-model-of-kai-fu-lee.html 96%87%E4%BB%B6 [5] 尝试对模型进行几种不同的量化操作: https://soulteary.com/2023/12/10/notes-on-the-01-ai-model-basic-use-of-the-official-yi
1.6K10编辑于 2023-12-14 - 来自专栏澜舟科技 NLP
大模型轻量化实践路径 之 澜舟孟子预训练模型
在上周发布的《一文看懂预训练最新进展》中，澜舟科技创始人兼 CEO 周明和澜舟科技大模型技术负责人王宇龙分享了大模型技术发展背景和近期百花齐放的大模型及新应用、新趋势。 本文继续为大家深入介绍“大模型轻量化”趋势以及澜舟的 5 个实践路径。以下内容根据澜舟科技算法研究员华菁云在「澜舟NLP分享会」演讲整理。全文约 4800 字，预计阅读时长 6 分钟。 如图 1 右侧所示，训练一个大模型代价是巨大的，GPT-3 训练需要 460 万美金，此外，大模型落地部署的代价也极大，在工业界实际应用中不得不考虑部署的成本。 我们的轻量化技术结合了模型蒸馏、剪枝和量化，将大模型进行压缩得到轻量化模型，显著提升模型推理速度，改善用户体验。3.1 蒸馏图片不同的落地业务（如：在线业务，离线业务），对模型有不同尺寸需求。 图片在结构化剪枝的同时，我们结合量化技术进一步实现推理速度的优化，结果显示在 4 核 CPU 设备上，结合量化+剪枝的方案可加速约 6 倍（ 如图 10 右下角柱状图所示）。
1.9K10编辑于 2022-07-29 - 来自专栏6G
6G，AI , 与大模型?
6G与AI融合的未来方向 6G 网络的内生 AI 设计将赋能网络的AI大模型，同时使网络能够支持 AI 大模型的训练和服务。 另外，从小模型到大模型，生产效率跨越式提升基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速 AI 工程化、规模化落地。 6G 网络将承担数据采集、预处理等数据服务，为云AI训练提供更好的支持。此外，6G 网络的分布式部署将使得 AI 大模型更靠近用户侧，从而在时延方面具有潜在优势。 在数据获取和处理方面，与 ChatGPT 不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络 AI 大模型面临较大挑战。6G 网络面临如何有效采集适合AI大模型训练的数据的挑战。 而在构建 AI 大模型的路径上，需要分阶段探索，从离线小规模模型开始，逐步过渡到实时大规模模型，最终实现统一的网络 AI 大模型。 本文摘自于中国移动的“6G内生AI架构及AI大模”汇报材料。
40810编辑于 2024-04-24
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号