- 综合排序
- 最热优先
- 最新优先
- 来自专栏DeepHub IMBA
深度学习中的模型修剪
我们将使用tensorflow_model_optimization（别名为tfmot）。tfmot为我们提供了两种修剪方法： 采取训练好的网络，并通过更多次数的培训来修剪它。 请注意，还可以修剪模型中的特定图层，而tfmot确实允许您这样做。 tfmot提供了另一个现成的修剪计划-PolynomialDecay。 将修剪计划中的end_step参数设置为小于或等于训练模型的时期数。 序列化修剪的模型时，我们需要使用tfmot.sparsity.keras.strip_pruning，它将删除tfmot添加到模型的修剪包装。否则，我们将无法在修剪的模型中看到任何压缩优势。 我要感谢Raziel和Yunlu（来自Google），向我提供了有关tfmot的重要信息以及有关修剪自身的其他一些想法。
1.5K20发布于 2020-07-06 - 来自专栏DeepHub IMBA
在TensorFlow中使用模型剪枝将机器学习模型变得更小
这样就可以将模型可视化: import os import zipfile import tensorflow as tf import tensorflow_model_optimization as tfmot tfmot.sparsity.keras.UpdatePruningStep() 使用优化器步骤更新剪枝包装器。如果未能指定剪枝包装器，将会导致错误。 tfmot.sparsity.keras.PruningSummaries() 将剪枝概述添加到Tensorboard。 log_dir = ‘.models’ callbacks = [ tfmot.sparsity.keras.UpdatePruningStep(), # Log sparsity and other 对于剪枝过的模型，tfmot.sparsity.keras.strip_pruning()用来恢复带有稀疏权重的原始模型。请注意剥离模型和未剥离模型在尺寸上的差异。
1.5K20发布于 2020-08-11 - 来自专栏量子位
TensorFlow官方发布剪枝优化工具：参数减少80%，精度几乎不变
import tensorflow_model_optimization as tfmot model = build_your_model() pruning_schedule = tfmot.sparsity.keras.PolynomialDecay ( initial_sparsity=0.0, final_sparsity=0.5, begin_step=2000, end_step=4000) model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude
1.1K30发布于 2019-05-17 - 来自专栏PyVision
TensorFlow 模型剪枝
这样我们就能将模型可视化: import os import zipfile import tensorflow as tf import tensorflow_model_optimization as tfmot tfmot.sparsity.keras.UpdatePruningStep() 使用优化器步骤更新剪枝wrappers。不设定的话会报错。 tfmot.sparsity.keras.PruningSummaries() 向 Tensorboard 添加剪枝摘要。 log_dir = ‘.models’ callbacks = [ tfmot.sparsity.keras.UpdatePruningStep(), # Log sparsity and other 对于修剪过的模型，使用tfmot.sparsity.keras.strip_pruning() 结合稀疏权重恢复原始模型。请注意已剪和未剪模型在尺寸上的差异。
1.4K20发布于 2020-09-03 - 来自专栏JAVA
️ 修复AI模型中的“Batch Size Too Large”错误：内存管理技巧
# 例子：使用TensorFlow进行模型剪枝 import tensorflow_model_optimization as tfmot prune_low_magnitude = tfmot.sparsity.keras.prune_low_magnitude pruning_params = { 'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay( initial_sparsity
1.4K10编辑于 2024-11-22 - 来自专栏JAVA
应对AI模型训练中的“Time Limit Exceeded”错误：优化训练效率
# 例子：使用TensorFlow进行模型剪枝 import tensorflow_model_optimization as tfmot prune_low_magnitude = tfmot.sparsity.keras.prune_low_magnitude pruning_params = { 'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay( initial_sparsity
70310编辑于 2024-11-22 - 来自专栏磐创AI技术团队的专栏
TensorFlow官方发布剪枝优化工具：参数减少80%，精度几乎不变
import tensorflow_model_optimization as tfmot model = build_your_model() pruning_schedule = tfmot.sparsity.keras.PolynomialDecay ( initial_sparsity=0.0, final_sparsity=0.5, begin_step=2000, end_step=4000) model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude
1.5K30发布于 2019-05-23 - 来自专栏算法之名
模型剪枝
tensorflow.keras import datasets, layers, losses, Sequential, models import tensorflow_model_optimization as tfmot layer): if isinstance(layer, layers.Dense): print("Apply pruning to Dense") return tfmot.sparsity.keras.prune_low_magnitude )) end_step = np.ceil(num_images / 64).astype(np.int32) * 4 # 计算稀疏性 pruning_schedule = tfmot.sparsity.keras.PolynomialDecay (), tfmot.sparsity.keras.PruningSummaries(log_dir=logdir) ] model_for_pruning.compile # 去除不可训练权重 model_for_export = tfmot.sparsity.keras.strip_pruning(model_for_pruning) print(model_for_export.summary
1.2K30编辑于 2022-05-06 - 来自专栏学习笔记
【机器学习】与【数据挖掘】技术下【C++】驱动的【嵌入式】智能系统优化
import tensorflow_model_optimization as tfmot # 定义剪枝参数 pruning_params = { 'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay end_step=1000) } # 使用剪枝API model_for_pruning = tfmot.sparsity.keras.prune_low_magnitude model_for_pruning.fit(x_train, y_train, epochs=2, validation_data=(x_test, y_test)) # 删除剪枝标记并保存模型 model_for_export = tfmot.sparsity.keras.strip_pruning
66710编辑于 2024-06-15 - 来自专栏活动
[AI学习笔记]DeepSeek 量化压缩实战：INT8 精度保持方案详解
# 量化压缩示例代码import tensorflow_model_optimization as tfmot# 应用 INT8 量化quantize_annotate = tfmot.quantization.keras.quantize_annotatequantize_scope = tfmot.quantization.keras.quantize_scope# 定义量化配置quantize_config = tfmot.quantization.keras.Default8BitQuantizeConfig 对模型进行量化注解quantized_model = quantize_annotate(model)# 定义量化具体实现with quantize_scope(): quantized_model = tfmot.quantization.keras.quantize_apply
1.5K20编辑于 2025-03-27 - 来自专栏人工智能之核心技术
人工智能之核心技术 深度学习 第十章 模型部署基础
TensorFlow示例（Keras）展开代码语言：PythonAI代码解释importtensorflow_model_optimizationastfmot#定义剪枝计划prune_low_magnitude=tfmot.sparsity.keras.prune_low_magnitudepruning_params ={'pruning_schedule':tfmot.sparsity.keras.PolynomialDecay(initial_sparsity=0.30,final_sparsity=0.70,begin_step sparse_categorical_crossentropy')#训练（微调）model_for_pruning.fit(train_ds,epochs=2)#移除剪枝包装，得到紧凑模型model_for_export=tfmot.sparsity.keras.strip_pruning
15110编辑于 2026-02-05 - 来自专栏学习笔记
【C++】和【预训练模型】实现【机器学习】【图像分类】的终极指南
import tensorflow_model_optimization as tfmot prune_low_magnitude = tfmot.sparsity.keras.prune_low_magnitude pruning_params = { 'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay(initial_sparsity=0.30
82510编辑于 2024-06-15 - 来自专栏AI SPPECH
134_边缘推理：TensorFlow Lite - 优化移动端LLM部署技术详解与实战指南
# 量化感知训练示例 import tensorflow_model_optimization as tfmot quantize_model = tfmot.quantization.keras.quantize_model as tfmot prune_low_magnitude = tfmot.sparsity.keras.prune_low_magnitude # 定义剪枝参数 pruning_params = { 'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay( initial_sparsity=0.30, /logs' callbacks = [ tfmot.sparsity.keras.UpdatePruningStep(), tfmot.sparsity.keras.PruningSummaries pruning_params = { 'pruning_schedule': tfmot.sparsity.keras.PolynomialDecay(
44010编辑于 2025-11-16 - 来自专栏人工智能领域
开源大模型与闭源大模型，你更看好哪一方？
TensorFlow Model Optimization Toolkit（TFMOT）等开源项目提供了量化、剪枝等优化技术，帮助开发者更高效地优化模型。
79810编辑于 2024-12-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号