回答情况：
提问时间：
问题标签：
我想量化一个DenseNet模型。我使用的是Tensorflow 2.4。'>：不支持Layer conv2_block1__bn:quantize_annotate_layer接口传递一个tfmot.quantization.keras.QuantizeConfig实例来量化该层
浏览 45提问于2021-01-08得票数 0
回答已采纳
目前，我正试图理解量化感知的TensorFlow培训。据我所知，伪量化节点需要收集动态范围信息作为量化操作的校准。当我将同一模型与“普通”Keras模型和一次量化感知模型进行比较时，后者具有更多的参数，这是有意义的，因为我们需要在量化感知训练中存储激活的最小值和最大值。，为什么每个层有5个额外的不可训练参数，它们到底用于什么？。
我很感激任何帮助我(和其他偶然发现这个问题的人)理解量化感知<
浏览 9提问于2020-05-06得票数 0
回答已采纳
1回答
我想使用量化感知训练将我的模型量化为int8。不幸的是，我不能简单地量化整个模型，因为我的第一层是批归一化(在InputLayer之后)，所以我需要为该层使用一个自定义的quantizationConfig。我的问题是，我的准确率下降了大约4%，而使用后量化只下降了2%。下面的代码有什么问题吗？如果没有，你知道为什么QAT在这种情况下会变得更糟吗？
浏览 66提问于2021-11-02得票数 0
我正在使用tensorflow 1.15，因为依赖于多个其他模块，并且难以进行量化感知培训。在使用tensorflow 1.15进行训练时，有任何方法可以进行量化吗？
浏览 4提问于2022-02-01得票数 0
self.hparams['channels_count'], kernel_size=(4,1))(x)并将其移植到具有以下代表性的TFLite上：
validation_data = validate_generator,
callbacks = self.get_cal
浏览 2修改于2021-03-04得票数 0
我想用我的keras模型进行量化感知训练。我试过了，如下所示。然而，保存的模型(h5和ckpt)的大小与未量化的模型完全相同。 这条路对吗？我如何检查它是否量化得很好？ 或者，有没有更好的量化方法？
浏览 39修改于2020-03-31得票数 0
我的工作是量化在传输学习中使用MobilenetV2的个人数据集。我尝试过两种方法： inter
浏览 5提问于2020-09-09得票数 1
有人能指出参考，在那里你可以学习如何执行量化感知训练(QAT)与tf.GradientTape上的TensorFlow 2？
我只看到这是用tf.keras API完成的。现在我需要量化一个模型，但是我只看到关于如何使用tf. keras API来实现它的参考资料。
浏览 0修改于2021-04-02得票数 1
回答已采纳
我们正在考虑将量化感知训练用于一个研究项目，以确定训练期间量化对收敛速度和运行时间的影响。尽管我们还不完全相信这是正确的工具。请您澄清以下几点: 1)如果一个层在量化感知训练期间被量化，这意味着输入和权重被量化，包括激活函数在内的所有操作都被量化，然后在返回之前，输出被反量化到与下一层兼容的精度。这种理解正确吗?3)原则上，量化感知训练<
浏览 22提问于2020-06-19得票数 0
回答已采纳
我有一个模型，我使用转移学习的MobileNetV2，我想量化它，并比较精度的差异，与一个非量化的模型和转移学习。然而，它们并不完全支持递归量化，但是根据这一点，这个方法应该量化我的模型：。在这种情况下，我想了解什么是执行量化感知训练的正确方法？
浏览 9修改于2022-07-11得票数 1
回答已采纳
我正在使用TensorFlow的量化感知训练API，并希望部署一个具有任意位宽的模型。由于tflite部署只支持8位量化，因此我将使用自定义推理算法进行部署，但我仍然需要访问正确大小的模型权重。目前，在使用量化感知训练之后，我的模型仍然是浮点型的，就我所见，访问量化权重的唯一方法是将模型转换为tflite格式。但是，当使用实验函数时，这是不可能的。下面是我的量化配置类：
class Quantizer(tfmot.quanti
浏览 11修改于2021-03-04得票数 2
我想知道在Tensorflow 2中量化感知训练期间模拟BatchNorm折叠的可用选项是什么。Tensorflow 2有一个关于如何在他们最近采用的tf.keras应用编程接口中使用量化的tutorial，但他们没有提到任何关于批处理标准化的内容。
浏览 123修改于2020-04-07得票数 5
我正在训练一个Keras模型，我想在一个量化的8位环境(微控制器)中使用TFLite来部署它。为了提高量化性能，我进行量化感知训练。然后，我使用我的验证集作为一个有代表性的数据集创建量化的TFLite模型。性能使用验证集进行评估，并在此图像中加以说明：
如果不是简单地从经过QA训练的模型(图中红色)生成TFLite模型(图中的青色)，而是将经过QA训练的模型中的权重复制到原始模型中，然后生成TFLite我理解TFLite模型与QA培
浏览 9提问于2021-03-02得票数 0
回答已采纳
我正在使用量化感知训练对4位LeNet进行量化，但量化感知训练只对8位神经网络进行量化。我不知道如何更改代码。#一下是对卷积的量化 # If `scope` is given, only quantize it if
浏览 29修改于2019-04-09得票数 1
我可以得到一个不支持TPU运行的模型，但一旦我启用量化，我就会迷路。
冻结模型，并将结果保存为协议缓冲区。现在，如果我想使用珊瑚TPU棒，我必须量化我的模型(我在培训期间考虑到这一点)。我所要做的就是修改我的转换器脚本。
浏览 0修改于2019-07-22得票数 31
1回答
是否有可能重新量化已经量化的模型？
我有一些模型，我已经训练与量化感知训练(QAT)与全整数量化。但是，我没有为GPU代表团提供这些模式。是否有一种方法，使我已经拥有的模型与Float16量化，以便能够运行他们与GPU代表。
浏览 2提问于2020-08-20得票数 0
如何在TensorFlow的量化感知训练后得到量化权值或量化感知权值。我想在应用程序的NumPy上使用整数量化的权重。到目前为止，我的用法如下，它给出了float32的值。
浏览 17修改于2020-10-23得票数 0
我想将我的代码迁移到TensorFlow 2上，但我在中看不到量化模型。
是否有可能在TF2中为此目的微调模型，并使用量化感知训练或训练后量化之类的技术？我没有看到任何相关的教程或问题。我还看到了一些关于TF2中TFLite转换器量化问题的报道，所以我甚至不确定在TF2中是否可以做到这一点。
浏览 0提问于2020-07-23得票数 3
我正试图根据 ()量化，我想我遇到了和一样的问题(train_nets.py In.187:在train_op = train(...)之前或在train() utils/common.py In.38中，在梯度之前)
它没有在图形中添加量化感知操作来收集动态范围max\min。我假设我应该看到一些额外的节点在张力板，但我没有，因此，我认为我没有成功地添加量化感知操作的
浏览 0提问于2020-07-27得票数 0
回答已采纳
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号