回答情况：
提问时间：
问题标签：
目标:使用这个对albert-base-v2模型执行量化。
我认为这是模型性能较差的原因，与香草ALBert相比，ALBert的两种量化ALBert方法的模型</
浏览 35修改于2022-01-21得票数 0
回答已采纳
但是，当我将模型转换为TFLite (全浮点，无量化)时，模型权重发生了很大的变化。2.3185202252437188e-32，-0.003990101162344217大的权重值完全颠覆了我在设备上的推断
浏览 2提问于2018-10-10得票数 0
1回答
是否有可能重新量化已经量化的模型？
我有一些模型，我已经训练与量化感知训练(QAT)与全整数量化。但是，我没有为GPU代表团提供这些模式。是否有一种方法，使我已经拥有的模型与Float16量化，以便能够运行他们与GPU代表。
浏览 2提问于2020-08-20得票数 0
我使用keras训练了一个用于句子分类的CNN，并使用以下代码导出了该模型config = model.get_config()
weights = model.get_weights最后，我想将模型量化为变量文件大小非常大，我认为在使用tensorflow的量化功能之前，我需要将我的模型冻结在pb文件中。请帮帮忙
浏览 2提问于2017-11-28得票数 0
我正在训练一个Keras模型，我想在一个量化的8位环境(微控制器)中使用TFLite来部署它。为了提高量化性能，我进行量化感知训练。然后，我使用我的验证集作为一个有代表性的数据集创建量化的TFLite模型。性能使用验证集进行评估，并在此图像中加以说明：
如果不是简单地从经过QA训练的模型(图中红色)生成TFLite模型(图中的青色)，而是将经过QA训练的模型中的权重复制到原始模型中，然后生成TFLite我理解TFL
浏览 9提问于2021-03-02得票数 0
回答已采纳
我正在测试两个具有相同架构的CNN(我正在用Windows操作系统在我的笔记本上测试它们)：
第一个模型:使用TensorFlow优化的TFLite模型及其权重量化(使用Python进行转换，用tensorflow.lite.Optimize.DEFAULT量化)。第二个模型:使用TensorFlow优化的TFLite模型及其权重和激活，对进行量化(使用Python进行转换，用tensorflow.lite.Optimize.DEFAULT +进行量化</e
浏览 2修改于2021-03-29得票数 0
我使用对inception-resnet-v2模型进行了量化。冻结图大小(量化输入)为224，6MB，量化图大小为58.6MB。我对某些数据集进行了准确性测试，其中，对于冻结的图，准确率为97.4%，而对于量化的图，准确率为0%。
有没有一种不同的方法来量化inception-resnet版本的模型？或者，对于inception resnet模型，根本不支持量化？
浏览 10提问于2017-06-08得票数 1
1回答
目标检测模型的量化与分类模型的量化有何不同？由于检测模型需要处理bbox坐标(一个输入中的多个对象)，因此在量化中必须有一些缩放技巧。
浏览 37提问于2020-08-26得票数 0
我正在寻找量化滑雪板模型的解决方案。我是专门寻找XGBoost模型。将sklearn模型转换为ONNX，然后尝试量化ONNX模型，但这也不起作用。这是指向的链接。
任何指针或解决方案都可以共享，这将有很大帮助。
浏览 6提问于2022-01-27得票数 0
量化意识的培训在坦索弗洛允许我量化使用不同的量化配置的个人水平使用tensorflow_model_optimization.quantization.keras.quantize_annotate_layer在Tensorflow的训练后量化文档中，下面是一个将模型量化为float16的示例。converter.target_spec.supported_types = [tf.float16]然而，我
浏览 16提问于2022-10-13得票数 0
1回答
我有一个Keras (而不是tf.keras)模型，我量化了它(训练后)在嵌入式设备上运行它。现在，我想检查模型是如何被量化的(完全，只有权重，.)因为嵌入式解决方案只需要一个完全量化的模型。我希望看到更多的细节，例如，重量的差异(也许解释不同的模型
浏览 3修改于2020-06-29得票数 1
回答已采纳
1回答
我正在使用Tensorflow Lite进行一个TinyML项目，该项目包括量化模型和浮点模型。在我的管道中，我使用tf.keras API训练我的模型，然后将模型转换成TFLite模型。最后，将TFLite模型量化为int8模型。我可以使用API model.save和tf.keras.model.load_model保存和加载“正常”的tensorflow模型
对转换后的TFLite模型也可以这
浏览 3提问于2021-06-25得票数 2
回答已采纳
我一直试图对一个密集的模型进行量化，但没有成功。我一直在尝试实现pytorch后的训练静态量化。Pytorch有其他型号的量化版本，但没有用于密度集的版本。是否可以量化密集的体系结构。我一直在寻找如何将量化应用于预先训练的模型的教程，但我没有取得任何成功。
浏览 40修改于2022-11-29得票数 0
我正在尝试int8量化我的模型在TensorFlow Lite上。转换本身使用tensorflow 1.15.3，但转换模型在麒麟990上运行得非常慢。我的模型是int8(tf.lite.OpsSet.TFLITE_BUILTINS_INT8)量化，而mobilenet_v1_1.0_224_quant.tflite则是uint8量化。Conv2D的“过滤器”属性在mobilenet_v1_1.0_224_quant.tflite中有一个“量化”属性，而在我的转换<em
浏览 9提问于2020-09-02得票数 2
我需要将RGB值量化为29个统一颜色字典。我在Matlab中使用了rgb2ind(image,29)。
那么，在OpenCV中是否有任何功能或有效的方法来量化图像颜色呢？(我需要量化图像颜色，因为我想得到一个29大小的颜色直方图)
浏览 7修改于2014-05-18得票数 1
回答已采纳
这个问题与从标准的Mobilenetv2模型转换而来的tflite模型的推断有关.
为什么推理管道有这种区别？有人能帮助正确的步骤，既量化的和非量化的(浮点模型) tflite模型<
浏览 7提问于2020-06-11得票数 1
我使用英特尔lpot()成功地量化了一个用于huggingface文本分类的pytorch模型。model = AutoModelForSequenceClassification.from_pretrained('fp32/model/pathfrom lpot.utils.pytorch import load
mode
浏览 29提问于2021-09-29得票数 0
我使用TensorFlow 2.1来训练具有量化感知训练的模型.这些节点应该调整模型的权重，这样它们就更容易被量化为int8，并且更容易处理int8数据。当训练结束时，我将模型转换成TF-Lite，如下所示：converter.optimizations此外，当我在this C++ 中运行这个量化模型时，我看到它在推理过程中也运行假量化</e
浏览 10提问于2020-06-17得票数 5
我需要量化我的模型，以便在tensorflow的完整版中使用。我不知道该怎么做(在模型量化的官方手册中，模型是以tflite格式保存的)
浏览 4提问于2019-07-04得票数 0
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号