回答情况：
提问时间：
问题标签：
我训练了一个模型，并将其转换为.tflite模型。我已经使用以下内容完成了训练后量化： import tensorflow as tf
converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir当我在没有应用任何训练后量化的情况下将模型转换为tflite时，我没有得到错误。这是我用来在不应用后训练量化的情况下转换模型的代码。tf.keras.layers.D
浏览 36提问于2019-06-23得票数 3
回答已采纳
1回答
我想使用量化感知训练将我的模型量化为int8。不幸的是，我不能简单地量化整个模型，因为我的第一层是批归一化(在InputLayer之后)，所以我需要为该层使用一个自定义的quantizationConfig。我的问题是，我的准确率下降了大约4%，而使用后量化只下降了2%。下面的代码有什么问题吗？如果没有，你知道为什么QAT在这种情况下会变得更糟吗？
浏览 66提问于2021-11-02得票数 0
我有一个在keras中训练的模型，并保存为.h5文件。该模型通过tensorflow后端使用单精度浮点值进行训练。现在我想实现一个在Xilinx FPGA上执行卷积运算的硬件加速器。但是，在决定FPGA上使用的定点位宽之前，我需要通过将权重量化为8或16位数字来评估模型精度。我遇到了，但我不确定如何从每一层获取权重，量化它并将其存储在numpy数组列表中。在对所有层进行量化后，我希望将模型的权重设置为新形成的量化权重。有人能帮我做这个吗？
这就是我到目前为止一直在尝试将
浏览 2提问于2018-10-15得票数 5
因此，我将其转换为tensorflow-lite，并应用混合训练后量化(据我所知，这是唯一的方法，因为我无法访问训练数据)。
浏览 3提问于2019-08-11得票数 2
1回答
我试图在Tensorflow 2.8.0中对一个模型执行训练后整数量化，按照的指令进行一些调整。我的所有图像都在一个名为"customTF2/data/images".的目录中不过，我无法计算出如何生成量化所需的有代表性的数据集。不确定我应该如何为该数据集执行量化，也不确定需要如何更新前面的代码。任何帮助都将不胜感激。
浏览 4提问于2022-04-08得票数 0
我正在尝试将mobilenet V1 .pb文件转换为量化的tflite文件。我使用下面的命令进行量化： tflite_convert \
--output_file=/home/wc/users/Mostafiz/TPU/models/mobilnet/test2_4thSep
浏览 18修改于2019-09-26得票数 2
回答已采纳
在应用训练后量化后，我定制的CNN模型被缩小到原来大小的1/4 (从56.1MB减少到14 my )。这使我怀疑转换后的tflite模型仍然是浮点数格式。这是预期的行为吗？我怎样才能像在中一样，从TensorFlow官方存储库中获得一个量化的模型，以获取8点精度的输入图像？在示例代码中，用于输入ByteBuffer ()的tflite.run()对于量化模型来说具有8位精度。
但我也从google文档中读到：“根据推断，权重从8位精度转换为浮点，并使用浮点内核
浏览 1提问于2018-10-17得票数 2
回答已采纳
似乎训练后量化对某些模型结构有效，而对其他模型结构无效。from_logits=True),
model.fit(train_images, train_labels, epochs=2) 和训练后的量化为edgetpu_compiler my_mnist_quant.tflite命令可以很好地工作，并创建一个tflite模型，该模型的性能与我在服务器上训练的模型相当。然而，当
浏览 28提问于2020-07-09得票数 0
回答已采纳
我正在尝试量化我的模型(特别是从模型动物园下载的关于coco的预先训练的faster_rcnn_inception_v2 )，希望加速推理时间。
浏览 115提问于2019-01-15得票数 1
我的工作是量化在传输学习中使用MobilenetV2的个人数据集。我尝试过两种方法：
(一)仅训练后量化:它工作良好，并正在产生0.04s的平均时间来推断在224,224维60图像。(二.)量化感知训练+训练后量化:与单纯的训练后量化相比，它产生了更高的精度，但对于相同的60幅图像却产生了0.55s的更高的推理时间。1.)只有训练后量化<
浏览 5提问于2020-09-09得票数 1
我有一个经过训练的角膜模型(model.h5)来跟踪环境
我试着用下面的代码对其进行训练后的量化如何解决这个问题，并从这个模型中获得量化的权重？
浏览 0修改于2019-03-14得票数 1
我一直试图对一个密集的模型进行量化，但没有成功。我一直在尝试实现pytorch后的训练静态量化。Pytorch有其他型号的量化版本，但没有用于密度集的版本。是否可以量化密集的体系结构。我一直在寻找如何将量化应用于预先训练的模型的教程，但我没有取得任何成功。
浏览 40修改于2022-11-29得票数 0
我正在训练一个Keras模型，我想在一个量化的8位环境(微控制器)中使用TFLite来部署它。为了提高量化性能，我进行量化感知训练。然后，我使用我的验证集作为一个有代表性的数据集创建量化的TFLite模型。性能使用验证集进行评估，并在此图像中加以说明：
如果不是简单地从经过QA训练的模型(图中红色)生成TFLite模型(图中的青色)，而是将经过QA训练的模型中的权重复制到原始模型中，然后生成TFLite我理解TFLite模型与QA培训模型略有不同，因
浏览 9提问于2021-03-02得票数 0
回答已采纳
我想将我的代码迁移到TensorFlow 2上，但我在中看不到量化模型。
是否有可能在TF2中为此目的微调模型，并使用量化感知训练或训练后量化之类的技术？我没有看到任何相关的教程或问题。我还看到了一些关于TF2中TFLite转换器量化问题的报道，所以我甚至不确定在TF2中是否可以做到这一点。
浏览 0提问于2020-07-23得票数 3
量化意识的培训在坦索弗洛允许我量化使用不同的量化配置的个人水平使用tensorflow_model_optimization.quantization.keras.quantize_annotate_layer我想对一个已经受过训练的模特产生类似的效果。tfli
浏览 16提问于2022-10-13得票数 0
如何在TensorFlow的量化感知训练后得到量化权值或量化感知权值。我想在应用程序的NumPy上使用整数量化的权重。到目前为止，我的用法如下，它给出了float32的值。
浏览 17修改于2020-10-23得票数 0
我们正在考虑将量化感知训练用于一个研究项目，以确定训练期间量化对收敛速度和运行时间的影响。尽管我们还不完全相信这是正确的工具。请您澄清以下几点: 1)如果一个层在量化感知训练期间被量化，这意味着输入和权重被量化，包括激活函数在内的所有操作都被量化，然后在返回之前，输出被反量化到与下一层兼容的精度。这种理解正确吗?3)原则上，量化感知训练是否会在您的一般经验的训练过
浏览 22提问于2020-06-19得票数 0
回答已采纳
我目前正在使用tensorflow 1.14进行剪枝，但我不确定是否可以在同一版本上应用量化。请帮帮忙。但是量化页面中缺少这一部分。
请您确认一下，如果量化只能从tensorflow 1.15开始应用，或者对旧版本有其他选择吗？
浏览 3提问于2021-01-08得票数 0
回答已采纳
我将其转换为.tflite，并在训练后量化该.tflite模型。最后，我想将这个量化的.tflite模型转换为.pb冻结图。我如何才能完成最后一步呢？
浏览 37提问于2019-01-22得票数 1
回答已采纳
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号