问重新量化已经量化的模型
EN

Stack Overflow用户

提问于 2020-08-20 16:03:34

回答 1查看 78关注 0票数 0

是否有可能重新量化已经量化的模型？

我有一些模型，我已经训练与量化感知训练(QAT)与全整数量化。但是，我没有为GPU代表团提供这些模式。是否有一种方法，使我已经拥有的模型与Float16量化，以便能够运行他们与GPU代表。

发布于 2020-09-25 06:02:58

您是否正在寻找一些方法来转换float16量化模型的整数量化模型？

您使用的是哪个版本的TFLite？TFLite 2.3支持使用GPU委托运行量化模型。但是，由于GPU只支持浮点操作，所以它在内部将整数权重量化为浮动权值。有关如何启用(实验性)量化模型支持，请参见文档。https://www.tensorflow.org/lite/performance/gpu_advanced#running_quantized_models_experimental

票数 0

页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://stackoverflow.com/questions/63509008

复制

相似问题

问重新量化已经量化的模型EN