首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >pytorch静态量化:不同训练(校准)和推理后端

pytorch静态量化:不同训练(校准)和推理后端
EN

Stack Overflow用户
提问于 2021-07-06 14:49:38
回答 1查看 269关注 0票数 1

我们可以使用不同的CPU体系结构(和后端)来训练(校准)和推断量化的py手电筒模型吗?

我唯一找到的关于这个主题的帖子指出:

静态量化必须在与部署目标具有相同结构的机器上执行。如果您使用的是x86 CPU,则必须在x86 CPU上执行校准传递;如果使用QNNPACK,则需要在ARM上进行校准。

但在官方文件中没有这方面的内容。

EN

回答 1

Stack Overflow用户

发布于 2021-08-13 16:46:43

您发布的链接中的信息是正确的。您应该在这两种情况下使用相同的后端。在正式文件中也提到了这一点-

在准备量化模型时,必须确保qconfig和用于量化计算的引擎与执行模型的后端匹配。

在这里找到它

https://pytorch.org/docs/stable/quantization.html

票数 0
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/68272765

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档