数据集图像大小和推理速度

Question

是否在同一数据集上对预先训练过的模型进行训练/微调，但缩小了(例如，70%)的大小，从而提高了推理速度？更普遍地说，对较小图像进行CNN训练是否提高了推理速度？

Answer 1

正如你所说的，答案是否定的。

模型通常有固定的输入和输出大小(除了RNN之外，RNN并不真正用于图像)。这意味着您不能向网络输入较小的图像。如果显示您正在这样做，这要么是因为网络正在自动调整大小，要么是将您的小图像填充到模型输入大小。在这些情况下，模型的时间性能将是相当恒定的。

如果您要用较小的图像输入大小来训练相同的模型，则正确地说推断(和训练)时间将比较大的图像输入大小模型更快。在大多数情况下，您也可以将训练过的权重从大模型加载到较小的模型中。

请注意，您所考虑的将改变输入分辨率，因此特性将发生变化，从而降低模型的性能损失。

Answer 2

是的-较小的图像意味着要乘的矩阵较小，并将减少预测时间。确切的数额是一个经验性问题，可以通过基准来回答。

然而，速度的提高可能没有意义。有许多方法来提高预测速度(例如，开关结构，蒸馏和降低精度)，这将有更大的影响比更小的图像大小。