将SavedModel转换为TFLite

Question

我已经从here下载了一个FasterRCNN SavedModel。我想把它转换成TFLite模型。这看起来像是用tflite_convert cli做的简单的事情。

tflite_convert --output_file model.tflite --saved_model_dir faster_rcnn_resnet101_coco_2018_01_28/saved_model

但是，我收到了一些关于未指定输入维度的问题

ValueError: None is only supported in the 1st dimension. Tensor 'image_tensor' has invalid shape '[None, None, None, 3]'

有谁知道解决这个问题的方法吗？如果不能在TFLite中使用任意大小的图像，我猜肯定有办法覆盖image_tensor尺寸。

Answer 1

您可以使用以下代码片段来完成此操作。

saved_model_dir = 'Path_to_saved_model_dir'

# Convert the model.
converter = tf.lite.TFLiteConverter.from_saved_model(saved_model_dir)
tflite_model = converter.convert()

# Save the TF Lite model.
with tf.io.gfile.GFile('model.tflite', 'wb') as f:
  f.write(tflite_model)

注意:此函数不允许您指定输入形状，因此可以使用from_concrete_functions

model = tf.saved_model.load(saved_model_dir)
concrete_func = model.signatures[
  tf.saved_model.DEFAULT_SERVING_SIGNATURE_DEF_KEY]
concrete_func.inputs[0].set_shape([1, 256, 256, 3])
converter = TFLiteConverter.from_concrete_functions([concrete_func])