如何将Lenet模型h5转换为.tflite

Question

如何正确地将Lenet模型(输入32x32、5层、10个类)转换为Tensorflow Lite？我使用了这行代码，但它给了我非常糟糕的信心，在安卓，就像这张照片。所有的信心都在0.1左右，或10%左右。

这是我使用的代码

model = tf.keras.models.load_model('model.h5')
converter = tf.lite.TFLiteConverter.from_keras_model(model)
converter.post_training_quantize = True
tflite_model = converter.convert()
open("converted_model.tflite", "wb").write(tflite_model)

上面的.h5文件可以很好的对图像进行预测，具有很好的可信度和准确性，就像这张照片。或者我应该问，Tensorflow Lite不支持定制模型(Lenet)吗？为什么tflite文件做的比.h5差得多？

Answer 1

如果生成的.tflite文件没有错误，那么模型是否被称为Lenet或其他任何东西都无关紧要。此外，量化将有一个小的下降的准确性，但没有大的差别，如你说。我想看看你是如何使字节缓冲区插入到解释器中的。如果你使用的是灰度图像，你必须除以3/255.对于彩色图像，只有/255。如果在您的培训期间，您没有使用像素规范化，那么在位图期间不要使用/255作为字节缓冲区。所以你的代码应该是：

private ByteBuffer convertBitmapToByteBuffer(Bitmap bitmap) {
    ByteBuffer byteBuffer = ByteBuffer.allocateDirect(ModelConfig.MODEL_INPUT_SIZE);
    byteBuffer.order(ByteOrder.nativeOrder());
    int[] pixels = new int[ModelConfig.INPUT_WIDTH * ModelConfig.INPUT_HEIGHT];
    bitmap.getPixels(pixels, 0, bitmap.getWidth(), 0, 0, bitmap.getWidth(), bitmap.getHeight());
    for (int pixel : pixels) {
        float rChannel = (pixel >> 16) & 0xFF;
        float gChannel = (pixel >> 8) & 0xFF;
        float bChannel = (pixel) & 0xFF;
        float pixelValue = (rChannel + gChannel + bChannel);
        byteBuffer.putFloat(pixelValue);
    }
    return byteBuffer;
}

而不是：

private ByteBuffer convertBitmapToByteBuffer(Bitmap bitmap) {
    ByteBuffer byteBuffer = ByteBuffer.allocateDirect(ModelConfig.MODEL_INPUT_SIZE);
    byteBuffer.order(ByteOrder.nativeOrder());
    int[] pixels = new int[ModelConfig.INPUT_WIDTH * ModelConfig.INPUT_HEIGHT];
    bitmap.getPixels(pixels, 0, bitmap.getWidth(), 0, 0, bitmap.getWidth(), bitmap.getHeight());
    for (int pixel : pixels) {
        float rChannel = (pixel >> 16) & 0xFF;
        float gChannel = (pixel >> 8) & 0xFF;
        float bChannel = (pixel) & 0xFF;
        float pixelValue = (rChannel + gChannel + bChannel) / 255.f;
        byteBuffer.putFloat(pixelValue);
    }
    return byteBuffer;
}

Answer 2

这是因为量化。

它减少了模型的大小，也减少了精度。尽量不要量化这个模型。

尝尝这个。

import tensorflow as tf

model = tf.keras.models.load_model('model.h5')
converter = tf.lite.TFLiteConverter.from_keras_model(model)
tflite_model = converter.convert()
open("converted_model.tflite", "wb").write(tflite_model)

它可能会增加tflite模型的大小，但不会降低到该程度的精度。