多个批次在TensorFlow Lite中正常工作的条件是什么

Question

您知道，TensorFlow Lite在某些情况下通过在推理之前调用ResizeInputTensor，可以很好地用于多批推理。但是我的模型不太好用。

多个批次在TensorFlow Lite中正常工作的条件是什么？

我怀疑您需要将"重塑"的批次维度设置为-1。

我想知道确切的情况。

谢谢。

Answer 1

要具有动态批处理，原始模型必须具有动态批，然后当您转换为tflite时，导出的模型将支持调整批大小。