有没有什么方法可以减少c++中tensorflow lite的调用时间

Question

系统信息

1. windows 10，x64
2. TensorFlow版本：2.7.0
3. Python版本：3.9.5
4. Bazel版本：3.7.25.GCC/编译器版本：11.2.0

我使用c++在tensorflow lite上运行了一个自定义的CNN tflite模型，调用时间为2.5秒，与我在python上运行的tensorflow模型版本相同，调用时间1.19秒。正如我所知，c++比python更快，那么问题出在哪里呢？

注意：由于商业原因，我无法提供代码快照。

Answer 1

TFLite更多地关注设备性能。因此，当你在x86机器上运行它时，与arm设备相比，它并没有那么优化。