Tensorflow 2.X中TFLite模型的测量Flops

Question

我正在尝试测量TF2中TFLite模型的FLOPS。我知道Tensorflow 1.x有tf.profiler，它非常适合测量失败。它似乎不能很好地与tf.keras.配合使用

有人能描述一下如何在TF2中测量TFLite模型的FLOP吗？我似乎在网上找不到答案。非常感谢大家抽出时间。

编辑：下面评论的链接对tflite没有帮助。

Answer 1

我遇到了同样的问题，并编写了一个简单的python包来粗略计算FLOPS。

https://github.com/lisosia/tflite-flops

只考虑Conv和DepthwiseConv层，但这对于我的用例来说已经足够了。

Answer 2

不幸的是，没有直接的方法可以计算tflite模型的FLOPS。然而，您可以通过以下3个步骤间接估计其价值：

1. 使用官方的TFLite性能工具来衡量模型执行单个推理所需的时间(以毫秒为单位(
2. 使用一些基准应用程序(如xOPS(来估计目标设备每秒可以运行多少浮点运算(FLOPS(
3. 使用从步骤1和2获得的结果来估计模型在单个推理过程中执行的浮点运算的数量

最终结果可能是一个粗略的近似值，但它仍然可以为您的性能分析带来一些价值。