如何计算tensorflow中变压器的FLOPs ?

Question

我知道

flops = tf.profiler.profile(graph, options=tf.profiler.ProfileOptionBuilder.float_operation())

可以计算FLOPs。但是我在哪里可以找到变压器的图像呢?
请帮帮我。

Answer 1

图应该是tf。您正在分析的模型的图形。关于Tensorflow图的更多信息，请参阅这里，这里是Tensorflow Profiler教程和示例。