Tensorflow Lite推断给出了不同的结果,而不是常规推断



我有一个模型,可以从图像中提取512个特征(数字之间的数字(。我在此处使用指令将此模型转换为Tflite float格式https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/lite

我使用原始模型和TFLITE模型对同一图像进行推断。

我为矢量获得了不同的结果,我期望获得非常相似的结果,因为我没有使用量化的格式。据我了解,TF-Lite只能改善推理性能时间,而不会影响特征计算。

我的问题是正常的吗?其他人遇到这个吗?在任何地方,我都没有找到有关此的主题。

用代码更新。

我有我训练过的网络(删除了许多项目,因为我无法共享完整的网络(占位符= tf.placeholder(name ='input',dtype = tf.float32,shape = [none,128,128,1](

with slim.arg_scope([slim.conv2d, slim.separable_conv2d],
                      activation_fn=tf.nn.relu, normalizer_fn=slim.batch_norm):
    net = tf.identity(placeholder)
    net = slim.conv2d(net, 32, [3, 3], scope='conv11')
    net = slim.separable_conv2d(net, 64, [3, 3], scope='conv12')
    net = slim.max_pool2d(net, [2, 2], scope='pool1')  # 64x64
    net = slim.separable_conv2d(net, 128, [3, 3], scope='conv21')
    net = slim.max_pool2d(net, [2, 2], scope='pool2')  # 32x32
    net = slim.separable_conv2d(net, 256, [3, 3], scope='conv31')
    net = slim.max_pool2d(net, [2, 2], scope='pool3')  # 16x16
    net = slim.separable_conv2d(net, 512, [3, 3], scope='conv41')
    net = slim.max_pool2d(net, [2, 2], scope='pool4')  # 8x8
    net = slim.separable_conv2d(net, 1024, [3, 3], scope='conv51')
    net = slim.avg_pool2d(net, [8, 8], scope='pool5')  # 1x1
    net = slim.dropout(net)
    net = slim.conv2d(net, feature_vector_size, [1, 1], activation_fn=None, normalizer_fn=None, scope='features')
    embeddings = tf.nn.l2_normalize(net, 3, 1e-10, name='embeddings') 

bazel-bin/tensorflow/contry/lite/toco/toco-input_file =/tmp/network_512.pb -input_format = tensorflow_graphdef -oledput_format = tflite-output_file =/tmp/tffiles/network_512.tflite -inperive_type = float --input_type = float --input_arrays = input-output_arrays = embeddings --input_hapes = 1,128,128,1

i使用python和network_512.tflite在https://github.com/tensorflow/tensorflow/tensorflow/tree/master/master/master/tensorflow/tensorflow/contrib/lite/lite/lite/lite/lite/lite/java/demo中使用TensorFlow运行网络_512.pb在哪里修改了代码以加载网络并运行它。

我发现的更新。我所做的测试是使用Demo App TensorFlow提供并更改它以使用我的服装模型和提取功能,在那里我注意到了功能值的差异。

我在最新的Android上手动编译了TF-Lite C Lib,并以与我使用的相同流量(直到现在的TF-C API(运行流量,我的功能几乎得到了相同的结果。

没有时间调查差异。但是我现在很高兴。

相关内容

  • 没有找到相关文章

最新更新