使用 tensorflow "saved model" API 对 Java 与 python 加载的模型进行错误预测

Question

我正在尝试在Java中加载一个模型，该模型是用python训练并使用保存的模型api(from tensorflow.python.saved_model)保存的。

我可以在单独的 Python 脚本和 Java 中加载它，但在 Java 版本中预测是错误的。

我用一个简单的模型写了一个快速示例项目，演示了"错误"(我希望是我的误解)。

蟒蛇：OrTraining.py

使用保存的模型 API 在训练后保存模型。

builders = saved_model_builder.SavedModelBuilder(export_path)
builders.add_meta_graph_and_variables(sess, ["or"], signature_def_map={
"predict": tf.saved_model.signature_def_utils.predict_signature_def(
inputs= {"images": x_placeholder},
outputs= {"scores": hypothesis_function})
})
builders.save()

https://github.com/JsFlo/DebuggingSavedModelJava/blob/master/OrTraining.py

蟒蛇：OrLoadSavedModel.py

使用保存的模型 API 在单独的脚本中加载模型。

with tf.Session(graph=tf.Graph()) as sess:
tf.saved_model.loader.load(sess, ["or"], "orTrainingModels")
graph = tf.get_default_graph()
print(graph.get_operations())
x_placeholder = graph.get_tensor_by_name("or_inputs:0")
hypothesis_function = graph.get_tensor_by_name("hypothesis_output:0")
# sess.run("init")
print(sess.run(hypothesis_function, feed_dict={x_placeholder: np.array([
np.array([1, 0]),
np.array([0, 1]),
np.array([0, 0]),
np.array([1, 1]),
])}))

https://github.com/JsFlo/DebuggingSavedModelJava/blob/master/OrLoadSavedModel.py

Java： OrLoadSavedModel.java

负荷

SavedModelBundle savedModelBundle = SavedModelBundle.load("./orTrainingModels", "or");
Session session = savedModelBundle.session();

跑

Tensor result = session.runner()
.feed("or_inputs", tensorInput)
.fetch("hypothesis_output")
.run().get(0);

https://github.com/JsFlo/DebuggingSavedModelJava/blob/master/src/main/java/OrLoadSavedModel.java

java 版本和python 版本都可以毫无问题地加载和运行图形，但 java 版本不会输出正确的预测。

起初我以为这是因为没有加载权重/偏差，但我能够在 java 版本中"运行"权重/偏差操作，并看到它具有我在训练后在 python 脚本中看到的正确权重。

在 java 中检查权重 (https://github.com/JsFlo/DebuggingSavedModelJava)

Tensor result = session.runner()
.fetch("da_weights")
.run().get(0);

Answer 1

事实证明，这是我输入数据的方式存在问题。Tensorflow不喜欢创建Boxed Types张量(整数与整数/浮点数与浮点数)，并且有一些检查可以查看您是否尝试传入盒装类型，但似乎检查并不那么全面。

*从 https://github.com/tensorflow/tensorflow/blob/master/tensorflow/java/src/test/java/org/tensorflow/TensorTest.java 测试 *

@Test
public void testCreateFromArrayOfBoxed() {
Integer[] vector = new Integer[] {1, 2, 3, 4};
try (Tensor<Integer> t = Tensor.create(vector, Integer.class)) {
fail("Tensor.create() should fail because it was given an array of boxed values"); 
} catch (IllegalArgumentException e) {
// The expected exception
}
}

这是我的问题的示例：

Float[] input = new Float[]{0f, 1f};
Tensor tensorOutput = Tensor.create(input);
float[] floatOutput= new float[2];
tensorOutput.copyTo(floatOutput);
println(Arrays.toString(floatOutput)); // -7.377E30, -7.377E30

float[] input = new float[]{0f, 1f};
Tensor tensorOutput = Tensor.create(input);
float[] floatOutput= new float[2];
tensorOutput.copyTo(floatOutput);
println(Arrays.toString(floatOutput)); // 0, 1