ML 引擎在线预测 - 意外的张量名称:值

Question

尝试对我的 ML 引擎模型进行在线预测时出现以下错误。 关键的"值"不正确。(请参阅图像上的错误。 在此处输入图像描述

我已经用RAW图像数据进行了测试：{"image_bytes":{"b64": base64.b64encode(jpeg_data)}}&将数据转换为numpy数组。

目前我有以下代码：

from googleapiclient import discovery
import base64
import os
from PIL import Image
import json
import numpy as np
os.environ["GOOGLE_APPLICATION_CREDENTIALS"] = "/Users/jacob/Desktop/******"
def predict_json(project, model, instances, version=None):
"""Send json data to a deployed model for prediction.
Args:
project (str): project where the Cloud ML Engine Model is deployed.
model (str): model name.
instances ([Mapping[str: Any]]): Keys should be the names of Tensors
your deployed model expects as inputs. Values should be datatypes
convertible to Tensors, or (potentially nested) lists of datatypes
convertible to tensors.
version: str, version of the model to target.
Returns:
Mapping[str: any]: dictionary of prediction results defined by the
model.
"""
# Create the ML Engine service object.
# To authenticate set the environment variable
# GOOGLE_APPLICATION_CREDENTIALS=<path_to_service_account_file>
service = discovery.build('ml', 'v1')
name = 'projects/{}/models/{}'.format(project, model)
if version is not None:
name += '/versions/{}'.format(version)
response = service.projects().predict(
name=name,
body={'instances': instances}
).execute()
if 'error' in response:
raise RuntimeError(response['error'])
return response['predictions']

savepath = 'upload/11277229_F.jpg'
img = Image.open('test/01011000/11277229_F.jpg')
test = img.resize((299, 299))
test.save(savepath)
img1 = open(savepath, "rb").read()
def load_image(filename):
with open(filename) as f:
return np.array(f.read())
predict_json('image-recognition-25***08', 'm500_200_waug', [{"values": str(base64.b64encode(img1).decode("utf-8")), "key": '87'}], 'v1')

Answer 1

错误消息本身指示(如您在问题中指出的那样(，关键"值"不是模型中指定的输入之一。要检查模型的输入，请使用saved_model_cli show --all --dir=/path/to/model。这将向您显示输入名称的列表。您需要使用正确的名称。

也就是说，似乎还有另一个问题。从这个问题中不清楚您的模型期望什么类型的输入，尽管这可能是以下两种情况之一：

1. 整数或浮点数矩阵
2. 包含原始图像文件的字节字符串 内容。

确切的解决方案将取决于您导出的模型使用的是上述哪一个。saved_model_cli将根据输入的类型和形状在此处提供帮助。它将分别是DT_FLOAT32(或其他一些 int/float 类型(和[NONE, 299, 299, CHANNELS]或DT_STRING和[NONE]。

如果你的模型是类型 (1(，那么你将需要发送一个整数/浮点数矩阵(不使用 base64 编码(：

predict_json('image-recognition-25***08', 'm500_200_waug', [{CORRECT_INPUT_NAME: load_image(savepath).tolist(), "key": '87'}], 'v1')

请注意使用tolist将 numpy 数组转换为列表列表。

在类型 (2( 的情况下，您需要通过添加 {"b64"： ...} 来告诉服务您有一些 base64 数据：

predict_json('image-recognition-25***08', 'm500_200_waug', [{CORRECT_INPUT_NAME: {"b64": str(base64.b64encode(img1).decode("utf-8"))}, "key": '87'}], 'v1')

当然，所有这些都取决于 使用正确的名称CORRECT_INPUT_NAME.

最后一点，我假设您的模型实际上确实具有key作为附加输入，因为您将其包含在请求中; 同样，这一切都可以根据saved_model_cli show的输出进行验证。

Answer 2

我也曾经遇到过此错误。如果有人遇到此错误，请使用gcloud。

张量csv_rows自动调用。例如，这现在对我有用

"instances": [{
"csv_row": "STRING,7,4.02611534,9,14,0.66700000,0.17600000,0.00000000,0.00000000,1299.76500000,57",
"key": "0"
}]