在 sagemaker 上向张量流服务模型提供输入时出错。{'error'： "Missing 'inputs' or 'instances' key" }

Question

我有一个内置的自定义模型TensorFlow。我正在尝试在亚马逊 sagemaker 上部署此模型以进行推理。该模型接受三个输入并给出五个输出。 输入的名称为：

1.    input_image
2.    input_image_meta
3.    input_anchors

输出的名称为：

1    output_detections
2    output_mrcnn_class
3    output_mrcnn_bbox
4    output_mrcnn_mask
5    output_rois

我已经在 sagemaker 上成功创建了模型端点，当我尝试点击结果请求时，我收到 {'error'："缺少'输入'或'实例'键"} 作为回报。

创建 sagemaker 终端节点，并且 tensorflow 服务器也会启动(如 CloudWatch 日志所示(。 在客户端，我使用以下代码调用预测器：

request = {}
request["img_link"] = "image.jpg"
result = predictor.predict(request)

但是当我打印结果时，以下内容被打印出来，{'error'："缺少'输入'或'实例'键"} 用于加载映像的所有存储桶连接都在 inference.py

Answer 1

Tensorflow 服务预测 API 应该有一个键"实例"或"输入"来修改你的输入。请求正文应如下所示

{
"instances": [{
"input_image": DATA1,
"input_image_meta": DATA2,
"input_anchors": DATA3}]
}

更多信息