Vertex AI自定义容器批量预测

Question

我创建了一个用于预测的自定义容器，并成功地将模型上传到了Vertex AI。我还能够将模型部署到端点，并成功请求端点进行预测。在自定义容器代码中，我使用这里描述的parameters字段，稍后在发出在线预测请求时提供该字段。我的问题是关于从自定义容器请求批量预测以进行预测。

1. 我找不到任何文档来描述当我请求批量预测时会发生什么。例如，我使用Python SDK中的my_model.batch_predict函数，并将instances_format设置为"0"；csv"；并提供CCD_ 4。现在，我已经设置了我的自定义容器，以便在/predict中预期预测请求，如本文所述。Vertex AI是否向该路径发出POST请求，将cvs数据转换为适当的POST主体？

2. 如何指定批次预测的parameters字段，就像指定在线预测一样？

Answer 1

1. Yes vertex AI在批量预测中向您的自定义容器发出POST请求。

2. 不，批次预测没有办法通过parameter，因为我们不知道哪一列是"0"；参数"；。我们把所有东西都放进"；实例"；。