变压器功能不适用于Seldon Core

Question

我正在测试Seldon Core，并且我在服务模型MyModel(object)中只使用predict函数启动并运行示例模型。现在，在将输入发送到类之前，我在预处理输入数据中添加了transform_input函数。我再次部署了该模型，它似乎工作正常，但是我发现transform_input不起作用或不使用它。我找到了DOC和示例，但仅显示添加函数transform_input。我想念什么吗？

Answer 1

即使您的模型已经提供了transform_input函数，您仍然需要将其添加为推理图中的TRANSFORMER节点。对于您的特定情况，您需要定义以下图表：

  graph:
    name: my-input-transformer
    type: TRANSFORMER
    children:
      - name: my-model
        type: MODEL

两个节点(my-model和my-input-transformer(都指向同一docker映像。