如何重复使用TFX可以转换以推断生产(流管线)

Question

我想使用TFX构建培训管道，并最终重复使用我的数据转换以使推理请求对TensorFlow服务，据说TFX可以做到这一点。我发现所有的TFX示例似乎都建立了批处理培训管道，并最终以张量式服务来推动模型，但它们并没有解决推理部分，出于延迟原因，这一定是流媒体管道。我可能可以编写自己的工具来提出请求，但是似乎浪费了不使用推理部分的转换组件。

我在本地运行了通过TFX示例设置脚本安装在DAG中的示例。气流UI清楚地表明这些是批处理管道。

Answer 1

tfx允许您在训练管道中定义转换逻辑，并将逻辑保存为所得模型图的一部分，以便您保存的模型将包括转换和通常的模型，TF服务将能够接受前转换数据格式的请求，并在没有任何其他工作的情况下进行适当的转换和模型推理。因此，设计TFX不参与推理。