Tensorflow Serving:在基本路径/模型下找不到servable half_plus_two的版本



我正在用Docker做Tensorflow Serving(文档请参阅此处(。服务器在我们的基础设施上运行。当运行容器的命令类似于时,我成功地请求了我的模型

tensorflow_model_server --port=8500 --rest_api_port=8501 
--model_name=${MODEL_NAME} --model_base_path=${MODEL_BASE_PATH}/${MODEL_NAME}

对服务器的curl请求返回预期的答案。尝试使用model_config_file参数时出现问题。命令:

tensorflow_model_server --port=8500 --rest_api_port=8501 
--model_config_file=/serving/models.conf

配置文件为:

model_config_list: {
config: {
name: "half_plus_two",
base_path: "/models/",
model_platform: "tensorflow"
}
}

当我用这个命令运行容器时,我会得到错误:

No versions of servable half_plus_two found under base path /models/ 

(我还尝试删除base_path上的尾部反斜杠,但没有成功(。我在SO上看到了这篇帖子,提醒我们在model dir下使用一个版本,我有一个。我的/型号目录为:

models
|
- half_plus_two
|
- 1
|
- saved_model.pb
- variables
- assets

有人可以帮忙吗?

在Windows 10上也有同样的事情。我终于:

  1. 注意到我忘记将tensorflow/serving存储库克隆到本地机器
  2. 在Ubuntu-wsl-2控制台上运行,使用Windows命令行,我可以说服docker将容器的/models/half_plus_two正确映射到我的本地路径(以下命令中的-v选项(:

docker run-t--rm-p 8501:8501
-v"TESTDATA/saved_model_half_plus_two_cpu:/models/half_plus_
-e MODEL_NAME=half_plus_two
tensorflow/serving&

最新更新