我正在用Docker做Tensorflow Serving(文档请参阅此处(。服务器在我们的基础设施上运行。当运行容器的命令类似于时,我成功地请求了我的模型
tensorflow_model_server --port=8500 --rest_api_port=8501
--model_name=${MODEL_NAME} --model_base_path=${MODEL_BASE_PATH}/${MODEL_NAME}
对服务器的curl请求返回预期的答案。尝试使用model_config_file参数时出现问题。命令:
tensorflow_model_server --port=8500 --rest_api_port=8501
--model_config_file=/serving/models.conf
配置文件为:
model_config_list: {
config: {
name: "half_plus_two",
base_path: "/models/",
model_platform: "tensorflow"
}
}
当我用这个命令运行容器时,我会得到错误:
No versions of servable half_plus_two found under base path /models/
(我还尝试删除base_path上的尾部反斜杠,但没有成功(。我在SO上看到了这篇帖子,提醒我们在model dir下使用一个版本,我有一个。我的/型号目录为:
models
|
- half_plus_two
|
- 1
|
- saved_model.pb
- variables
- assets
有人可以帮忙吗?
在Windows 10上也有同样的事情。我终于:
- 注意到我忘记将tensorflow/serving存储库克隆到本地机器
- 在Ubuntu-wsl-2控制台上运行,使用Windows命令行,我可以说服docker将容器的
/models/half_plus_two
正确映射到我的本地路径(以下命令中的-v
选项(:
docker run-t--rm-p 8501:8501
-v"TESTDATA/saved_model_half_plus_two_cpu:/models/half_plus_
-e MODEL_NAME=half_plus_two
tensorflow/serving&