如何为 Sagemaker 创建不属于 Amazon 估算器的 docker 映像以创建终端节点



我在Sagemaker中构建了一个自定义模型,并通过pickle对模型进行了序列化。我想通过 Sagemaker 托管服务部署我的模型并通读此内容

https://docs.aws.amazon.com/sagemaker/latest/dg/how-it-works-hosting.html

但是,我不知道如何使用当前未作为Amazon Estimator的一部分实现的算法为自定义模型构建自己的Docker容器。

如何构建自己的 docker 映像以加载到 ECR 中,然后构建允许我创建终端节点的容器?

看看这个指南:https://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container

它演示如何为训练作业和终结点部署创建容器。

如果只需要部署终结点,则可以跳过训练部分。

如文档中所述,对于 SageMaker 终端节点,您需要一个 Docker 容器,其中包含一个已实现的 Web 服务器,该服务器在路由"/ping"和"/invocations"处侦听 HTTP 请求。在指南中,他们使用NGINX和Gunicorn实现了烧瓶Web服务器。

对于您的使用案例:https://github.com/awslabs/amazon-sagemaker-examples/tree/master/advanced_functionality/scikit_bring_your_own/container/decision_trees

在此目录中,您可以跳过"train"文件并保持除"predictor.py"文件之外的其余文件完好无损。这是您将修改以实现自己的推理算法的文件。

最新更新