按终端节点调用 SageMaker 笔记本实例函数



我是 AWS 的新手。现在,我已经在 SageMaker 笔记本实例中定义了一个图像分割函数,这将返回掩码。

我没有在那里训练我的模型,我所做的是在那里 pip 安装模型包,手动上传预先训练的权重。其余的与在本地机器中工作非常相似:我导入包,加载权重,定义一个函数将图像作为输入,然后输出掩码。

我的问题是:有没有办法托管我的函数,以便我可以使用 URL 端点 + 一个图像信息调用它,然后它返回掩码作为响应?

我再次对 AWS 很陌生,我开始怀疑 SageMaker 不是为这项工作而设计的......我选择 SageMaker 的原因是对计算能力的需求,我认为我不能用纯 lambda 来完成这项工作。

SageMaker 推理终端节点目前依赖于基于 Docker 镜像的接口。在基本级别,您可以设置一个 Docker 映像,该映像运行 Web 服务器并响应 AWS 所需端口上的终端节点。本指南将向您展示如何做到这一点:https://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-inference-code.html。

这是一个烦人的工作量。如果您使用的是众所周知的框架,他们有一个容器库,其中包含一些样板代码,您可以重用:https://github.com/aws/sagemaker-containers。您可能需要在那里进行一些自定义。

或者根本不使用 SageMaker 推理终端节点:)如果您的模型符合 AWS Lambda 的大小/内存限制,这是一个更简单的选择!

完全免责声明,我正在开发一个与SageMaker竞争的平台:模型动物园

最新更新