在 Azure Container Regisrty 上使用自定义 Docker 映像部署 Azure 机器学习模型

Question

我想使用 Azure 机器学习服务在 Azure 上训练Azure 机器学习模型。但我想使用自定义 Docker 映像在 Azure 上部署模型。我无法理解如何使用自定义 Docker 映像部署机器学习模型。

如果有关于使用自定义映像部署 ml 模型的任何教程或博客，请与我分享。

请检查以下 Docker 文件命令：-

# Set locale
RUN apt-get update
RUN apt-get install locales
RUN locale-gen en_US.UTF-8
RUN update-locale LANG=en_US.UTF-8
# Install MS SQL v13 driver for PyOdbc
RUN apt-get install -y curl
RUN apt-get install apt-transport-https
RUN curl https://packages.microsoft.com/keys/microsoft.asc | apt-key add - 
RUN curl https://packages.microsoft.com/config/ubuntu/16.04/prod.list > /etc/apt/sources.list.d/mssql-release.list
RUN exit
RUN apt-get update
RUN ACCEPT_EULA=Y apt-get install -y msodbcsql
RUN apt-get install -y unixodbc-dev

我想使用Azure 容器注册表推送 docker 映像并使用自定义 Docker 映像。如果有办法，请告诉我。

有没有办法使用自定义 docker 映像部署 Azure ML 模型？

Answer 1

您可以执行以下操作：

使用 Docker

1. 部分中指定的自定义 Docker 镜像的坐标创建一个 [环境][1]。
2. 使用该环境作为参数创建[InferenceConfig][2]，并在部署模型时使用它。

例如，假设您已经有一个模型并省略其他参数：

from azureml.core.environment import Environment
from azureml.core.model import InferenceConfig
env = Environment(name="myenv")
env.docker.base_image = "mybaseimage"
env.docker.base_image_registry.address = "ip-address"
env.docker.base_image_registry.username = "my-username"
env.docker.base_image_registry.password = "my-password"
ic = InferenceConfig(…,environment = env)
model.deploy(…,inference_config = ic)

[1]: https://learn.microsoft.com/en-us/python/api/azureml-core/azureml.core.environment.environment?view=azure-ml-py
[2]: https://learn.microsoft.com/en-us/python/api/azureml-core/azureml.core.model.inferenceconfig?view=azure-ml-py