Implantar um modelo para Azure Container Instances com a CLI (v1)

Saiba como usar Azure Machine Learning para implantar um modelo como um serviço Web na ACI (Azure Container Instances). Use as Instâncias de Contêiner do Azure caso:

• prefira não gerenciar seu próprio cluster Kubernetes
• aceita ter apenas uma única réplica do seu serviço, o que pode afetar o tempo de atividade

Para obter informações sobre a disponibilidade de quotas e regiões para ACI, consulte o artigo Quotas e disponibilidade de regiões para Azure Container Instances.

Pré-requisitos

• Um workspace do Azure Machine Learning. Para obter mais informações, consulte Criar um workspace Azure Machine Learning.

• Um modelo de machine learning registrado em seu workspace. Se você não tiver um modelo registrado, confira Como e onde implantar modelos.

• A extensão Azure CLI (v1) para o serviço de Machine Learning, o Azure Machine Learning Python SDK ou a extensão Azure Machine Learning para o Visual Studio Code.

• Os snippets de código Python neste artigo pressupõem que as seguintes variáveis estão definidas:

  • ws - Defina para o seu workspace.
  • model - Defina para o modelo registrado.
  • inference_config - Defina para a configuração de inferência do modelo.

  Para obter mais informações sobre como definir essas variáveis, confira Como e onde implantar modelos.

• Os snippets da CLI neste artigo pressupõem que você criou um inferenceconfig.json arquivo. Para obter mais informações sobre como criar esse arquivo, consulte Como e onde implantar modelos.

Limitações

Implantar no ACI

Para implantar um modelo em Azure Container Instances, crie uma configuração deployment que descreve os recursos de computação necessários, como o número de núcleos e memória. Você também precisa de uma configuração de inferência, que descreve o ambiente necessário para hospedar o modelo e o serviço Web. Para obter mais informações sobre como criar a configuração de inferência, confira Como e onde implantar modelos.

Usar o SDK

APLICA-SE A:Azure Machine Learning SDK v1 para Python

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Para obter mais informações sobre as classes, métodos e parâmetros usados neste exemplo, consulte os seguintes artigos de referência:

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.wait_for_deployment

Usando o Azure CLI

APLICA-SE A:Extensão Azure CLI ml v1

Para implantar usando a CLI, execute o comando a seguir. Substituir mymodel:1 pelo nome e versão do modelo registrado. Substitua myservice pelo nome para fornecer este serviço:

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

As entradas no arquivo deploymentconfig.json são mapeadas para os parâmetros de AciWebservice.deploy_configuration. A tabela a seguir descreve o mapeamento entre as entidades no arquivo JSON e os parâmetros do método:

O seguinte JSON é um exemplo de configuração de implantação a ser usada com a CLI:

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Para obter mais informações, confira a referência az ml model deploy.

Usar o VS Code

Confira como gerenciar recursos no VS Code.

Próximas etapas

• Como implantar um modelo usando uma imagem Docker personalizada
• Solução de problemas de implantação
• Atualizar o serviço Web
• Use o TLS para proteger um serviço Web por Azure Machine Learning
• Consumir um modelo de ML implantado como um serviço Web
• Monitore seus modelos de Azure Machine Learning com o Application Insights