Distribuire un modello in Azure Container Instances con l'interfaccia della riga di comando (v1)

Informazioni su come usare Azure Machine Learning per distribuire un modello come servizio Web in Azure Container Instances (ACI). Usa Azure Container Instances se:

• si preferisce non gestire il proprio cluster Kubernetes
• sono in grado di accettare la presenza di una sola replica del servizio, che potrebbe influire sulla disponibilità operativa

Per informazioni sulla disponibilità di quote e aree per ACI, vedere l'articolo Quote e disponibilità dell'area per Istanze di Azure Container.

Prerequisiti

• Un'area di lavoro Azure Machine Learning. Per altre informazioni, vedere Creare un'area di lavoro Azure Machine Learning.

• Un modello di Machine Learning registrato nell'area di lavoro. Se non si ha un modello registrato, vedere Come e dove distribuire i modelli.

• Estensione Azure CLI (v1) per il servizio di Machine Learning, Azure Machine Learning Python SDK o Estensione di Visual Studio Code per Azure Machine Learning.

• I frammenti di codice Python in questo articolo presuppongono che siano impostate le variabili seguenti:

  • ws - Impostare l'area di lavoro.
  • model - Impostare il modello registrato.
  • inference_config - Impostare la configurazione dell'inferenza per il modello.

  Per altre informazioni sull'impostazione di queste variabili, vedere Come e dove distribuire i modelli.

• I frammenti di CLI in questo articolo presuppongono che abbiate creato un inferenceconfig.json file. Per altre informazioni sulla creazione di questo file, vedere Come e dove distribuire i modelli.

Limitazioni

Distribuire in ACI

Per distribuire un modello in Azure Container Instances, creare una configurazione di deployment che descrive le risorse di calcolo necessarie, ad esempio il numero di core e memoria. È necessaria anche una configurazione di inferenza che descriva l'ambiente necessario per ospitare il modello e il servizio Web. Per altre informazioni sulla creazione della configurazione dell'inferenza, vedere Come e dove distribuire i modelli.

Uso dell'SDK

SI APPLICA A:Azure Machine Learning SDK v1 per Python

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Per altre informazioni sulle classi, i metodi e i parametri usati in questo esempio, vedere gli articoli di riferimento seguenti:

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.wait_for_deployment

Uso del Azure CLI

APPLICABILE A:Azure CLI ml extension v1

Per eseguire la distribuzione tramite l'interfaccia della riga di comando, eseguire il comando seguente. Sostituire mymodel:1 con il nome e la versione del modello registrato. Sostituire myservice con il nome per assegnare questo servizio:

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

Le voci nel file deploymentconfig.json vengono mappate ai parametri per AciWebservice.deploy_configuration. La tabella seguente descrive il mapping tra le entità nel file JSON e i parametri per il metodo :

Il codice JSON seguente è un esempio di configurazione della distribuzione da usare con l'interfaccia della riga di comando:

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Per altre informazioni, vedere il riferimento alla distribuzione modello az ml.

Uso di VS Code

Vedere come gestire le risorse in VS Code.

Passaggi successivi

• Come distribuire un modello usando un'immagine Docker personalizzata
• Risoluzione dei problemi di distribuzione
• Aggiornare il servizio Web
• Usare TLS per proteggere un servizio Web tramite Azure Machine Learning
• Usare un modello di Machine Learning distribuito come servizio Web
• Monitora i modelli di Azure Machine Learning con Application Insights