Déployer des modèles en tant que déploiements d'API sans serveur (classique)

• Vous pouvez utiliser n’importe quel navigateur web compatible pour naviguer dans Foundry.

Rechercher votre modèle dans le catalogue de modèles

1. Connectez-vous à Microsoft Foundry. Assurez-vous que l'interrupteur New Foundry est désactivé. Ces étapes font référence à Foundry (classique).
2. Si vous n’êtes pas déjà dans votre projet, sélectionnez-le.
3. Sélectionnez Catalogue de modèles dans le volet gauche.

Déployer le modèle sur une API serverless

Dans cette section, vous allez créer un point de terminaison pour votre modèle.

1. Dans l’Assistant Déploiement, sélectionnez Déployer. Attendez que le déploiement soit prêt et que vous êtes redirigé vers la page Déploiements.

2. Pour afficher les points de terminaison déployés sur votre projet, dans la section Mes ressources du volet gauche, sélectionnez Modèles + points de terminaison.

3. Le point de terminaison créé utilise l’authentification par clé pour l’autorisation. Pour obtenir les clés associées à un point de terminaison donné, procédez comme suit :

   1. Sélectionnez le déploiement, puis notez l’URI cible et la clé du point de terminaison.

   2. Utilisez ces informations d’identification pour appeler le déploiement et générer des prédictions.

4. Si vous devez utiliser ce déploiement à partir d’un autre projet ou hub, ou si vous prévoyez d’utiliser Prompt flow pour créer des applications intelligentes, vous devez créer une connexion au déploiement d’API serverless. Pour savoir comment configurer un déploiement d’API serverless existant dans le cadre d'un nouveau projet ou hub, consultez Utiliser le déploiement d’API serverless à partir d’un autre projet ou de Prompt flow.

   Conseil

   Si vous utilisez le flux de commande dans le même projet ou hub où a eu lieu le déploiement, vous devez toujours créer la connexion.

Utiliser le déploiement d’API serverless

Les modèles déployés dans Azure Machine Learning et Foundry dans les déploiements d’API serverless prennent en charge les Azure API d’inférence de modèle IA qui expose un ensemble commun de fonctionnalités pour les modèles fondamentaux et qui peuvent être utilisés par les développeurs pour consommer des prédictions à partir d’un ensemble diversifié de modèles de manière uniforme et cohérente.

En savoir plus sur les fonctionnalités de cette API et sur la façon dont vous pouvez l’utiliser lors de la création d’applications.

Supprimer des points de terminaison et des abonnements

Vous pouvez supprimer des abonnements de modèle et des points de terminaison. La suppression d’un abonnement de modèle rend tout point de terminaison associé non sain et inutilisable.

Pour supprimer un déploiement d’API serverless :

1. Accédez à la Fonderie.
2. Accédez à votre projet.
3. Dans la section Mes ressources , sélectionnez Modèles + points de terminaison.
4. Ouvrez le déploiement à supprimer.
5. Sélectionnez Supprimer.

Pour supprimer l’abonnement de modèle associé :

1. Accédez au portail Azure
2. Accédez au groupe de ressources auquel appartient le projet.
3. Dans le filtre Type , sélectionnez SaaS.
4. Sélectionnez l’abonnement à supprimer.
5. Sélectionnez Supprimer.

• Pour utiliser Foundry, installez la Azure CLI et l’extension ml pour Azure Machine Learning.

  az extension add -n ml
  

  Si l’extension est déjà installée, vérifiez que la dernière version est installée.

  az extension update -n ml
  

  Une fois l’extension installée, configurez-la :

  az account set --subscription <subscription>
  az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
  

Rechercher votre modèle dans le catalogue de modèles

1. Connectez-vous à Microsoft Foundry. Assurez-vous que l'interrupteur New Foundry est désactivé. Ces étapes font référence à Foundry (classique).
2. Si vous n’êtes pas déjà dans votre projet, sélectionnez-le.
3. Sélectionnez Catalogue de modèles dans le volet gauche.

Les étapes décrites dans cette section de l’article utilisent le modèle DeepSeek-R1 pour l’illustration. Les étapes sont les mêmes, que vous utilisiez des modèles Foundry vendus directement par Azure ou des modèles Foundry de partenaires et de la communauté. Par exemple, si vous choisissez de déployer le modèle Cohere-command-r-08-2024 à la place, vous pouvez remplacer les informations d’identification du modèle dans les extraits de code par les informations d’identification de Cohere.

Déployer le modèle sur une API serverless

Dans cette section, vous allez créer un point de terminaison pour votre modèle. Nommez le point de terminaison DeepSeek-R1-qwerty.

1. Créez le point de terminaison serverless.

   endpoint.yml

   name: DeepSeek-R1-qwerty
   model_id: azureml://registries/azureml-deepseek/models/DeepSeek-R1
   

   Utilisez le fichier endpoint.yml pour créer le point de terminaison :

   az ml serverless-endpoint create -f endpoint.yml
   

2. À tout moment, vous pouvez voir les points de terminaison déployés sur votre projet :

   az ml serverless-endpoint list
   

3. Le point de terminaison créé utilise l’authentification par clé pour l’autorisation. Procédez comme suit pour obtenir les clés associées à un point de terminaison donné.

   az ml serverless-endpoint get-credentials -n DeepSeek-R1-qwerty
   

4. Si vous devez utiliser ce déploiement à partir d’un autre projet ou hub, ou si vous prévoyez d’utiliser Prompt flow pour créer des applications intelligentes, vous devez créer une connexion au déploiement d’API serverless. Pour savoir comment configurer un déploiement d’API serverless existant dans le cadre d'un nouveau projet ou hub, consultez Utiliser le déploiement d’API serverless à partir d’un autre projet ou de Prompt flow.

   Conseil

   Si vous utilisez le flux de commande dans le même projet ou hub où a eu lieu le déploiement, vous devez toujours créer la connexion.

Utiliser le déploiement d’API serverless

Les modèles déployés dans Azure Machine Learning et Foundry dans les déploiements d’API serverless prennent en charge les Azure API d’inférence de modèle IA qui expose un ensemble commun de fonctionnalités pour les modèles fondamentaux et qui peuvent être utilisés par les développeurs pour consommer des prédictions à partir d’un ensemble diversifié de modèles de manière uniforme et cohérente.

En savoir plus sur les fonctionnalités de cette API et sur la façon dont vous pouvez l’utiliser lors de la création d’applications.

Supprimer des points de terminaison et des abonnements

Vous pouvez supprimer des abonnements de modèle et des points de terminaison. La suppression d’un abonnement de modèle rend tout point de terminaison associé non sain et inutilisable.

Pour supprimer un déploiement d’API serverless :

az ml serverless-endpoint delete \
    --name "DeepSeek-R1-qwerty"

Pour supprimer l’abonnement de modèle associé :

az ml marketplace-subscription delete \
    --name "DeepSeek-R1"

• Pour utiliser Foundry, installez le Kit de développement logiciel (SDK) Azure Machine Learning pour Python.

  pip install -U azure-ai-ml
  

  Une fois installé, importez les espaces de noms nécessaires et créez un client connecté à votre projet :

  from azure.ai.ml import MLClient
  from azure.identity import InteractiveBrowserCredential
  from azure.ai.ml.entities import MarketplaceSubscription, ServerlessEndpoint
  
  client = MLClient(
      credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
      subscription_id="<subscription-id>",
      resource_group_name="<resource-group>",
      workspace_name="<project-name>",
  )
  

Rechercher votre modèle dans le catalogue de modèles

1. Connectez-vous à Microsoft Foundry. Assurez-vous que l'interrupteur New Foundry est désactivé. Ces étapes font référence à Foundry (classique).
2. Si vous n’êtes pas déjà dans votre projet, sélectionnez-le.
3. Sélectionnez Catalogue de modèles dans le volet gauche.

Les étapes décrites dans cette section de l’article utilisent le modèle DeepSeek-R1 pour l’illustration. Les étapes sont les mêmes, que vous utilisiez des modèles Foundry vendus directement par Azure ou des modèles Foundry de partenaires et de la communauté. Par exemple, si vous choisissez de déployer le modèle Cohere-command-r-08-2024 à la place, vous pouvez remplacer les informations d’identification du modèle dans les extraits de code par les informations d’identification de Cohere.

Déployer le modèle sur une API serverless

Dans cette section, vous allez créer un point de terminaison pour votre modèle. Nommez le point de terminaison DeepSeek-R1-qwerty.

1. Créez le point de terminaison serverless.

   endpoint_name="DeepSeek-R1-qwerty"
   
   serverless_endpoint = ServerlessEndpoint(
       name=endpoint_name,
       model_id=model_id
   )
   
   created_endpoint = client.serverless_endpoints.begin_create_or_update(
       serverless_endpoint
   ).result()
   

2. À tout moment, vous pouvez voir les points de terminaison déployés sur votre projet :

   endpoint_name="DeepSeek-R1-qwerty"
   
   serverless_endpoint = ServerlessEndpoint(
       name=endpoint_name,
       model_id=model_id
   )
   
   created_endpoint = client.serverless_endpoints.begin_create_or_update(
       serverless_endpoint
   ).result()
   

3. Le point de terminaison créé utilise l’authentification par clé pour l’autorisation. Procédez comme suit pour obtenir les clés associées à un point de terminaison donné.

   endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
   print(endpoint_keys.primary_key)
   print(endpoint_keys.secondary_key)
   

4. Si vous devez utiliser ce déploiement à partir d’un autre projet ou hub, ou si vous prévoyez d’utiliser Prompt flow pour créer des applications intelligentes, vous devez créer une connexion au déploiement d’API serverless. Pour savoir comment configurer un déploiement d’API serverless existant dans le cadre d'un nouveau projet ou hub, consultez Utiliser le déploiement d’API serverless à partir d’un autre projet ou de Prompt flow.

   Conseil

   Si vous utilisez le flux de commande dans le même projet ou hub où a eu lieu le déploiement, vous devez toujours créer la connexion.

Utiliser le déploiement d’API serverless

Les modèles déployés dans Azure Machine Learning et Foundry dans les déploiements d’API serverless prennent en charge les Azure API d’inférence de modèle IA qui expose un ensemble commun de fonctionnalités pour les modèles fondamentaux et qui peuvent être utilisés par les développeurs pour consommer des prédictions à partir d’un ensemble diversifié de modèles de manière uniforme et cohérente.

En savoir plus sur les fonctionnalités de cette API et sur la façon dont vous pouvez l’utiliser lors de la création d’applications.

Supprimer des points de terminaison et des abonnements

Vous pouvez supprimer des abonnements de modèle et des points de terminaison. La suppression d’un abonnement de modèle rend tout point de terminaison associé non sain et inutilisable.

client.serverless_endpoints.begin_delete(endpoint_name).wait()

Pour supprimer l’abonnement de modèle associé :

client.marketplace_subscriptions.begin_delete(subscription_name).wait()

• Pour utiliser Foundry, installez le Azure CLI comme décrit dans Azure CLI.

  Configurez les variables d’environnement suivantes en fonction de vos paramètres :

  RESOURCE_GROUP="serverless-models-dev"
  LOCATION="eastus2" 
  

Rechercher votre modèle dans le catalogue de modèles

1. Connectez-vous à Microsoft Foundry. Assurez-vous que l'interrupteur New Foundry est désactivé. Ces étapes font référence à Foundry (classique).
2. Si vous n’êtes pas déjà dans votre projet, sélectionnez-le.
3. Sélectionnez Catalogue de modèles dans le volet gauche.

Les étapes décrites dans cette section de l’article utilisent le modèle DeepSeek-R1 pour l’illustration. Les étapes sont les mêmes, que vous utilisiez des modèles Foundry vendus directement par Azure ou des modèles Foundry de partenaires et de la communauté. Par exemple, si vous choisissez de déployer le modèle Cohere-command-r-08-2024 à la place, vous pouvez remplacer les informations d’identification du modèle dans les extraits de code par les informations d’identification de Cohere.

Déployer le modèle sur une API serverless

Dans cette section, vous allez créer un point de terminaison pour votre modèle. Nommez le point de terminaison myserverless-text-1234ss.

1. Créez le point de terminaison serverless. Utilisez le modèle suivant pour créer un point de terminaison :

   serverless-endpoint.bicep

   param projectName string = 'my-project'
   param endpointName string = 'myserverless-text-1234ss'
   param location string = resourceGroup().location
   param modelId string = 'azureml://registries/azureml-deepseek/models/DeepSeek-R1'
   
   var modelName = substring(modelId, (lastIndexOf(modelId, '/') + 1))
   // Replace period character which is used in some model names (and is not valid in the subscription name)
   var sanitizedModelName = replace(modelName, '.', '')
   var subscriptionName = '${sanitizedModelName}-subscription'
   
   resource projectName_endpoint 'Microsoft.MachineLearningServices/workspaces/serverlessEndpoints@2024-04-01-preview' = {
     name: '${projectName}/${endpointName}'
     location: location
     sku: {
       name: 'Consumption'
     }
     properties: {
       modelSettings: {
         modelId: modelId
       }
     }
     dependsOn: [
       projectName_subscription
     ]
   }
   
   output endpointUri string = projectName_endpoint.properties.inferenceEndpoint.uri
   

   Créez le déploiement comme suit :

   az deployment group create --resource-group $RESOURCE_GROUP --template-file model-subscription.bicep
   

2. À tout moment, vous pouvez voir les points de terminaison déployés sur votre projet :

   Vous pouvez utiliser les outils de gestion des ressources pour interroger les ressources. Le code suivant utilise Azure CLI :

   az resource list \
       --query "[?type=='Microsoft.MachineLearningServices/workspaces/serverlessEndpoints']"
   

3. Le point de terminaison créé utilise l’authentification par clé pour l’autorisation. Obtenez les clés associées au point de terminaison donné à l’aide d’API REST pour interroger ces informations.

4. Si vous devez utiliser ce déploiement à partir d’un autre projet ou hub, ou si vous prévoyez d’utiliser Prompt flow pour créer des applications intelligentes, vous devez créer une connexion au déploiement d’API serverless. Pour savoir comment configurer un déploiement d’API serverless existant dans le cadre d'un nouveau projet ou hub, consultez Utiliser le déploiement d’API serverless à partir d’un autre projet ou de Prompt flow.

   Conseil

   Si vous utilisez le flux de commande dans le même projet ou hub où a eu lieu le déploiement, vous devez toujours créer la connexion.

Utiliser le déploiement d’API serverless

Les modèles déployés dans Azure Machine Learning et Foundry dans les déploiements d’API serverless prennent en charge les Azure API d’inférence de modèle IA qui expose un ensemble commun de fonctionnalités pour les modèles fondamentaux et qui peuvent être utilisés par les développeurs pour consommer des prédictions à partir d’un ensemble diversifié de modèles de manière uniforme et cohérente.

En savoir plus sur les fonctionnalités de cette API et sur la façon dont vous pouvez l’utiliser lors de la création d’applications.

Supprimer des points de terminaison et des abonnements

Vous pouvez supprimer des abonnements de modèle et des points de terminaison. La suppression d’un abonnement de modèle rend tout point de terminaison associé non sain et inutilisable.

Vous pouvez utiliser les outils de gestion des ressources pour gérer les ressources. Le code suivant utilise Azure CLI :

az resource delete --name <resource-name>