Implementação de modelos como APIs sem servidor (clássico)

4. Seleciona a placa do modelo que queres implementar. Neste artigo, seleciona um modelo DeepSeek-R1 .

5. Selecionar Usar este modelo para abrir a janela de implementação da API Serverless , onde pode ver o separador Preços e termos .

6. No assistente de implementação, atribua um nome à implantação. A opção de filtro de conteúdo (pré-visualização) está ativada por defeito. Deixe a configuração padrão do serviço para detetar conteúdos prejudiciais, como ódio, automutilação, conteúdo sexual e violento. Para mais informações sobre filtragem de conteúdos, consulte filtragem de conteúdos no portal Foundry.

   

4. Seleciona a placa do modelo que queres implementar. Neste artigo, deve selecionar Cohere-command-r-08-2024.

Subscreva o seu projeto à oferta modelo

Para modelos de parceiros e comunidade, por exemplo, Cohere-command-r-08-2024, deve criar uma subscrição antes de os poder implementar. Se for a sua primeira vez a implementar o modelo no projeto, tem de subscrever o seu projeto para a oferta específica do modelo a partir do Azure Marketplace. Cada projeto tem a sua própria subscrição à oferta específica do Azure Marketplace do modelo, que lhe permite controlar e monitorizar os gastos. Uma vez que subscreve um projeto para a oferta específica do Azure Marketplace, as implementações subsequentes da mesma oferta no mesmo projeto não requerem subscrever novamente.

Além disso, modelos oferecidos através do Azure Marketplace estão disponíveis para implementação em APIs serverless em regiões específicas. Consulte as regiões com suporte para implantação serverless para verificar as regiões disponíveis para o modelo específico. Se a região onde o seu projeto está localizado não estiver listada, pode implementar num projeto numa região suportada e depois utilizar a implantação de APIs serverless de um projeto diferente.

1. Na página de Detalhes do modelo, selecione Usar este modelo para abrir a janela de implementação da API Serverless. Na janela de implementação da API Serverless, o link Azure Marketplace Termos fornece mais informações sobre os termos de utilização. O separador de Preços e termos também fornece detalhes de preços para o modelo selecionado.

   Dica

   Para modelos que podem ser implementados via implementação de APIs serverless ou computação gerida, abre-se uma janela de opções de Deployment , dando-lhe a escolha entre implementação de APIs serverless e implementação usando computação gerida. A partir daí, pode selecionar a opção de implementação de API serverless.

2. Se nunca implementou o modelo no seu projeto antes, primeiro tem de subscrever a oferta do modelo no Azure Marketplace. Selecione Subscrever e Implementar para abrir o assistente de implementação.

   

3. Alternativamente, se vires a nota Já tens uma subscrição Azure Marketplace para este projeto, não precisas de criar a subscrição porque já tens uma. Selecione Continuar a implementar para abrir o assistente de implementação.

   

4. (Opcional) A qualquer momento, pode ver as ofertas de modelo a que o seu projeto está atualmente subscrito:

   1. Vai ao portal Azure.
   2. Navega até ao grupo de recursos onde o projeto pertence.
   3. No filtro de Tipo , selecione SaaS.
   4. Vê todas as ofertas a que está atualmente subscrito.
   5. Selecione qualquer recurso para ver os detalhes.

5. No assistente de implementação, atribua um nome à implantação. A opção de filtro de conteúdo (pré-visualização) está ativada por defeito. Deixe a configuração padrão do serviço para detetar conteúdos prejudiciais, como ódio, automutilação, conteúdo sexual e violento. Para mais informações sobre filtragem de conteúdos, consulte filtragem de conteúdos no portal Foundry.

4. Seleciona a placa do modelo que queres implementar. Neste artigo, seleciona um modelo DeepSeek-R1 .

5. Copie o ID do Modelo sem incluir a versão do modelo, uma vez que as implementações de APIs serverless implementam sempre a versão mais recente disponível do modelo. Por exemplo, para o ID azureml://registries/azureml-deepseek/models/DeepSeek-R1/versions/1do modelo , copiar azureml://registries/azureml-deepseek/models/DeepSeek-R1.

   

4. Seleciona a placa do modelo que queres implementar. Neste artigo, deve selecionar Cohere-command-r-08-2024.

   Nota

   Modelos de Parceiros e Comunidade são oferecidos através da Azure Marketplace. Para estes modelos, certifique-se de que a sua conta tem as permissões de função Azure AI Developer no grupo de recursos, ou que cumpre as permissões necessárias para subscrever ofertas de modelos, uma vez que é necessário subscrever o seu projeto à oferta de modelo específica.

5. Copie o ID do Modelo sem incluir a versão do modelo, uma vez que as implementações de APIs serverless implementam sempre a versão mais recente disponível do modelo. Por exemplo, para o ID azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024/versions/1do modelo , copiar azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024.

   

Subscreva o seu projeto à oferta modelo

Para modelos de parceiros e comunidade, por exemplo, Cohere-command-r-08-2024, deve criar uma subscrição antes de os poder implementar. Se for a sua primeira vez a implementar o modelo no projeto, tem de subscrever o seu projeto para a oferta específica do modelo a partir do Azure Marketplace. Cada projeto tem a sua própria subscrição à oferta específica do Azure Marketplace do modelo, que lhe permite controlar e monitorizar os gastos. Uma vez que subscreve um projeto para a oferta específica do Azure Marketplace, as implementações subsequentes da mesma oferta no mesmo projeto não requerem subscrever novamente.

Além disso, modelos oferecidos através do Azure Marketplace estão disponíveis para implementação em APIs serverless em regiões específicas. Consulte as regiões com suporte para implantação serverless para verificar as regiões disponíveis para o modelo específico. Se a região onde o seu projeto está localizado não estiver listada, pode implementar num projeto numa região suportada e depois utilizar a implantação de APIs serverless de um projeto diferente.

1. Crie a subscrição para o marketplace do modelo. Ao criar uma subscrição, aceita os termos e condições associados à oferta do modelo.

   subscription.yml

   name: Cohere-command-r-08-2024-qwerty
   model_id: azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024
   

   Use o ficheiro anterior para criar a subscrição:

   az ml marketplace-subscription create -f subscription.yml
   

2. (Opcional) A qualquer momento, pode ver as ofertas de modelo a que o seu projeto está atualmente subscrito:

   az ml marketplace-subscription list
   

4. Seleciona a placa do modelo que queres implementar. Neste artigo, seleciona um modelo DeepSeek-R1 .

5. Copie o ID do Modelo sem incluir a versão do modelo, uma vez que as implementações de APIs serverless implementam sempre a versão mais recente disponível do modelo. Por exemplo, para o ID azureml://registries/azureml-deepseek/models/DeepSeek-R1/versions/1do modelo , copiar azureml://registries/azureml-deepseek/models/DeepSeek-R1.

   

4. Seleciona a placa do modelo que queres implementar. Neste artigo, deve selecionar Cohere-command-r-08-2024.

   Nota

   Modelos de Parceiros e Comunidade são oferecidos através da Azure Marketplace. Para estes modelos, certifique-se de que a sua conta tem as permissões de função Azure AI Developer no grupo de recursos, ou que cumpre as permissões necessárias para subscrever ofertas de modelos, uma vez que é necessário subscrever o seu projeto à oferta de modelo específica.

5. Copie o ID do Modelo sem incluir a versão do modelo, uma vez que as implementações de APIs serverless implementam sempre a versão mais recente disponível do modelo. Por exemplo, para o ID azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024/versions/1do modelo , copiar azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024.

   

Subscreva o seu projeto à oferta modelo

Para modelos de parceiros e comunidade, por exemplo, Cohere-command-r-08-2024, deve criar uma subscrição antes de os poder implementar. Se for a sua primeira vez a implementar o modelo no projeto, tem de subscrever o seu projeto para a oferta específica do modelo a partir do Azure Marketplace. Cada projeto tem a sua própria subscrição à oferta específica do Azure Marketplace do modelo, que lhe permite controlar e monitorizar os gastos. Uma vez que subscreve um projeto para a oferta específica do Azure Marketplace, as implementações subsequentes da mesma oferta no mesmo projeto não requerem subscrever novamente.

Além disso, modelos oferecidos através do Azure Marketplace estão disponíveis para implementação em APIs serverless em regiões específicas. Consulte as regiões com suporte para implantação serverless para verificar as regiões disponíveis para o modelo específico. Se a região onde o seu projeto está localizado não estiver listada, pode implementar num projeto numa região suportada e depois utilizar a implantação de APIs serverless de um projeto diferente.

1. Crie a subscrição para o marketplace do modelo. Ao criar uma subscrição, aceita os termos e condições associados à oferta do modelo.

   model_id="azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024"
   subscription_name="Cohere-command-r-08-2024"
   
   marketplace_subscription = MarketplaceSubscription(
       model_id=model_id,
       name=subscription_name,
   )
   
   marketplace_subscription = client.marketplace_subscriptions.begin_create_or_update(
       marketplace_subscription
   ).result()
   

2. (Opcional) A qualquer momento, pode ver as ofertas de modelo a que o seu projeto está atualmente subscrito:

   marketplace_sub_list = client.marketplace_subscriptions.list()
   
   for sub in marketplace_sub_list:
       print(sub.as_dict())
   

4. Seleciona a placa do modelo que queres implementar. Neste artigo, seleciona um modelo DeepSeek-R1 .

5. Copie o ID do Modelo sem incluir a versão do modelo, uma vez que as implementações de APIs serverless implementam sempre a versão mais recente disponível do modelo. Por exemplo, para o ID azureml://registries/azureml-deepseek/models/DeepSeek-R1/versions/1do modelo , copiar azureml://registries/azureml-deepseek/models/DeepSeek-R1.

   

4. Seleciona a placa do modelo que queres implementar. Neste artigo, deve selecionar Cohere-command-r-08-2024.

   Nota

   Modelos de Parceiros e Comunidade são oferecidos através da Azure Marketplace. Para estes modelos, certifique-se de que a sua conta tem as permissões de função Azure AI Developer no grupo de recursos, ou que cumpre as permissões necessárias para subscrever ofertas de modelos, uma vez que é necessário subscrever o seu projeto à oferta de modelo específica.

5. Copie o ID do Modelo sem incluir a versão do modelo, uma vez que as implementações de APIs serverless implementam sempre a versão mais recente disponível do modelo. Por exemplo, para o ID azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024/versions/1do modelo , copiar azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024.

   

Subscreva o seu projeto à oferta modelo

Para modelos de parceiros e comunidade, por exemplo, Cohere-command-r-08-2024, deve criar uma subscrição antes de os poder implementar. Se for a sua primeira vez a implementar o modelo no projeto, tem de subscrever o seu projeto para a oferta específica do modelo a partir do Azure Marketplace. Cada projeto tem a sua própria subscrição à oferta específica do Azure Marketplace do modelo, que lhe permite controlar e monitorizar os gastos. Uma vez que subscreve um projeto para a oferta específica do Azure Marketplace, as implementações subsequentes da mesma oferta no mesmo projeto não requerem subscrever novamente.

Além disso, modelos oferecidos através do Azure Marketplace estão disponíveis para implementação em APIs serverless em regiões específicas. Consulte as regiões com suporte para implantação serverless para verificar as regiões disponíveis para o modelo específico. Se a região onde o seu projeto está localizado não estiver listada, pode implementar num projeto numa região suportada e depois utilizar a implantação de APIs serverless de um projeto diferente.

1. Use a seguinte configuração de bíceps para criar uma subscrição de modelo. Ao criar uma subscrição, aceita os termos e condições associados à oferta do modelo.

   model-subscription.bicep

   param projectName string = 'my-project'
   param modelId string = 'azureml://registries/azureml-cohere/models/Cohere-command-r-08-2024'
   
   var modelName = substring(modelId, (lastIndexOf(modelId, '/') + 1))
   // Replace period character which is used in some model names (and is not valid in the subscription name)
   var sanitizedModelName = replace(modelName, '.', '')
   var subscriptionName = '${sanitizedModelName}-subscription'
   
   resource projectName_subscription 'Microsoft.MachineLearningServices/workspaces/marketplaceSubscriptions@2024-04-01-preview' = if (!startsWith(
     modelId,
     'azureml://registries/azureml/'
   )) {
     name: '${projectName}/${subscriptionName}'
     properties: {
       modelId: modelId
     }
   }
   

   Depois, crie o recurso da seguinte forma:

   az deployment group create --resource-group $RESOURCE_GROUP --template-file model-subscription.bicep
   

2. (Opcional) A qualquer momento, pode ver as ofertas de modelo a que o seu projeto está atualmente subscrito. Pode usar as ferramentas de gestão de recursos para consultar os recursos. O seguinte código utiliza CLI do Azure:

   az resource list \
       --query "[?type=='Microsoft.SaaS']"