Creare e distribuire un Azure OpenAI nella risorsa Microsoft Foundry Models (versione classica)

Prerequisiti

• Sottoscrizione Azure. Crearne uno gratuitamente.
• Autorizzazioni di accesso per creare Azure risorse OpenAI e distribuire modelli.

Creare una risorsa

I passaggi seguenti illustrano come creare una risorsa OpenAI Azure nel portale di Azure.

Identificare la risorsa

1. Accedi utilizzando il tuo abbonamento Azure nel portale di Azure.

2. Selezionare Creare una risorsa e cercare Azure OpenAI. Quando si individua il servizio, selezionare Crea.

   

3. Nella pagina Crea Azure OpenAI specificare le informazioni seguenti per i campi nella scheda Basics:

   Campo	Descrizione
   Sottoscrizione	La sottoscrizione di Azure utilizzata nella tua applicazione di onboarding di Azure OpenAI.
   Gruppo di risorse	Il gruppo di risorse Azure per contenere la tua risorsa Azure OpenAI. È possibile creare un nuovo gruppo o usare un gruppo preesistente.
   Regione	Posizione dell'istanza. Posizioni diverse possono introdurre latenza, ma non influiscono sulla disponibilità di runtime della risorsa.
   Nome	Nome descrittivo per la risorsa OpenAI Azure, ad esempio MyOpenAIResource.
   Piano tariffario	Piano tariffario per la risorsa. Attualmente, solo il livello Standard è disponibile per il Azure OpenAI. Per altre info sui prezzi, visitare la pagina dei prezzi di Azure OpenAI

   

4. Selezionare Avanti.

Configurare la sicurezza di rete

La scheda Rete presenta tre opzioni per il tipo di sicurezza:

• Opzione 1: tutte le reti, tra cui Internet, possono accedere a questa risorsa.
• Opzione 2: Reti selezionate, configurare la sicurezza di rete per la risorsa Strumenti della Fonderia.
• Opzione 3: Disabilitata, nessuna rete può accedere a questa risorsa. È possibile configurare connessioni endpoint privato che saranno il modo esclusivo per accedere a questa risorsa.

A seconda dell'opzione selezionata, potrebbe essere necessario fornire informazioni aggiuntive.

Opzione 1: Consenti tutte le reti

La prima opzione consente a tutte le reti, tra cui Internet, di accedere alla risorsa. Questa opzione è l'impostazione predefinita. Per questa opzione non sono necessarie impostazioni aggiuntive.

Opzione 2: Consenti solo reti specifiche

La seconda opzione consente di identificare reti specifiche che possono accedere alla risorsa. Quando si seleziona questa opzione, la pagina viene aggiornata per includere i campi obbligatori seguenti:

La sezione Firewall fornisce un campo facoltativo Intervallo di indirizzi che è possibile usare per configurare le impostazioni del firewall per la risorsa.

Opzione 3: Disabilitare l'accesso alla rete

La terza opzione consente di disabilitare l'accesso di rete alla risorsa. Quando si seleziona questa opzione, la pagina viene aggiornata per includere la tabella Endpoint privato .

Come opzione, è possibile aggiungere un endpoint privato per l'accesso alla risorsa. Selezionare Aggiungi endpoint privato e completare la configurazione dell'endpoint.

Confermare la configurazione e creare la risorsa

1. Selezionare Avanti e configurare i tag per la risorsa in base alle esigenze.

2. Selezionare Avanti per passare alla fase finale del processo: Rivedi e invia.

3. Verificare le impostazioni di configurazione e selezionare Crea.

4. Il portale di Azure visualizza una notifica quando la nuova risorsa è disponibile. Selezionare Vai alla risorsa.

   

Distribuire un modello

Prima di poter generare testo o inferenza, è necessario distribuire un modello. È possibile selezionare uno dei diversi modelli disponibili nel portale di Foundry.

Per distribuire un modello, seguire questa procedura:

1. Accedere a Microsoft Foundry. Assicurarsi che l'interruttore New Foundry sia disattivato. Questi passaggi fanno riferimento a Foundry (versione classica).

   

2. Nella sezione Continua a costruire con Foundry selezionare Visualizza tutte le risorse.

3. Trovare e selezionare la risorsa.

   Importante

   In questo passaggio ti potrebbe essere offerta di aggiornare la risorsa Azure OpenAI a Foundry. Vedere il confronto tra i due tipi di risorse e i dettagli sull'aggiornamento delle risorse e il rollback in questa pagina. Selezionare Annulla per continuare senza l'aggiornamento del tipo di risorsa. In alternativa, selezionare Avanti.

   Vedere altre informazioni sulla risorsa Foundry in questo articolo.

4. Selezionare Distribuzioni nella sezione Risorse condivise nel riquadro sinistro. Nel caso in cui sia stato eseguito l'aggiornamento a Foundry nel passaggio precedente, selezionare Modelli e endpoint dalla sezione I miei asset nel riquadro sinistro.

5. Selezionare + Distribuisci modello>Distribuisci modello base per aprire la finestra di distribuzione.

6. Selezionare il modello desiderato e quindi confermare. Per un elenco dei modelli disponibili per area, vedere Tabella di riepilogo dei modelli e disponibilità dell'area.

7. Nella finestra successiva configurare i campi seguenti:

   Campo	Descrizione
   Nome distribuzione	Scegliere un nome con attenzione. Il nome della distribuzione viene usato nel codice per chiamare il modello usando le librerie client e le API REST.
   Tipo di distribuzione	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Altre informazioni sulle opzioni del tipo di distribuzione.
   Dettagli distribuzione (facoltativo)	È possibile impostare le impostazioni avanzate facoltative, in base alle esigenze per la risorsa. - Per il Filtro di contenuto, assegnare un filtro di contenuto alla distribuzione. - Per il limite di frequenza dei token al minuto, modificare i token al minuto (TPM) per impostare il limite di velocità effettivo per la distribuzione. È possibile modificare questo valore in qualsiasi momento usando il menu Quote . La quota dinamica consente di sfruttare una maggiore quota quando è disponibile capacità aggiuntiva.

   Importante

   Quando si accede al modello tramite l'API, è necessario fare riferimento al nome della distribuzione anziché al nome del modello sottostante nelle chiamate API, ovvero una delle differenze key tra OpenAI e Azure OpenAI. OpenAI richiede solo il nome del modello. Azure OpenAI richiede sempre il nome della distribuzione, anche quando si usa il parametro del modello. Nella documentazione sono spesso disponibili esempi in cui i nomi di distribuzione sono rappresentati come identici ai nomi dei modelli per indicare quale modello funziona con un determinato endpoint API. In definitiva, i nomi di distribuzione possono seguire una convenzione di denominazione che sia ottimale per il tuo caso d'uso.

8. Selezionare Distribuisci.

9. La sezione Dettagli della distribuzione mostra tutte le informazioni sulla nuova distribuzione. Al termine della distribuzione, lo stato del provisioning del modello diventa Completato con successo.

Prerequisiti

• Sottoscrizione Azure. Crearne uno gratuitamente.
• Autorizzazioni di accesso per creare Azure risorse OpenAI e distribuire modelli.
• interfaccia della riga di comando di Azure. Per altre informazioni, vedere Come installare il interfaccia della riga di comando di Azure.

Accedere al interfaccia della riga di comando di Azure

Accedere a al interfaccia della riga di comando di Azure o selezionare Apri Cloudshell nei passaggi seguenti.

Creare un gruppo di risorse Azure

Per creare una risorsa OpenAI Azure, è necessario un gruppo di risorse Azure. Quando si crea una nuova risorsa tramite il interfaccia della riga di comando di Azure, è anche possibile creare un nuovo gruppo di risorse o indicare Azure di usare un gruppo esistente. L'esempio seguente illustra come creare un nuovo gruppo di risorse denominato OAIResourceGroup con il comando az group create . Il gruppo di risorse viene creato nella regione East US.

az group create \
--name OAIResourceGroup \
--location eastus

Creare una risorsa

Usare il comando az cognitiveservices account create per creare una risorsa Azure OpenAI nel gruppo di risorse. Nell'esempio seguente viene creata una risorsa denominata MyOpenAIResource nel gruppo di risorse OAIResourceGroup . Quando provi l'esempio, aggiorna il codice per utilizzare i valori che desideri per il gruppo di risorse e il nome della risorsa, insieme all'ID della sottoscrizione Azure <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Recuperare informazioni sulla risorsa

Dopo aver creato la risorsa, è possibile usare comandi diversi per trovare informazioni utili sul Azure OpenAI nell'istanza di Microsoft Foundry Models. Gli esempi seguenti illustrano come recuperare l'URL di base dell'endpoint dell'API REST e le chiavi di accesso per la nuova risorsa.

Ottenere l'URL dell'endpoint

Usare il comando az cognitiveservices account show per recuperare l'URL di base dell'endpoint DELL'API REST per la risorsa. In questo esempio, l'output del comando viene diretto tramite il processore JSON jq per individuare il valore .properties.endpoint.

Quando provi l'esempio, aggiorna il codice per usare i tuoi valori per il gruppo di risorse <myResourceGroupName> e la risorsa <myResourceName>.

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Ottenere la chiave API primaria

Per recuperare le chiavi di accesso per la risorsa, usare il comando az cognitiveservices account keys list . In questo esempio, l'output del comando viene diretto tramite il processore JSON jq per individuare il valore .key1.

Quando provi l'esempio, aggiorna il codice per utilizzare i tuoi valori per il gruppo di risorse e la risorsa.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Distribuire un modello

Per distribuire un modello, usare il comando az cognitiveservices account deployment create . Nell'esempio seguente si distribuisce un'istanza del gpt-4o modello e si assegna il nome MyModel. Quando provi l'esempio, aggiorna il codice per usare i tuoi valori per il gruppo di risorse e la risorsa. Non è necessario modificare i model-versionvalori , model-format o sku-capacitye sku-name .

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name accetta i tipi di distribuzione seguenti: Standard, GlobalBatch, GlobalStandarde ProvisionedManaged. Altre informazioni sulle opzioni del tipo di distribuzione.

Eliminare un modello dalla risorsa

È possibile eliminare qualsiasi modello distribuito dalla propria risorsa usando il comando az cognitiveservices account deployment delete. Nell'esempio seguente si elimina un modello denominato MyModel. Quando provi l'esempio, aggiorna il codice per usare i tuoi valori del gruppo di risorse, della risorsa e del modello distribuito.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Eliminare una risorsa

Per eseguire la pulizia dopo questi esercizi, è possibile rimuovere la risorsa OpenAI Azure eliminando la risorsa tramite il interfaccia della riga di comando di Azure. È anche possibile eliminare il gruppo di risorse. Se si sceglie di eliminare il gruppo di risorse, vengono eliminate anche tutte le risorse contenute nel gruppo.

Per rimuovere il gruppo di risorse e le risorse associate, usare il comando az cognitiveservices account delete .

Se non si intende continuare a usare le risorse create in questi esercizi, eseguire il comando seguente per eliminare il gruppo di risorse. Assicurarsi di aggiornare il codice di esempio per usare i valori per il gruppo di risorse e la risorsa.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Prerequisiti

• Sottoscrizione Azure. Crearne uno gratuitamente.
• Azure PowerShell. Per altre informazioni, vedere Come installare il Azure PowerShell.
• Autorizzazioni di accesso per creare Azure risorse OpenAI e distribuire modelli.

Accedere al Azure PowerShell

Accedi a Azure PowerShell o seleziona Apri Cloudshell seguendo i passaggi seguenti.

Creare un gruppo di risorse Azure

Per creare una risorsa OpenAI Azure, è necessario un gruppo di risorse Azure. Quando si crea una nuova risorsa tramite Azure PowerShell, è anche possibile creare un nuovo gruppo di risorse o indicare Azure di usare un gruppo esistente. L'esempio seguente illustra come creare un nuovo gruppo di risorse denominato OAIResourceGroup con il comando New-AzResourceGroup . Il gruppo di risorse viene creato nella regione East US.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Creare una risorsa

Usare il comando New-AzCognitiveServicesAccount per creare una risorsa OpenAI Azure nel gruppo di risorse. Nell'esempio seguente viene creata una risorsa denominata MyOpenAIResource nel gruppo di risorse OAIResourceGroup . Quando provi l'esempio, aggiorna il codice per utilizzare i valori che desideri per il gruppo di risorse e il nome della risorsa, insieme all'ID della sottoscrizione Azure <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Recuperare informazioni sulla risorsa

Dopo aver creato la risorsa, è possibile usare comandi diversi per trovare informazioni utili sul Azure OpenAI nell'istanza di Microsoft Foundry Models. Gli esempi seguenti illustrano come recuperare l'URL di base dell'endpoint dell'API REST e le chiavi di accesso per la nuova risorsa.

Ottenere l'URL dell'endpoint

Usare il comando Get-AzCognitiveServicesAccount per recuperare l'URL di base dell'endpoint dell'API REST per la risorsa. In questo esempio, l'output del comando viene diretto tramite il cmdlet Select-Object per individuare il valore endpoint.

Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse <myResourceGroupName> e la risorsa <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Ottenere la chiave API primaria

Per recuperare le chiavi di accesso per la risorsa, usare il comando Get-AzCognitiveServicesAccountKey . In questo esempio l'output del comando viene diretto tramite il cmdlet Select-Object per individuare il Key1 valore.

Quando si prova l'esempio, aggiornate il codice per usare i vostri valori per il gruppo di risorse e la risorsa.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Distribuire un modello

Per distribuire un modello, usare il comando New-AzCognitiveServicesAccountDeployment . Nell'esempio seguente si distribuisce un'istanza del gpt-4o modello e si assegna il nome MyModel. Quando provi l'esempio, aggiorna il codice per usare i tuoi valori per il gruppo di risorse e la risorsa. Non è necessario modificare i model-versionvalori , model-format o sku-capacitye sku-name .

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

La Name proprietà della $sku variabile accetta i tipi di distribuzione seguenti: Standard, GlobalBatchGlobalStandard, e ProvisionedManaged. Altre informazioni sulle opzioni del tipo di distribuzione.

Eliminare un modello dalla risorsa

È possibile eliminare qualsiasi modello distribuito dalla risorsa con il comando Remove-AzCognitiveServicesAccountDeployment . Nell'esempio seguente si elimina un modello denominato MyModel. Quando provi l'esempio, aggiorna il codice per utilizzare i tuoi valori per il gruppo di risorse, la risorsa e il modello distribuito.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Eliminare una risorsa

Se si vuole eseguire la pulizia dopo questi esercizi, è possibile rimuovere la risorsa OpenAI Azure eliminando la risorsa tramite il Azure PowerShell. È anche possibile eliminare il gruppo di risorse. Se si sceglie di eliminare il gruppo di risorse, vengono eliminate anche tutte le risorse contenute nel gruppo.

Per rimuovere il gruppo di risorse e le risorse associate, usare il comando Remove-AzCognitiveServicesAccount .

Se non si intende continuare a usare le risorse create in questi esercizi, eseguire il comando seguente per eliminare il gruppo di risorse. Assicurarsi di aggiornare il codice di esempio per usare i valori per il gruppo di risorse e la risorsa.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup