Erstellen und Bereitstellen einer Azure OpenAI in Microsoft Foundry Models-Ressource (klassisch)

Voraussetzungen

• Ein Azure-Abonnement. Erstellen Sie eine kostenlos.
• Zugriffsberechtigungen für Create Azure OpenAI-Ressourcen und zum Bereitstellen von Modellen.

Erstellen einer Ressource

Die folgenden Schritte zeigen, wie Sie eine Azure OpenAI-Ressource im Azure-Portal erstellen.

Identifizieren der Ressource

1. Melden Sie sich mit Ihrem Azure-Abonnement im Azure-Portal an.

2. Wählen Sie Ressource erstellen aus, und suchen Sie nach der Azure OpenAI. Wenn Sie den Dienst gefunden haben, wählen Sie "Erstellen" aus.

   

3. Geben Sie auf der Seite Create Azure OpenAI die folgenden Informationen für die Felder auf der Registerkarte Basics an:

   Feld	Beschreibung
   Abonnement	Das Azure-Abonnement, das in Ihrer Azure OpenAI-Onboarding-Anwendung verwendet wird.
   Ressourcengruppe	Die Azure Ressourcengruppe, die Ihre Azure OpenAI-Ressource enthalten soll. Sie können eine neue Gruppe erstellen oder eine bereits vorhandene Gruppe verwenden.
   Region	Der Speicherort Ihrer Instanz. Unterschiedliche Speicherorte können Latenzen einführen, wirken sich jedoch nicht auf die Laufzeitverfügbarkeit Ihrer Ressource aus.
   Namen	Ein beschreibender Name für Ihre Azure OpenAI-Ressource, z. B. MyOpenAIResource.
   Preisstufe	Das Preisniveau für die Ressource. Derzeit ist nur die Standardebene für die Azure OpenAI verfügbar. Weitere Informationen zum Preis finden Sie auf der Azure OpenAI-Preisseite

   <sb0>Screenshot, das zeigt, wie Sie eine Azure OpenAI-Ressource im Azure-Portal konfigurieren.</sb0>

4. Wählen Sie "Weiter" aus.

Konfigurieren der Netzwerksicherheit

Auf der Registerkarte "Netzwerk " werden drei Optionen für den Sicherheitstyp angezeigt:

• Option 1: Alle Netzwerke, einschließlich des Internets, können auf diese Ressource zugreifen.
• Option 2: Ausgewählte Netzwerke: konfigurieren der Netzwerksicherheit für die Ressource "Foundry Tools".
• Option 3: Deaktiviert, auf diese Ressource kann keine Netzwerke zugreifen. Sie können private Endpunktverbindungen konfigurieren, die die exklusive Möglichkeit für den Zugriff auf diese Ressource darstellen.

Je nachdem, welche Option Sie auswählen, müssen Sie möglicherweise zusätzliche Informationen angeben.

Option 1: Alle Netzwerke zulassen

Mit der ersten Option können alle Netzwerke, einschließlich des Internets, auf Ihre Ressource zugreifen. Diese Option ist die Standardeinstellung. Für diese Option sind keine zusätzlichen Einstellungen erforderlich.

Option 2: Nur bestimmte Netzwerke zulassen

Mit der zweiten Option können Sie bestimmte Netzwerke identifizieren, die auf Ihre Ressource zugreifen können. Wenn Sie diese Option auswählen, wird die Seite aktualisiert, um die folgenden erforderlichen Felder einzuschließen:

Der Abschnitt "Firewall " enthält ein optionales Adressbereichsfeld , mit dem Sie Firewalleinstellungen für die Ressource konfigurieren können.

Option 3: Deaktivieren des Netzwerkzugriffs

Mit der dritten Option können Sie den Netzwerkzugriff auf Ihre Ressource deaktivieren. Wenn Sie diese Option auswählen, wird die Seite aktualisiert, um die Tabelle "Privater Endpunkt " einzuschließen.

Als Option können Sie einen privaten Endpunkt für den Zugriff auf Ihre Ressource hinzufügen. Wählen Sie "Privaten Endpunkt hinzufügen" aus, und schließen Sie die Endpunktkonfiguration ab.

Bestätigen der Konfiguration und Erstellen der Ressource

1. Wählen Sie "Weiter" aus, und konfigurieren Sie alle Tags für Ihre Ressource nach Bedarf.

2. Wählen Sie "Weiter" aus, um zur endgültigen Phase im Prozess zu wechseln: Überprüfen + Übermitteln.

3. Bestätigen Sie Ihre Konfigurationseinstellungen, und wählen Sie "Erstellen" aus.

4. Das Azure Portal zeigt eine Benachrichtigung an, wenn die neue Ressource verfügbar ist. Wählen Sie "Gehe zu Ressource" aus.

   

Bereitstellen eines Modells

Bevor Sie Text oder Rückschluss generieren können, müssen Sie ein Modell bereitstellen. Sie können aus einem der verschiedenen verfügbaren Modelle im Foundry-Portal auswählen.

Führen Sie die folgenden Schritte aus, um ein Modell bereitzustellen:

1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass der Umschalter "Neue Gießerei " deaktiviert ist. Diese Schritte beziehen sich auf Foundry (klassisch).

   

2. Wählen Sie im Abschnitt " Erstellen mit Foundry " die Option "Alle Ressourcen anzeigen" aus.

3. Suchen und auswählen Sie Ihre Ressource.

   Wichtig

   In diesem Schritt werden Sie möglicherweise angeboten, Ihre Azure OpenAI-Ressource auf Foundry zu aktualisieren. Sehen Sie sich den Vergleich zwischen den beiden Ressourcentypen und Details zum Ressourcenupgrade und rollback auf dieser Seite an. Wählen Sie "Abbrechen" aus, um ohne Ressourcentypupgrade fortzufahren. Wählen Sie alternativ "Weiter" aus.

   Weitere Informationen zur Ressource "Foundry" finden Sie in diesem Artikel.

4. Wählen Sie " Bereitstellungen " im Abschnitt "Freigegebene Ressourcen " im linken Bereich aus. (Falls Sie im vorherigen Schritt ein Upgrade auf Foundry durchgeführt haben, wählen Sie im linken Bereich "Meine Objekte" die Option "Modelle + Endpunkte" aus.)

5. Wählen Sie +Modell bereitstellen>Basismodell bereitstellen, um das Bereitstellungsfenster zu öffnen.

6. Wählen Sie das gewünschte Modell und dann "Bestätigen" aus. Eine Liste der verfügbaren Modelle pro Region finden Sie in der Modellzusammenfassungstabelle und regionsverfügbarkeit.

7. Konfigurieren Sie im nächsten Fenster die folgenden Felder:

   Feld	Beschreibung
   Bereitstellungsname	Wählen Sie einen Namen sorgfältig aus. Der Bereitstellungsname wird in Ihrem Code verwendet, um das Modell mithilfe der Clientbibliotheken und der REST-APIs aufzurufen.
   Bereitstellungstyp	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Weitere Informationen zu Bereitstellungsoptionen.
   Bereitstellungsdetails (optional)	Sie können optionale erweiterte Einstellungen bei Bedarf für Ihre Ressource festlegen. Für den Inhaltsfilter weisen Sie Ihrer Bereitstellung einen Inhaltsfilter zu. – Passen Sie für das Token-Rate-Limit pro Minute die Token pro Minute (TPM) an, um die effektive Ratenbegrenzung für Ihre Bereitstellung festzulegen. Sie können diesen Wert jederzeit mithilfe des Menüs "Kontingente " ändern. Mit dynamischem Kontingent können Sie mehr Kontingent nutzen, wenn zusätzliche Kapazität verfügbar ist.

   Wichtig

   Wenn Sie über die API auf das Modell zugreifen, müssen Sie auf den Bereitstellungsnamen und nicht auf den zugrunde liegenden Modellnamen in API-Aufrufen verweisen. Dabei handelt es sich um eine der key-Unterschiede zwischen OpenAI und Azure OpenAI. OpenAI erfordert nur den Modellnamen. Azure OpenAI erfordert immer den Bereitstellungsnamen, auch wenn der Modellparameter verwendet wird. In unserer Dokumentation haben wir häufig Beispiele, in denen Bereitstellungsnamen mit Modellnamen identisch dargestellt werden, um anzugeben, welches Modell mit einem bestimmten API-Endpunkt funktioniert. Letztendlich können Ihre Bereitstellungsnamen jeder Benennungskonvention folgen, die für Ihren Anwendungsfall am besten geeignet ist.

8. Wählen Sie "Bereitstellen" aus.

9. Die Bereitstellungsdetails zeigen alle Informationen Ihrer neuen Bereitstellung an. Nach Abschluss der Bereitstellung ändert sich ihr Modellbereitstellungsstatus in "Erfolgreich".

Voraussetzungen

• Ein Azure-Abonnement. Erstellen Sie eine kostenlos.
• Zugriffsberechtigungen für Create Azure OpenAI-Ressourcen und zum Bereitstellen von Modellen.
• Die Azure CLI. Weitere Informationen finden Sie unter How to install the Azure CLI.

Melden Sie sich bei der Azure CLI an

Melden Sie sich bei der Azure CLI an oder wählen Sie Cloudshell öffnen in den folgenden Schritten aus.

Erstellen einer Azure-Ressourcengruppe

Zum Erstellen einer Azure OpenAI-Ressource benötigen Sie eine Azure Ressourcengruppe. Wenn Sie eine neue Ressource über die Azure CLI erstellen, können Sie auch eine neue Ressourcengruppe erstellen oder Azure anweisen, eine vorhandene Gruppe zu verwenden. Das folgende Beispiel zeigt, wie Sie eine neue Ressourcengruppe mit dem Namen "OAIResourceGroup " mit dem Befehl "az group create " erstellen. Die Ressourcengruppe wird am Standort "Ost-USA" erstellt.

az group create \
--name OAIResourceGroup \
--location eastus

Erstellen einer Ressource

Verwenden Sie den Befehl az cognitiveservices create, um eine Azure OpenAI-Ressource in der Ressourcengruppe zu erstellen. Im folgenden Beispiel erstellen Sie eine Ressource mit dem Namen "MyOpenAIResource " in der OAIResourceGroup-Ressourcengruppe . Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code, um die gewünschten Werte für die Ressourcengruppe und den Ressourcennamen zu verwenden, zusammen mit Ihrer Azure Abonnement-ID <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Abrufen von Informationen zur Ressource

Nachdem Sie die Ressource erstellt haben, können Sie verschiedene Befehle verwenden, um nützliche Informationen zu Ihrem Azure OpenAI in Microsoft Foundry Models-Instanz zu finden. Die folgenden Beispiele veranschaulichen, wie die BASIS-URL des REST-API-Endpunkts und die Zugriffstasten für die neue Ressource abgerufen werden.

Abrufen der Endpunkt-URL

Verwenden Sie den Befehl "az cognitiveservices-Konto anzeigen ", um die BASIS-URL des REST-API-Endpunkts für die Ressource abzurufen. In diesem Beispiel leiten wir die Befehlsausgabe über den jq JSON-Prozessor an, um den .properties.endpoint Wert zu suchen.

Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code so, dass die Werte für die Ressourcengruppe "myResourceGroupName" und die Ressource "myResourceName" verwendet werden.

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Abrufen des primären API-Schlüssels

Um die Zugriffsschlüssel für die Ressource abzurufen, verwenden Sie den Befehl az cognitiveservices account keys list. In diesem Beispiel leiten wir die Befehlsausgabe über den jq JSON-Prozessor an, um den .key1 Wert zu suchen.

Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code so, dass Ihre Werte für die Ressourcengruppe und die Ressource verwendet werden.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Bereitstellen eines Modells

Zum Implementieren eines Modells verwenden Sie den Befehl az cognitiveservices account deployment create. Im folgenden Beispiel stellen Sie eine Instanz des gpt-4o Modells bereit und weisen ihm den Namen "MyModel" zu. Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code, damit Ihre Werte für die Ressourcengruppe und Ressource verwendet werden. Sie müssen weder die Werte model-versionmodel-formatsku-capacity noch die sku-nameWerte ändern.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name akzeptiert die folgenden Bereitstellungstypen: Standard, , GlobalBatch, GlobalStandardund ProvisionedManaged. Weitere Informationen zu Bereitstellungstyp-Optionen.

Löschen eines Modells aus Ihrer Ressource

Sie können jedes modell, das aus Ihrer Ressource bereitgestellt wird, mit dem Befehl " az cognitiveservices account deployment delete " löschen. Im folgenden Beispiel löschen Sie ein Modell mit dem Namen "MyModel". Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code so, dass die Werte für die Ressourcengruppe, die Ressource und Ihr bereitgestelltes Modell verwendet werden.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Löschen einer Ressource

Wenn Sie nach diesen Übungen bereinigen möchten, können Sie Ihre Azure OpenAI-Ressource entfernen, indem Sie die Ressource über die Azure CLI löschen. Sie können die Ressourcengruppe auch löschen. Wenn Sie die Ressourcengruppe löschen möchten, werden auch alle in der Gruppe enthaltenen Ressourcen gelöscht.

Um die Ressourcengruppe und die zugehörigen Ressourcen zu entfernen, verwenden Sie den Befehl " az cognitiveservices account delete ".

Wenn Sie die in diesen Übungen erstellten Ressourcen nicht weiterhin verwenden werden, führen Sie den folgenden Befehl aus, um Ihre Ressourcengruppe zu löschen. Achten Sie darauf, den Beispielcode so zu aktualisieren, dass Ihre Werte für die Ressourcengruppe und Ressource verwendet werden.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Voraussetzungen

• Ein Azure-Abonnement. Erstellen Sie eine kostenlos.
• Azure PowerShell. Weitere Informationen finden Sie unter How to install the Azure PowerShell.
• Zugriffsberechtigungen für Create Azure OpenAI-Ressourcen und zum Bereitstellen von Modellen.

Melden Sie sich bei der Azure PowerShell an

Anmelden bei Azure PowerShell oder Cloudshell öffnen in den folgenden Schritten.

Erstellen einer Azure-Ressourcengruppe

Zum Erstellen einer Azure OpenAI-Ressource benötigen Sie eine Azure Ressourcengruppe. Wenn Sie eine neue Ressource über Azure PowerShell erstellen, können Sie auch eine neue Ressourcengruppe erstellen oder Azure anweisen, eine vorhandene Gruppe zu verwenden. Das folgende Beispiel zeigt, wie Sie eine neue Ressourcengruppe mit dem Namen "OAIResourceGroup " mit dem Befehl "New-AzResourceGroup" erstellen. Die Ressourcengruppe wird am Standort "Ost-USA" erstellt.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Erstellen einer Ressource

Verwenden Sie den Befehl New-AzCognitiveServicesAccount, um eine Azure OpenAI-Ressource in der Ressourcengruppe zu erstellen. Im folgenden Beispiel erstellen Sie eine Ressource mit dem Namen "MyOpenAIResource " in der OAIResourceGroup-Ressourcengruppe . Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code, um die gewünschten Werte für die Ressourcengruppe und den Ressourcennamen zu verwenden, zusammen mit Ihrer Azure Abonnement-ID <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Abrufen von Informationen zur Ressource

Nachdem Sie die Ressource erstellt haben, können Sie verschiedene Befehle verwenden, um nützliche Informationen zu Ihrem Azure OpenAI in Microsoft Foundry Models-Instanz zu finden. Die folgenden Beispiele veranschaulichen, wie die BASIS-URL des REST-API-Endpunkts und die Zugriffstasten für die neue Ressource abgerufen werden.

Abrufen der Endpunkt-URL

Verwenden Sie den Befehl "Get-AzCognitiveServicesAccount ", um die BASIS-URL des REST-API-Endpunkts für die Ressource abzurufen. In diesem Beispiel leiten wir die Befehlsausgabe über das Cmdlet Select-Object an, um den endpoint Wert zu suchen.

Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code, um die Werte für die Ressourcengruppe <myResourceGroupName> und Ressource <myResourceName> zu verwenden.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Abrufen des primären API-Schlüssels

Verwenden Sie den Befehl "Get-AzCognitiveServicesAccountKey", um die Zugriffsschlüssel für die Ressource abzurufen. In diesem Beispiel leiten wir die Befehlsausgabe über das Cmdlet Select-Object an, um den Key1 Wert zu suchen.

Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code, damit Ihre Werte für die Ressourcengruppe und Ressource verwendet werden.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Bereitstellen eines Modells

Verwenden Sie den Befehl "New-AzCognitiveServicesAccountDeployment ", um ein Modell bereitzustellen. Im folgenden Beispiel stellen Sie eine Instanz des gpt-4o Modells bereit und weisen ihm den Namen "MyModel" zu. Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code, damit Ihre Werte für die Ressourcengruppe und Ressource verwendet werden. Sie müssen weder die Werte model-versionmodel-formatsku-capacity noch die sku-nameWerte ändern.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Die Name Eigenschaft der $sku Variablen akzeptiert die folgenden Bereitstellungstypen: Standard, , GlobalBatch, , GlobalStandardund ProvisionedManaged. Weitere Informationen zu Bereitstellungstyp-Optionen.

Löschen eines Modells aus Ihrer Ressource

Mit dem Befehl "Remove-AzCognitiveServicesAccountDeployment " können Sie jedes aus Ihrer Ressource bereitgestellte Modell löschen. Im folgenden Beispiel löschen Sie ein Modell mit dem Namen "MyModel". Wenn Sie das Beispiel ausprobieren, aktualisieren Sie den Code so, dass die Werte für die Ressourcengruppe, die Ressource und Ihr bereitgestelltes Modell verwendet werden.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Löschen einer Ressource

Wenn Sie nach diesen Übungen aufräumen möchten, können Sie Ihre Azure OpenAI-Ressource entfernen, indem Sie die Ressource über die Azure PowerShell löschen. Sie können die Ressourcengruppe auch löschen. Wenn Sie die Ressourcengruppe löschen möchten, werden auch alle in der Gruppe enthaltenen Ressourcen gelöscht.

Verwenden Sie den Befehl "Remove-AzCognitiveServicesAccount ", um die Ressourcengruppe und die zugehörigen Ressourcen zu entfernen.

Wenn Sie die in diesen Übungen erstellten Ressourcen nicht weiterhin verwenden werden, führen Sie den folgenden Befehl aus, um Ihre Ressourcengruppe zu löschen. Achten Sie darauf, den Beispielcode so zu aktualisieren, dass Ihre Werte für die Ressourcengruppe und Ressource verwendet werden.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup