Erstellen und Verwalten von Prompt-Fluss-Computesitzungen im klassischen Microsoft Foundry-Portal

Gilt nur für:klassisches Foundry Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar. Erfahren Sie mehr über das neue Portal.

Zum Ausführen von Eingabeaufforderungsflüssen benötigen Sie eine Computesitzung. Verwenden Sie Microsoft Foundry, um Computesitzungen für den Promptfluss zu erstellen und zu verwalten.

Eine Eingabeaufforderungs-Computesitzung verfügt über Computerressourcen, die für die Ausführung der Anwendung erforderlich sind, einschließlich eines Docker-Images, das alle erforderlichen Abhängigkeitspakete enthält. Neben der Ausführung des Ablaufs verwendet Foundry die Computesitzung, um die Genauigkeit und Funktionalität der darin integrierten Tools sicherzustellen, wenn Sie Aktualisierungen am Prompt oder Codeinhalt vornehmen.

Voraussetzungen

• Ein Azure Konto mit einem aktiven Abonnement. Wenn Sie kein Konto haben, erstellen Sie ein free Azure Konto, das ein kostenloses Testabonnement enthält.
• Wenn Sie über keins verfügen, erstellen Sie ein hubbasiertes Projekt.

Erstellung einer Berechnungssitzung

Wenn Sie eine Computesitzung starten, können Sie die Standardeinstellungen verwenden oder die erweiterten Einstellungen anpassen.

Starten Sie eine Computesitzung mit Standardeinstellungen

Standardmäßig verwendet die Berechnungssitzung die im flow.dag.yamlFlussordner festgelegte Umgebung. Sie wird auf einer serverlosen Infrastruktur mit einer Virtual-Machine-Größe (VM) ausgeführt, für die Sie ein ausreichendes Kontingent in Ihrem Arbeitsbereich haben.

1. Wechseln Sie zum Projekt im Foundry-Portal.
2. Wählen Sie im linken Bereich Prompt Flow aus und dann den Flow, den Sie ausführen möchten.
3. Wählen Sie in der oberen Symbolleiste des Eingabeaufforderungsflusses Berechnungssitzung starten aus.

Starten einer Computesitzung mit erweiterten Einstellungen

In den erweiterten Einstellungen können Sie den Computetyp auswählen. Sie können zwischen serverloser Rechenleistung und Computeinstanz wählen.

1. Wechseln Sie zum Projekt im Foundry-Portal.

2. Wählen Sie im linken Bereich Prompt Flow aus und dann den Flow, den Sie ausführen möchten.

3. Wählen Sie in der oberen Symbolleiste Ihres Eingabeaufforderungsablaufs den Dropdown-Pfeil auf der rechten Seite der Schaltfläche Computesitzung starten aus. Wählen Sie "Mit erweiterten Einstellungen starten" aus, um die Computesitzung anzupassen.

   

   Sie können zwischen serverloser Rechenleistung und Computeinstanz wählen.

   • Wenn Sie serverlose Berechnung auswählen, können Sie die folgenden Einstellungen festlegen:

     • Passen Sie die Größe der VM an, die von der Berechnungssitzung verwendet wird.
     • Passen Sie die Leerlaufzeit an, um Code zu sparen, indem Sie die Berechnungssitzung automatisch löschen, wenn sie nicht genutzt wird.
     • Legen Sie die vom Benutzer zugewiesene verwaltete Identität fest. Die Berechnungssitzung verwendet diese Benutzeridentität, um ein Basisabbild abzurufen und Pakete zu installieren. Stellen Sie sicher, dass die vom Benutzer zugewiesene verwaltete Identität über Azure Container Registry Pullberechtigung verfügt.

     Wenn Sie die vom Benutzer zugewiesene Identität nicht festlegen, verwendet der Eingabeaufforderungsfluss standardmäßig die Benutzeridentität. Erfahren Sie mehr darüber, wie Sie vom Benutzer zugewiesene Identitäten für einen Arbeitsbereich erstellen und aktualisieren.

     

   • Wenn Sie die Computeinstanz auswählen, können Sie nur die Leerlaufabschaltzeit festlegen.

     • Da es sich um eine vorhandene Computeinstanz handelt, ist die VM-Größe festgelegt und kann sich während einer Berechnungssitzung nicht ändern.

     • Die für diese Computesitzung verwendete Identität wird auch in der Computeinstanz definiert, standardmäßig verwendet sie die Benutzeridentität. Weitere Informationen darüber, wie man einer Computeinstanz eine Identität zuweist

     • Die Abschaltzeit im Leerlauf wird verwendet, um den Lebenszyklus der Berechnungssitzung zu definieren. Wenn die Berechnungs-Sitzung für die von Ihnen festgelegte Zeit im Leerlauf ist, wird sie automatisch gelöscht. Wenn das Leerlaufabschaltung für eine Recheninstanz aktiviert ist, wird sie heruntergefahren, aber nicht gelöscht.

       

4. Wählen Sie "Weiter" aus, um die Basisbildeinstellungen anzugeben. Verwenden Sie das Standardbasisimage, oder stellen Sie ein benutzerdefiniertes Basisimage bereit. Wenn Sie ein angepasstes Basisimage auswählen, geben Sie die Bild-URL und das Bildtag an. Nur Bilder in einer öffentlichen Docker-Registrierung oder der Azure Container Registry (ACR) werden unterstützt. Wenn Sie ein Bild im ACR angeben, stellen Sie sicher, dass Sie (oder die vom Benutzer zugewiesene verwaltete Identität) über die ACR-Pullberechtigung verfügen.

5. Wählen Sie "Weiter" aus, um Ihre Einstellungen zu überprüfen.

6. Wählen Sie "Anwenden" und starten Sie die Computersitzung, um die Computersitzung zu starten.

Verwalten einer Berechnungssitzung

Um eine Computesitzung zu verwalten, wählen Sie auf der oberen Symbolleiste der Flussseite die laufende Computesitzung aus.

• Das Ändern der Computesitzungseinstellungen öffnet die Konfigurationsseite der Computesitzung, auf der Sie die VM-Seite und die Leerlaufzeit für die Computesitzung definieren können.
• Installieren von Paketen aus requirements.txt Wird in der Benutzeroberfläche des Eingabeaufforderungsflusses geöffnet requirements.txt, sodass Sie Pakete hinzufügen können.
• Installierte Pakete anzeigen zeigt die Pakete an, die in der Computesitzung installiert sind. Sie enthält die Pakete, die im Basisabbild sowie in der requirements.txt Datei im Flow-Ordner angegeben sind.
• Das Zurücksetzen der Computesitzung löscht die aktuelle Computesitzung und erstellt eine neue Sitzung mit derselben Umgebung. Wenn ein Paketkonflikt auftritt, können Sie diese Option ausprobieren.
• Beenden der Computesitzung löscht die aktuelle Computesitzung. Wenn keine aktive Computesitzung auf einer zugrunde liegenden serverlosen Rechenressource vorhanden ist, wird die Rechenressource ebenfalls gelöscht. Wenn sich die Computesitzung auf einer Computeinstanz befindet und die Sitzung beendet wird, kann die Instanz in einen Leerlaufzustand übergehen.

Sie können die Umgebung anpassen, die Sie zum Ausführen dieses Flusses verwenden, indem Sie pakete in der requirements.txt Datei im Flussordner hinzufügen. Nachdem Sie in dieser Datei weitere Pakete hinzugefügt haben, wählen Sie eine der folgenden Optionen aus:

• Speichern und Installieren löst pip install -r requirements.txt im Flussordner aus. Der Vorgang kann je nach installierten Paketen einige Minuten dauern.
• Speichern Sie nur die requirements.txt Datei. Sie können die Pakete später selbst installieren.

Hinzufügen von Paketen in einem privaten Feed in Azure DevOps

Wenn Sie einen privaten Feed in Azure DevOps verwenden möchten, führen Sie die folgenden Schritte aus:

1. Erstellen Sie eine vom Benutzer zugewiesene verwaltete Identität, und fügen Sie diese Identität in der Azure DevOps Organisation hinzu. Weitere Informationen finden Sie unter Verwenden von Dienstprinzipalen und verwalteten Identitäten.

   Hinweis

   Wenn die Schaltfläche " Benutzer hinzufügen " nicht sichtbar ist, verfügen Sie wahrscheinlich nicht über die erforderlichen Berechtigungen zum Ausführen dieser Aktion.

2. Hinzufügen oder Aktualisieren von vom Benutzer zugewiesenen Identitäten zu Ihrem Projekt.

3. Fügen Sie {private} zu Ihrer privaten Feed-URL hinzu. Wenn Sie z. B. test_package aus test_feed in Azure DevOps installieren möchten, fügen Sie -i https://{private}@{test_feed_url_in_azure_devops} in requirements.txt hinzu:

   -i https://{private}@{test_feed_url_in_azure_devops}
   test_package
   

4. Geben Sie die vom Benutzer zugewiesene verwaltete Identität in Start mit erweiterten Einstellungen an, wenn die Computesitzung derzeit nicht ausgeführt wird, oder verwenden Sie die Schaltfläche Bearbeiten, wenn die Computesitzung ausgeführt wird.

   

Ändern des Basisimages

Standardmäßig verwenden wir das neueste Eingabeaufforderungsflussbild als Basisbild. Wenn Sie ein anderes Basisimage verwenden möchten, müssen Sie Ein eigenes Basisimage erstellen. Das Docker-Image sollte aus dem Basisimage für den Eingabeaufforderungsfluss erstellt werden. mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version> Verwenden Sie nach Möglichkeit die neueste Version des Basisimages.

1. Öffnen Sie den Eingabeaufforderungsfluss.

2. Wählen Sie auf der oberen Symbolleiste den Modus "Rohdatei " aus, um die Bearbeitung im Datei-Editor zu aktivieren.

3. Öffnen Sie den Abschnitt "Dateien ", und wählen Sie "flow.dag.yaml" aus.

   

4. Geben Sie Ihr Bild im environment Abschnitt der flow.dag.yaml Datei an. Um beispielsweise das Bild <your-custom-image>zu verwenden, fügen Sie den folgenden Code hinzu:

   environment:
       image: <your-custom-image>
       python_requirements_txt: requirements.txt
   

Upgrade der Laufzeit von Compute-Instanzen

Wenn Sie zuvor eine Berechnungsinstanzlaufzeit erstellt haben, wandeln Sie sie anhand der folgenden Schritte in eine Computesitzung um:

• Bereiten Sie Ihre requirements.txt Datei im Flow-Ordner vor. Weitere Informationen finden Sie unter Verwalten einer Computesitzung.

• Wenn Sie eine benutzerdefinierte Umgebung erstellt haben, rufen Sie das Bild von der Detailseite der Umgebung ab, und geben Sie es in der flow.dag.yaml Datei im Flussordner an. Weitere Informationen finden Sie unter Ändern des Basisimages. Stellen Sie sicher, dass Sie über die Berechtigung für das Bild verfügen acr pull .

• Sie können die vorhandene Computeinstanz weiterhin verwenden, wenn Sie den Lebenszyklus manuell verwalten möchten.

Verwandte Ressourcen

• Weitere Informationen zum Eingabeaufforderungsfluss
• Entwickeln eines Flusses
• Entwickeln eines Auswertungsflusses