Creare e gestire sessioni di calcolo del flusso di richiesta nel portale di Microsoft Foundry (versione classica)

Si applica solo a:Portale di Foundry (versione classica). Questo articolo non è disponibile per il nuovo portale foundry. Altre informazioni sul nuovo portale.

È necessaria una sessione di calcolo per eseguire flussi di richiesta. Usare Microsoft Foundry per creare e gestire sessioni di calcolo del flusso prompt.

Una sessione di calcolo del flusso di richiesta include risorse di calcolo necessarie per l'esecuzione dell'applicazione, inclusa un'immagine Docker che contiene tutti i pacchetti di dipendenza necessari. Oltre all'esecuzione del flusso, Foundry usa la sessione di calcolo per garantire l'accuratezza e la funzionalità degli strumenti incorporati all'interno del flusso quando si apportano aggiornamenti al contenuto del prompt o del codice.

Prerequisiti

• Un account Azure con una sottoscrizione attiva. Se non ne hai uno, crea un account gratuito Azure, che include una sottoscrizione di valutazione gratuita.
• Se non ne hai uno, crea un progetto basato su hub.

Creare una sessione di calcolo

Quando si avvia una sessione di calcolo, è possibile usare le impostazioni predefinite o personalizzare le impostazioni avanzate.

Avviare una sessione di calcolo con le impostazioni predefinite

Per impostazione predefinita, la sessione di calcolo usa l'ambiente definito nella flow.dag.yamlcartella del flusso. Viene eseguito in un ambiente di calcolo serverless con dimensione della macchina virtuale (VM) per cui hai una quota sufficiente nel tuo spazio di lavoro.

1. Vai al tuo progetto nel portale Foundry.
2. Nel riquadro sinistro, seleziona Flusso dei prompt e quindi seleziona il flusso che desideri eseguire.
3. Nella barra degli strumenti superiore del flusso di richiesta selezionare Avvia sessione di calcolo.

Avviare una sessione di calcolo con impostazioni avanzate

Nelle impostazioni avanzate è possibile selezionare il tipo di calcolo. È possibile scegliere tra il calcolo serverless e l'istanza di calcolo.

1. Vai al tuo progetto nel portale Foundry.

2. Nel riquadro sinistro, seleziona Flusso dei prompt e quindi seleziona il flusso che desideri eseguire.

3. Nella barra degli strumenti superiore del flusso di richiesta selezionare la freccia a discesa sul lato destro del pulsante Avvia sessione di calcolo . Selezionare Inizia con le impostazioni avanzate per personalizzare la sessione di calcolo.

   

   È possibile scegliere tra il calcolo serverless e l'istanza di calcolo.

   • Se si sceglie un ambiente di calcolo serverless, è possibile impostare le impostazioni seguenti:

     • Personalizzare le dimensioni della macchina virtuale usate dalla sessione di calcolo.
     • Personalizzare il tempo di inattività, che salva il codice eliminando automaticamente la sessione di calcolo se non è in uso.
     • Impostare l'identità gestita assegnata dall'utente. La sessione di calcolo usa questa identità per eseguire il pull di un'immagine di base e installare i pacchetti. Assicurarsi che l'identità gestita assegnata dall'utente abbia l'autorizzazione pull del registro dei contenitori di Azure.

     Se non si imposta l'identità assegnata dall'utente, il flusso di richiesta usa l'identità utente per impostazione predefinita. Altre informazioni su come creare e aggiornare le identità assegnate dall'utente per un'area di lavoro.

     

   • Se si sceglie l'istanza di calcolo, è possibile impostare solo l'ora di arresto inattiva.

     • Poiché si tratta di un'istanza di calcolo esistente, le dimensioni della macchina virtuale sono fisse e non possono cambiare in una sessione di calcolo.

     • L'identità usata per questa sessione di calcolo viene definita anche nell'istanza di calcolo, per impostazione predefinita usa l'identità utente. Altre informazioni su come assegnare l'identità all'istanza di calcolo

     • Il tempo di arresto inattivo viene usato per definire il ciclo di vita della sessione di calcolo. Se la sessione di calcolo è inattiva per il tempo impostato, viene eliminata automaticamente. Se l'arresto inattivo è abilitato in un'istanza di calcolo, essa si arresta ma non viene eliminata.

       

4. Selezionare Avanti per specificare le impostazioni dell'immagine di base. Usare l'immagine di base predefinita o fornire un'immagine di base personalizzata. Se si sceglie un'immagine di base personalizzata, specificare l'URL dell'immagine e il tag immagine. Sono supportate solo le immagini in un registro Docker pubblico o il Registro Azure Container (ACR). Se si specifica un'immagine nel Registro Azure Container, assicurarsi di disporre dell'autorizzazione pull ACR (o dell'identità di gestione assegnata dall'utente).

5. Selezionare Avanti per esaminare le impostazioni.

6. Selezionare Applica e avvia sessione di calcolo per avviare la sessione di calcolo.

Gestire una sessione di calcolo

Per gestire una sessione di calcolo, selezionare la sessione di calcolo in esecuzione sulla barra degli strumenti superiore della pagina del flusso:

• Modificare le impostazioni della sessione di calcolo apre la pagina di configurazione della sessione di calcolo, in cui è possibile definire il lato macchina virtuale e il tempo di inattività per la sessione di calcolo.
• Installare pacchetti da requirements.txt Si apre requirements.txt nell'interfaccia utente del flusso di richiesta in modo da poter aggiungere pacchetti.
• Visualizzare i pacchetti installati mostra i pacchetti installati nella sessione di calcolo. Includono i pacchetti inseriti nell'immagine di base e i pacchetti specificati nel file requirements.txt nella cartella di flusso.
• Reimposta sessione di calcolo elimina la sessione di calcolo corrente e ne crea una nuova con lo stesso ambiente. Se si verifica un conflitto di pacchetti, è possibile provare questa opzione.
• Arrestare la sessione di calcolo elimina la sessione di calcolo corrente. Se non è presente alcuna sessione di calcolo attiva in un ambiente di calcolo serverless sottostante, viene eliminata anche la risorsa di calcolo. Se la sessione di calcolo si trova in un'istanza di calcolo, l'arresto della sessione consente all'istanza di diventare inattiva.

È possibile personalizzare l'ambiente usato per eseguire questo flusso aggiungendo pacchetti nel requirements.txt file nella cartella del flusso. Dopo aver aggiunto altri pacchetti in questo file, scegliere una di queste opzioni:

• Salva e installa attiva i pip install -r requirements.txt nella cartella del flusso. Il processo può richiedere alcuni minuti, a seconda dei pacchetti installati.
• Salva solo il requirements.txt file. È possibile installare i pacchetti in un secondo momento.

Aggiungere pacchetti in un feed privato in Azure DevOps

Se si vuole usare un feed privato in Azure DevOps, seguire questa procedura:

1. Creare un'identità gestita assegnata dall'utente e aggiungere questa identità nell'organizzazione Azure DevOps. Per ulteriori informazioni, vedere Usare entità del servizio e identità gestite.

   Nota

   Se il pulsante Aggiungi utenti non è visibile, probabilmente non si dispone delle autorizzazioni necessarie per eseguire questa azione.

2. Aggiungere o aggiornare le identità assegnate dall'utente al progetto.

3. Aggiungere {private} all'URL del feed privato. Ad esempio, se si vuole installare test_package da test_feed in Azure DevOps, aggiungere -i https://{private}@{test_feed_url_in_azure_devops} in requirements.txt:

   -i https://{private}@{test_feed_url_in_azure_devops}
   test_package
   

4. Specificare l'identità gestita assegnata dall'utente in Iniziare con le impostazioni avanzate se la sessione di calcolo non è in esecuzione o usare il pulsante Modifica se la sessione di calcolo è in esecuzione.

   

Modificare l'immagine di base

Per impostazione predefinita, viene usata l'immagine del flusso di richiesta più recente come immagine di base. Se si vuole usare un'immagine di base diversa, è necessario creare un'immagine di base personalizzata. L'immagine Docker deve essere compilata dall'immagine di base del flusso di richiesta, mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version>. Se possibile, usare la versione più recente dell'immagine di base.

1. Aprire il flusso del prompt.

2. Sulla barra degli strumenti superiore selezionare Modalità file non elaborato per abilitare la modifica nell'editor di file.

3. Aprire la sezione File e selezionare flow.dag.yaml.

   

4. Specificare l'immagine nella sezione environment del file flow.dag.yaml. Ad esempio, per usare l'immagine <your-custom-image>, aggiungere il codice seguente:

   environment:
       image: <your-custom-image>
       python_requirements_txt: requirements.txt
   

Aggiornare il runtime dell'istanza di calcolo

Se in precedenza è stato creato un runtime di istanza di calcolo, passare a una sessione di calcolo attenendosi alla procedura seguente:

• Preparare il requirements.txt file nella cartella del flusso. Per altre informazioni, vedere Gestire una sessione di calcolo.

• Se è stato creato un ambiente personalizzato, ottenere l'immagine dalla pagina dei dettagli dell'ambiente e specificarla nel flow.dag.yaml file nella cartella del flusso. Per altre informazioni, vedere Modificare l'immagine di base. Assicurati di disporre acr pull dell'autorizzazione per l'immagine.

• È possibile continuare a usare l'istanza di calcolo esistente se si vuole gestire manualmente il ciclo di vita.

Risorse correlate

• Ulteriori informazioni sul prompt flow
• Sviluppare un flusso
• Sviluppare un flusso di valutazione