Criar e gerir sessões de computação para fluxos de prompts no portal Microsoft Foundry (versão clássica)

Aplica-se apenas a:Portal Foundry (clássico). Este artigo não está disponível para o novo portal da Foundry. Saiba mais sobre o novo portal.

Precisas de uma sessão de computação para executar fluxos de prompts. Use Microsoft Foundry para criar e gerir sessões de computação de fluxo de prompts.

Uma sessão de computação de fluxo de prompts tem recursos computacionais necessários para a aplicação funcionar, incluindo uma imagem Docker que contém todos os pacotes de dependência necessários. Para além da execução do fluxo, o Foundry utiliza a sessão de computação para garantir a precisão e funcionalidade das ferramentas incorporadas no fluxo quando faz atualizações ao prompt ou ao conteúdo do código.

Pré-requisitos

• Uma conta no Azure com uma subscrição ativa. Se não tiveres uma, cria uma conta Azure free, que inclui uma subscrição de teste gratuita.
• Se não tiveres um, cria um projeto baseado em hubs.

Criar uma sessão de computação

Quando inicias uma sessão de computação, podes usar as definições padrão ou personalizar as definições avançadas.

Iniciar uma sessão de computação com as definições padrão

Por defeito, a sessão de cálculo utiliza o ambiente definido na flow.dag.yamlpasta de fluxo. Corre numa computação serverless com um tamanho de máquina virtual (VM) para o qual tens uma quota suficiente no teu espaço de trabalho.

1. Vai ao teu projeto no portal da Foundry.
2. No painel esquerdo, selecione Fluxo de prompts e depois selecione o fluxo que quer executar.
3. Na barra de ferramentas superior do seu fluxo de prompts, selecione Iniciar sessão de cálculo.

Inicie uma sessão de computação com definições avançadas

Nas definições avançadas, pode selecionar o tipo de computação. Podes escolher entre computação sem servidor e instância de computação.

1. Vai ao teu projeto no portal da Foundry.

2. No painel esquerdo, selecione Fluxo de prompts e depois selecione o fluxo que quer executar.

3. Na barra de ferramentas superior do teu fluxo de prompts, seleciona a seta para baixo do lado direito do botão Iniciar sessão de cálculo. Selecione Iniciar com definições avançadas para personalizar a sessão de cálculo.

   

   Podes escolher entre computação sem servidor e instância de computação.

   • Se escolher computação serverless, pode definir as seguintes definições:

     • Personalize o tamanho da VM que a sessão de computação utiliza.
     • Personaliza o tempo de inatividade, o que poupa código ao eliminar automaticamente a sessão de cálculo se não estiver a ser utilizada.
     • Defina a identidade gerida atribuída pelo utilizador. A sessão de computação utiliza esta identidade para extrair uma imagem base e instalar pacotes. Certifique-se de que a identidade gerida atribuída pelo utilizador tem permissão de pull do Azure Container Registry.

     Se não definires a identidade atribuída pelo utilizador, o fluxo de prompts usa a identidade do utilizador por defeito. Saiba mais sobre como criar e atualizar identidades atribuídas pelo utilizador para um espaço de trabalho.

     

   • Se escolheres a instância de computação, só podes definir o tempo de paragem inativa.

     • Como esta é uma instância de computação existente, o tamanho da VM é fixo e não pode mudar do lado da sessão de computação.

     • A identidade usada para esta sessão de processamento também é definida na instância de processamento, por padrão utiliza a identidade do utilizador. Saiba mais sobre como atribuir identidade à instância de computação

     • O tempo de paragem inativa é usado para definir o ciclo de vida da sessão de cálculo. Se a sessão de cálculo estiver inativa durante o tempo definido, é eliminada automaticamente. Se tiveres o desligamento inativo ativado numa instância de computação, ela desliga-se mas não será apagada.

       

4. Selecione Próximo para especificar as definições base da imagem. Usa a imagem base padrão ou fornece uma imagem base personalizada. Se escolher uma imagem base personalizada, forneça o URL da imagem e a etiqueta da imagem. Apenas imagens num registo público docker ou no Azure Container Registry (ACR) são suportadas. Se especificar uma imagem no ACR, certifique-se de que você (ou a identidade de gestão atribuída pelo utilizador) tem permissão de pull do ACR.

5. Selecione Próximo para rever as suas definições.

6. Selecione Aplicar e inicie a sessão de computação para iniciar a sessão de cálculo.

Gerir uma sessão de computação

Para gerir uma sessão de computação, selecione a Sessão de Computação a correr na barra de ferramentas superior da página do fluxo:

• Alterar as definições da sessão de computação abre a página de configuração da sessão de cálculo, onde podes definir o lado da VM e o tempo de inatividade da sessão de computação.
• Instalar pacotes a partir de requirements.txt Abre requirements.txt na interface de sugestão de fluxo, permitindo-te adicionar pacotes.
• Ver pacotes instalados mostra os pacotes instalados na sessão de computação. Inclui os pacotes integrados na imagem base e os pacotes especificados no ficheiro requirements.txt no diretório de fluxo.
• Reiniciar a sessão de computação elimina a sessão atual e cria uma nova com o mesmo ambiente. Se encontrar um conflito de pacotes, pode tentar esta opção.
• Parar a sessão de computação elimina a sessão de computação atual. Se não houver uma sessão de computação ativa numa computação serverless subjacente, o recurso de computação também é eliminado. Se a sessão de computação estiver numa instância de computação, a interrupção da sessão permite que a instância fique inativa.

Podes personalizar o ambiente que usas para executar este fluxo, adicionando pacotes no requirements.txt ficheiro na pasta do fluxo. Depois de adicionar mais pacotes neste ficheiro, escolha uma destas opções:

• Guarda e instala os gatilhos pip install -r requirements.txt na pasta flow. O processo pode demorar alguns minutos, dependendo dos pacotes que instalar.
• Apenas guardar salva o requirements.txt ficheiro. Podes instalar os pacotes tu próprio mais tarde.

Adicionar pacotes num feed privado no Azure DevOps

Se quiser usar um feed privado no Azure DevOps, siga estes passos:

1. Crie uma identidade gerida atribuída pelo utilizador e adicione essa identidade na organização Azure DevOps. Para saber mais, consulte Usar princípios de serviço e identidades geridas.

   Nota

   Se o botão Adicionar Utilizadores não estiver visível, provavelmente não tem as permissões necessárias para realizar esta ação.

2. Adicione ou atualize identidades atribuídas pelos utilizadores ao seu projeto.

3. Adicione {private} à URL do seu feed privado. Por exemplo, se quiseres instalar test_package a partir de test_feed em Azure DevOps, adiciona -i https://{private}@{test_feed_url_in_azure_devops} em requirements.txt:

   -i https://{private}@{test_feed_url_in_azure_devops}
   test_package
   

4. Especifique a identidade gerida atribuída pelo utilizador em Start com definições avançadas se a sessão de computação não estiver a correr, ou use o botão Editar se a sessão de cálculo estiver a decorrer.

   

Alterar a imagem base

Por padrão, usamos a imagem do fluxo de prompts mais recente como imagem base. Se quiseres usar uma imagem base diferente, precisas de construir a tua própria imagem base. A imagem Docker deve ser construída a partir da imagem base do fluxo de prompts, mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version>. Se possível, use a versão mais recente da imagem base.

1. Abre o fluxo de prompts.

2. Na barra de ferramentas superior, selecione o modo de ficheiro bruto para permitir a edição no editor de ficheiros.

3. Abra a secção Ficheiros e selecione flow.dag.yaml.

   

4. Especifique a sua imagem na environment secção do flow.dag.yaml ficheiro. Por exemplo, para usar a imagem <your-custom-image>, adicione o seguinte código:

   environment:
       image: <your-custom-image>
       python_requirements_txt: requirements.txt
   

Atualizar tempo de execução da instância de computação

Se anteriormente criou um tempo de execução de instância de computação, mude-o para uma sessão de computação usando os seguintes passos:

• Prepare o seu ficheiro requirements.txt na pasta de fluxo. Para mais informações, consulte Gerir uma sessão de computação.

• Se criaste um ambiente personalizado, obtém a imagem da página de detalhe do ambiente e especifica-a no flow.dag.yaml ficheiro na pasta do fluxo. Para saber mais, veja Alterar a imagem base. Certifica-te de que tens acr pull permissão para a imagem.

• Pode continuar a usar a instância de computação existente se quiser gerir manualmente o ciclo de vida.

Recursos relacionados

• Saiba mais sobre o fluxo de prompts
• Desenvolver um fluxo
• Desenvolver um fluxo de avaliação