Consumir APIs serverless de um projeto ou hub diferente do Microsoft Foundry (clássico)

Aplica-se apenas a:Portal Foundry (clássico). Este artigo não está disponível para o novo portal da Foundry. Saiba mais sobre o novo portal.

Nota

Os links neste artigo podem abrir conteúdo na nova documentação do Microsoft Foundry em vez da documentação do Foundry (clássico) que está a ver agora.

Neste artigo, aprende como configurar APIs serverless existentes num projeto ou hub diferente daquele que foi usado para criar a implementação.

Importante

Os modelos que estão em pré-visualização são marcados como pré-visualização nos seus cartões de modelos no catálogo de modelos.

Certos modelos no catálogo de modelos podem ser implementados como APIs serverless. Este tipo de implementação oferece uma forma de consumir modelos como uma API sem os hospedar na sua subscrição, mantendo a segurança e conformidade empresariais de que as organizações necessitam. Esta opção de implementação não exige quota da sua subscrição.

A necessidade de consumir um endpoint de APIs serverless num projeto ou hub diferente daquele usado para criar a implementação pode surgir em situações como estas:

  • Quer centralizar as suas implementações em um projeto ou hub específico e utilizá-las a partir de diferentes projetos ou hubs da sua organização.
  • É necessário implementar um modelo num hub numa determinada região do Azure onde esteja disponível a implementação serverless desse modelo. No entanto, é necessário utilizá-lo de outra região, onde as implementações sem servidor não estão disponíveis para os modelos específicos.

Pré-requisitos

  • Uma subscrição do Azure com um método de pagamento válido. Subscrições gratuitas ou de teste no Azure não funcionam. Se não tiver uma subscrição do Azure, crie uma conta do Azure paga para começar.

  • Um Microsoft Foundry hub, se estiver a usar um projeto baseado em hub. Um projeto Foundry não utiliza um hub. Para mais informações, consulte Tipos de projeto.

  • Se não tiveres um, cria um projeto baseado em hubs.

  • Um modelo implementado em APIs serverless. Este artigo parte do princípio de que já implementou anteriormente o modelo Meta-Llama-3-8B-Instruct . Para aprender a implementar este modelo como uma API serverless, veja Deploy models as serverless APIs.

  • Precisa de instalar o seguinte software para funcionar com o Foundry:

    Pode usar qualquer navegador web compatível para navegar no Foundry.

Criar uma ligação de endpoint API serverless

Siga estes passos para criar uma ligação:

  1. Ligue-se ao projeto ou hub onde o endpoint está implementado:

    Dica

    Como podes personalizar o painel esquerdo no portal Microsoft Foundry, podes ver itens diferentes dos mostrados nestes passos. Se não vires o que procuras, seleciona ... Mais na parte inferior do painel esquerdo.

    Vai ao Foundry e navega até ao projeto onde o endpoint ao qual queres ligar-te está implementado.

  2. Obtenha a URL e as credenciais para o endpoint ao qual pretende conectar-se. Neste exemplo, obtém os detalhes de um nome endpoint meta-llama3-8b-qwerty.

    1. Na barra lateral esquerda do seu projeto no portal Foundry, vá a Os meus assets>Modelos + endpoints para ver a lista de implementações no projeto.

    2. Seleciona a implementação à qual queres ligar-te.

    3. Copie os valores para URI do Alvo e Chave.

  3. Agora, liga-te ao projeto ou hub onde queres criar a ligação:

    Dirija-se ao projeto para o qual a ligação precisa ser criada.

  4. Crie a ligação no projeto:

    1. A partir do seu projeto no portal Foundry, vá para a parte inferior da barra lateral esquerda e selecione Centro de gestão.

    2. Na barra lateral esquerda do centro de gestão, selecione Recursos Conectados.

    3. Selecionar Nova ligação.

    4. Selecione Modelo Serverless.

    5. Para o URI Target, cole o valor que copiou anteriormente.

    6. Para a Chave, cole o valor que copiou anteriormente.

    7. Dá um nome à ligação, neste caso meta-llama3-8b-connection.

    8. Selecionar Adicionar ligação.

  5. Neste ponto, a ligação está disponível para consumo.

  6. Para validar que a ligação está a funcionar:

    1. Volte ao seu projeto no portal Foundry.

    2. Na barra lateral esquerda do seu projeto, vá a Construir e personalize>o fluxo do Prompt.

    3. Selecione Criar para criar um novo fluxo.

    4. Selecione Criar na caixa do fluxo de chat .

    5. Dá um nome ao fluxo do teu Prompt e seleciona Criar.

    6. Selecione o nó de chat do gráfico para ir à área de chat.

    7. Para Conexão, abra a lista suspensa para selecionar a conexão que acabou de criar, neste caso meta-llama3-8b-connection.

    8. Selecione Iniciar sessão de cálculo na barra de navegação superior para iniciar uma execução automática de fluxo de prompts.

    9. Selecione a opção Chat . Agora pode enviar mensagens e receber respostas.

Conteúdo relacionado

  • Last updated on