Consumir APIs sem servidor de um projeto ou hub (clássico) diferente do Microsoft Foundry

Aplica-se somente a:Portal Foundry (clássico). Este artigo não está disponível para o novo portal do Foundry. Saiba mais sobre o novo portal.

Nota

Links neste artigo podem abrir conteúdo na nova documentação do Microsoft Foundry em vez da documentação da Foundry (clássica) que você está exibindo agora.

Neste artigo, você aprenderá a configurar uma APIs sem servidor existente em um projeto ou hub diferente daquele que foi usado para criar a implantação.

Importante

Os modelos que estão em versão prévia são marcados como visualização em seus cartões de modelo no catálogo de modelos.

Determinados modelos no catálogo de modelos podem ser implantados como APIs sem servidor. Esse tipo de implantação fornece uma maneira de consumir modelos como uma API sem hospedá-los em sua assinatura, mantendo a segurança e a conformidade corporativa necessárias pelas organizações. Essa opção de implantação não requer cota de sua assinatura.

A necessidade de consumir um ponto de extremidade de APIs sem servidor em um projeto ou hub diferente daquele que foi usado para criar a implantação pode surgir em situações como estas:

  • Você quer centralizar suas implantações em um determinado projeto ou hub e consumi-las pelos diferentes projetos ou hubs na sua organização.
  • Você precisa implantar um modelo em um hub em uma determinada região Azure em que a implantação sem servidor para esse modelo está disponível. No entanto, você precisa consumi-lo de outra região, onde a implantação sem servidor não está disponível para os modelos em questão.

Pré-requisitos

  • Uma assinatura Azure com uma forma de pagamento válida. As assinaturas de Azure gratuitas ou de avaliação não funcionarão. Se você não tiver uma assinatura Azure, crie uma conta de Azure paga para começar.

  • Um hub Microsoft Foundry, se estiver usando um projeto baseado em hub. Um projeto Foundry não usa um hub. Para obter mais informações, consulte Tipos de projetos.

  • Se você não tiver um, crie um projeto baseado em hub.

  • Um modelo implantado para APIs sem servidor. Este artigo pressupõe que você implantou anteriormente o modelo Meta-Llama-3-8B-Instruct . Para saber como implantar esse modelo como uma API sem servidor, consulte Implantar modelos como APIs sem servidor.

  • Você precisa instalar o seguinte software para trabalhar com o Foundry:

    Você pode usar qualquer navegador da Web compatível para navegar na Foundry.

Criar uma conexão de ponto de extremidade de API sem servidor

Siga estas etapas para criar uma conexão:

  1. Conecte-se ao projeto ou hub onde o endpoint é implantado:

    Dica

    Como você pode customize o painel esquerdo no portal do Microsoft Foundry, você pode ver itens diferentes dos mostrados nestas etapas. Se você não vir o que está procurando, selecione ... Mais na parte inferior do painel esquerdo.

    Vá para Foundry e navegue até o projeto onde o endpoint ao qual você deseja se conectar está implantado.

  2. Obtenha a URL do ponto de extremidade e as credenciais para o ponto de extremidade ao qual você deseja se conectar. Neste exemplo, você obtém os detalhes do nome do endpoint meta-llama3-8b-qwerty.

    1. Na barra lateral esquerda do seu projeto no portal do Foundry, acesse Meus ativos>Modelos + pontos de extremidade para ver a lista de implantações no projeto.

    2. Selecione a implantação à qual você deseja se conectar.

    3. Copie os valores para o URI e a chave de destino.

  3. Agora, conecte-se ao projeto ou hub em que você deseja criar a conexão:

    Vá para o projeto para o qual a conexão precisa ser criada.

  4. Crie a conexão no projeto:

    1. No seu projeto no portal do Foundry, vá para a parte inferior da barra lateral esquerda e selecione o Centro de Gerenciamento.

    2. Na barra lateral esquerda do centro de gerenciamento, selecione Recursos conectados.

    3. Selecione Nova conexão.

    4. Selecione Modelo sem Servidor.

    5. Para o URI de destino, cole o valor copiado anteriormente.

    6. Para a chave, cole o valor copiado anteriormente.

    7. Dê um nome à conexão, nesse caso , meta-llama3-8b-connection.

    8. Selecione Adicionar conexão.

  5. Neste ponto, a conexão está disponível para consumo.

  6. Para validar se a conexão está funcionando:

    1. Retorne ao seu projeto no portal do Foundry.

    2. Na barra lateral esquerda do projeto, vá para Compilar e personalizar> ofluxo de prompt.

    3. Selecione Criar para criar um novo fluxo.

    4. Selecione Criar na caixa de fluxo de chat .

    5. Dê um nome ao fluxo de prompt e selecione Criar.

    6. Selecione o nó chat no gráfico para acessar a seção chat.

    7. Em Conexão, abra a lista de seleção e selecione a conexão que você acabou de criar, nesse caso meta-llama3-8b-connection.

    8. Selecione Iniciar sessão de computação na barra de navegação superior para iniciar uma execução automática do fluxo de prompts.

    9. Selecione a opção Chat . Agora você pode enviar mensagens e obter respostas.

Conteúdo relacionado

  • Last updated on