Atualizar de modelos de GitHub para modelos de Microsoft Foundry

Neste artigo, você aprenderá a desenvolver um aplicativo de IA generativa a partir de Modelos do GitHub e, em seguida, a aprimorar sua experiência implantando um recurso de Ferramentas Foundry com Modelos Foundry da Microsoft.

GitHub Models são úteis quando você deseja encontrar e experimentar modelos de IA gratuitamente à medida que desenvolve um aplicativo de IA generativo. Quando estiver pronto para levar seu aplicativo para produção, atualize sua experiência implantando um recurso de Ferramentas de Fundação em uma assinatura Azure e comece a usar Modelos de Fundação. Você não precisa alterar mais nada em seu código.

O uso do playground e da API gratuita para os modelos do GitHub é limitado por taxa, com restrições de solicitações por minuto, solicitações por dia, tokens por solicitação e solicitações simultâneas. Se você for limitado pela taxa, será necessário aguardar que o limite de taxa que você atingiu seja redefinido antes de fazer mais requisições.

Pré-requisitos

Você precisa:

• Uma conta GitHub com acesso a modelos GitHub.
• Uma assinatura Azure com uma forma de pagamento válida. Se você não tiver uma assinatura Azure, crie uma conta de Azure paga para começar. Como alternativa, você pode aguardar até estar pronto para implantar seu modelo em produção, momento em que você será solicitado a criar ou atualizar sua conta Azure para uma conta padrão.
• Modelos do Foundry de parceiros e da comunidade requerem acesso ao Azure Marketplace. Verifique se você tem as permissões necessárias para assinar os modelos oferecidos. Modelos Foundry vendidos diretamente pela Azure não têm esse requisito.

Atualizar para modelos do Foundry

Os limites de taxa para o playground e o uso gratuito da API ajudam você a experimentar modelos e desenvolver seu aplicativo de IA. Quando estiver pronto para levar seu aplicativo à produção, use uma chave e um endpoint de uma conta Azure paga. Você não precisa alterar mais nada em seu código.

Para obter a chave e o ponto de extremidade:

1. Acesse Modelos do GitHub e selecione um modelo para acessar seu playground. Este artigo usa o Mistral Medium 3 (25.05).

2. Digite alguns prompts ou use alguns dos prompts sugeridos para interagir com o modelo no playground.

3. Selecione Usar esse modelo no playground. Essa ação abre uma janela para "Comece a trabalhar com Modelos em sua base de código".

4. Na etapa "Configurar autenticação", selecione Obter chave Microsoft Foundry na seção "Azure AI".

   

5. Se você já estiver conectado à sua conta Azure, ignore esta etapa. No entanto, se você não tiver uma conta Azure ou não estiver conectado à sua conta, siga estas etapas:

   1. Se você não tiver uma conta Azure, selecione Criar minha conta e siga as etapas para criar uma.

   2. Como alternativa, se você tiver uma conta Azure, selecione Entrar novamente. Se sua conta existente for uma conta gratuita, primeiro você precisará atualizar para um plano padrão.

   3. Retorne ao playground do modelo e selecione Obter chave Microsoft Foundry novamente.

   4. Entre em sua conta do Azure.

6. Você é levado para Foundry > GitHub e chega na página inicial de um projeto do Foundry.

   Dica

   Se você acessar a experiência Foundry (clássica), ative a opção Nova Foundry no canto superior direito da tela para alternar para a nova experiência Foundry.

7. Siga as etapas em Implantar um modelo para implantar o modelo de sua escolha, testá-lo no Playground e inferência do modelo implantado com código.

8. Verifique se a implantação funciona enviando um prompt de teste no Playground. Se você receber uma resposta, seu modelo estará pronto para ser usado no código.

Explorar recursos adicionais

O Foundry Models dá suporte a recursos que não estão disponíveis em modelos de GitHub:

• Model catalog — Procurar, comparar e avaliar modelos de Azure, parceiros e a comunidade de software livre.
• Autenticação sem chaves — use Microsoft Entra ID para autenticação baseada em token sem gerenciar chaves de API.
• Filtragem de conteúdo – configure filtros de segurança de conteúdo para suas implantações.
• Limitação de taxa — defina limites de taxa personalizados para modelos específicos em seu recurso.
• Tipos de implantação – escolha entre vários SKUs de implantação, como pay-per-token, provisionado e lote.

Solucionar problemas comuns

Conteúdo relacionado

• Deploy Microsoft Foundry Models no portal da Foundry
• Criar implantações de modelo
• Tipos de implantação para modelos Foundry