Atualização dos modelos GitHub para modelos Microsoft Foundry

Neste artigo, aprende a desenvolver uma aplicação de IA generativa começando pelo GitHub Models e depois melhora a sua experiência implementando um recurso Foundry Tools com o Microsoft Foundry Models.

GitHub Modelos são úteis quando queres encontrar e experimentar modelos de IA gratuitamente enquanto desenvolves uma aplicação de IA generativa. Quando estiver pronto para levar a sua aplicação para produção, melhore a sua experiência implementando um recurso do Foundry Tools numa subscrição do Azure e comece a usar o Foundry Models. Não precisas de alterar mais nada no teu código.

A utilização do playground e da API gratuita para os modelos GitHub é limitada pela taxa de pedidos por minuto, pedidos por dia, tokens por pedido e pedidos concorrentes. Se fores sujeito a um limite de velocidade, tens de esperar que esse limite de velocidade que atingiste seja reposto antes de poderes fazer mais pedidos.

Pré-requisitos

Precisa de:

• Uma conta GitHub com acesso ao GitHub Models.
• Uma subscrição do Azure com um método de pagamento válido. Se não tiver uma subscrição do Azure, crie uma conta do Azure paga para começar. Em alternativa, podes esperar até estares pronto para implementar o teu modelo em produção, altura em que serás solicitado a criar ou atualizar a tua conta Azure para uma conta padrão.
• Modelos Foundry de parceiros e da comunidade requerem acesso ao Azure Marketplace. Certifique-se de que tem as permissões necessárias para aderir às ofertas de modelos. Os modelos Foundry vendidos diretamente por Azure não têm este requisito.

Atualização para modelos de fundição

Os limites de taxa para o playground e a utilização gratuita da API ajudam-no a experimentar modelos e a desenvolver a sua aplicação de IA. Quando estiver pronto para levar a sua aplicação para produção, use uma chave e um endpoint a partir de uma conta Azure paga. Não precisas de alterar mais nada no teu código.

Para obter a chave e o ponto final:

1. Vai a Modelos do GitHub e seleciona um modelo para aceder ao seu ambiente de teste. Este artigo utiliza Mistral Medium 3 (25.05).

2. Escreve alguns prompts ou usa alguns dos prompts sugeridos para interagir com o modelo no playground.

3. Selecionar Usar este modelo no parque infantil. Esta ação abre uma janela para "Começar com Modelos na sua base de código".

4. No passo "Configurar autenticação", selecione Obter chave Foundry da Microsoft na seção "Azure AI".

   

5. Se já está autenticado na sua conta Azure, salte este passo. No entanto, se não tiver uma conta no Azure ou não estiver iniciado na sua conta, siga estes passos:

   1. Se não tiver uma conta Azure, selecione Criar a minha conta e siga os passos para criar uma.

   2. Alternativamente, se tiver uma conta Azure, selecione Iniciar sessão novamente. Se a sua conta atual for gratuita, primeiro tem de fazer um upgrade para um plano padrão.

   3. Volte ao playground do modelo e selecione novamente Obter a chave Microsoft Foundry.

   4. Inicie sessão na sua conta Azure.

6. É levado para Foundry > GitHub e chega à página inicial de um projeto Foundry.

   Dica

   Se estiver na experiência Foundry (clássica), alterne para a nova experiência Foundry utilizando o comutador New Foundry no canto superior direito.

7. Siga os passos em Deploy a Model para implementar o modelo da sua escolha, teste-o no Playground e infera o modelo implementado com código.

8. Verifica se a implementação funciona enviando um prompt de teste no Playground. Se receber uma resposta, o seu modelo está pronto para usar diretamente a partir do código.

Explore funcionalidades adicionais

O Foundry Models suporta funcionalidades que não estão disponíveis no GitHub Models:

• Catálogo de modelos — Explore, compare e avalie modelos de Azure, parceiros e da comunidade open-source.
• Autenticação sem chave — Use Microsoft Entra ID para autenticação baseada em token sem gerir chaves API.
• Filtragem de conteúdos — Configure filtros de segurança de conteúdo para as suas implementações.
• Limitação de taxa — Defina limites de taxa personalizados para modelos específicos no seu recurso.
• Tipos de implementação — Escolha entre múltiplos SKUs de implementação, como pay-per-token, provisioned e batch.

Resolver problemas comuns

Conteúdo relacionado

• Implementar os Modelos Foundry da Microsoft no portal Foundry
• Criar implementações de modelos
• Tipos de implementação para Modelos de Fundição