Exemplos de inferência de API serverless para modelos Foundry (clássico)

Aplica-se apenas a:Portal Foundry (clássico). Este artigo não está disponível para o novo portal da Foundry. Saiba mais sobre o novo portal.

O catálogo de modelos Foundry oferece uma grande seleção de modelos Microsoft Foundry de uma vasta gama de fornecedores. Tens várias opções para implementar modelos do catálogo de modelos. Este artigo lista exemplos de inferência para implementações de APIs serverless.

Para realizar inferências com os modelos, alguns modelos como o TimeGEN-1 da Nixtla e o Cohere Rerank exigem que utilize APIs personalizadas dos fornecedores de modelos. Outros suportam inferência usando a Model Inference API. Pode encontrar mais detalhes sobre modelos individuais ao rever os seus cartões de modelos no catálogo de modelos do portal Foundry.

Cohere

A família de modelos Cohere inclui vários modelos otimizados para diferentes casos de uso, incluindo modelos de reclassificação, completação de chat e embeddings.

Exemplos de inferência: "Cohere command" e "embed"

A tabela seguinte fornece ligações para exemplos de como usar modelos Cohere.

Geração Aumentada de Recuperação (RAG) e exemplos de uso de ferramentas: comando Cohere e embed

Reclassificação do Cohere

Para realizar inferências com modelos de reclassificação do Cohere, é obrigatório usar as APIs personalizadas de reclassificação do Cohere. Para mais informações sobre o modelo de reclassificação Cohere e as suas capacidades, veja Cohere rerank.

Preços para os modelos de reclassificação da Cohere

As consultas, que não devem ser confundidas com a consulta de um utilizador, são um medidor de preços que se refere ao custo associado aos tokens usados como entrada para inferir um modelo Cohere Rerank. O Cohere conta uma única unidade de pesquisa como uma consulta com até 100 documentos a classificar. Documentos com mais de 500 tokens (para Cohere-rerank-v3.5) ou com mais de 4096 tokens (para Cohere-rerank-v3-English e Cohere-rerank-v3-multilingue), ao incluir o comprimento da consulta de pesquisa, são divididos em múltiplos blocos, onde cada bloco conta como um único documento.

Consulte a coleção de modelos Cohere no portal Foundry.

Core42

A tabela seguinte fornece links para exemplos de como usar modelos Jais.

DeepSeek

A família de modelos DeepSeek inclui o DeepSeek-R1, que se destaca em tarefas de raciocínio usando um processo de treino passo a passo, como tarefas de linguagem, raciocínio científico e programação, DeepSeek-V3-0324, um modelo de linguagem Mixture-of-Experts (MoE), entre outros.

A tabela seguinte fornece ligações para exemplos de como utilizar modelos DeepSeek.

Meta

Os modelos e ferramentas Meta Llama são uma coleção de modelos de raciocínio em texto e imagem generativos de IA pré-treinados e afinados. A gama de modelos Meta é escalável para incluir:

• Pequenos modelos de linguagem (SLMs), como os modelos 1B e 3B Base e Instruct, para inferência em dispositivos locais e na periferia da rede.
• Modelos de linguagem de tamanho médio e grande (LLMs) como os modelos Base e Instruct 7B, 8B e 70B
• Modelos de alto rendimento, como o Meta Llama 3.1-405B Instruct, para geração de dados sintéticos e casos de destilação.
• Modelos de alto desempenho nativos e multimodais, Llama 4 Scout e Llama 4 Maverick, utilizam uma arquitetura de mistura de especialistas para oferecer um desempenho líder de mercado na compreensão de texto e imagem.

A tabela seguinte fornece links para exemplos de como usar modelos Meta Llama.

Microsoft

Os modelos da Microsoft incluem vários grupos de modelos, como modelos MAI, modelos Phi, modelos de IA para a saúde e outros. Para ver todos os modelos de Microsoft disponíveis, consulte a coleção de modelos Microsoft no portal Foundry.

A tabela seguinte fornece ligações para exemplos de como usar modelos da Microsoft.

Consulte a coleção de modelos da Microsoft no portal Foundry.

Mistral AI

A Mistral AI oferece duas categorias de modelos, nomeadamente:

• Modelos premium: Incluem Mistral Large, Mistral Small, Mistral-OCR-2503, Mistral Medium 3 (25.05) e Ministral 3B, e estão disponíveis como APIs serverless com faturação baseada em tokens pay-as-you-go.
• Modelos abertos: Estes incluem Mistral-small-2503, Codestral e Mistral Nemo (disponíveis como APIs serverless com faturação baseada em tokens pay-as-you-go), e Mixtral-8x7B-Instruct-v01, Mixtral-8x7B-v01, Mistral-7B-Instruct-v01 e Mistral-7B-v01 (disponíveis para download e execução em endpoints geridos auto-hospedados).

A tabela seguinte fornece links para exemplos de como utilizar modelos de Mistral.

Nixtla

O TimeGEN-1 da Nixtla é um modelo generativo pré-treinado de previsão e deteção de anomalias para dados de séries temporais. O TimeGEN-1 pode produzir previsões precisas para novas séries temporais sem treino, usando apenas valores históricos e covariáveis exógenas como entradas.

Para realizar inferências, o TimeGEN-1 exige que utilize a API de inferência personalizada da Nixtla. Para mais informações sobre o modelo TimeGEN-1 e as suas capacidades, consulte Nixtla.

Estima o número de tokens necessários

Antes de criar uma implementação TimeGEN-1, é útil estimar o número de tokens que planeia consumir e pelos quais será faturado. Um token corresponde a um ponto de dados no seu conjunto de dados de entrada ou de saída.

Suponha que tem o seguinte conjunto de dados de séries temporais de entrada:

Para determinar o número de tokens, multiplique o número de linhas (neste exemplo, duas) e o número de colunas usadas para previsão — sem contar as colunas de unique_id e de carimbo temporal (neste exemplo, três) para obter um total de seis tokens.

Dado o seguinte conjunto de dados de saída:

Também pode determinar o número de tokens contando o número de pontos de dados devolvidos após a previsão de dados. Neste exemplo, o número de tokens é dois.

Estimar preços com base em tokens

Existem quatro medidores de preços que determinam o preço que paga. Estes medidores são os seguintes:

Consulte a coleção de modelos Nixtla no portal Foundry.

Stability AI

Os modelos de IA da Stability implementados através de APIs serverless utilizam a API de Inferência de Modelos na rota /image/generations. Para exemplos de como utilizar modelos de IA de Estabilidade, veja os seguintes exemplos:

• Utiliza o SDK da OpenAI com modelos da Stability AI para pedidos de transformação de texto em imagem
• Use a biblioteca Requests com modelos da Stability AI para pedidos de conversão de texto em imagem
• Utilizar a biblioteca Requests com o Stable Diffusion 3.5 Large para solicitações de imagem-para-imagem
• Exemplo de uma resposta de geração de imagem totalmente codificada

Gretel Navigator

O Gretel Navigator emprega uma arquitetura composta de IA especificamente concebida para dados sintéticos, combinando os melhores modelos de linguagem pequena (SLMs) open-source, afinados em mais de 10 domínios industriais. Este sistema criado de raiz cria conjuntos de dados diversos e específicos de domínio, em escalas de centenas a milhões de exemplos. O sistema também preserva relações estatísticas complexas e oferece maior velocidade e precisão em comparação com a criação manual de dados.

Conteúdo relacionado

• Modelos de implementação como implementações de APIs serverless
• Explore Modelos de Fundição
• Modelos de Fundição e as suas capacidades
• Disponibilidade regional para modelos em implementações de APIs serverless
• Segurança de conteúdo para modelos vendidos diretamente pela Azure