Azure OpenAI nos modelos Microsoft Foundry: quotas e limites

Este artigo contém uma referência rápida e uma descrição detalhada das quotas e limites para o Azure OpenAI.

Âmbito da quota

Quotas e limites não são aplicados ao nível do inquilino. Em vez disso, o nível mais elevado de restrições de quotas é definido ao nível de subscrição do Azure.

Alocação de quotas regionais

Os limites de tokens por minuto (TPM) e pedidos por minuto (RPM) são definidos por região, por subscrição e por modelo ou tipo de implementação.

Por exemplo, se o modelo Global Standard gpt-4.1 estiver listado com uma quota de 5 milhões de TPM e 5.000 RPM, então cada região onde esse modelo ou tipo de implementação estiver disponível tem o seu próprio conjunto de quotas dedicado desse valor para cada de as tuas subscrições do Azure. Numa única subscrição Azure, é possível usar uma quantidade maior de quota total de TPM e RPM para um dado modelo e tipo de implementação, desde que tenha recursos e implementações de modelos distribuídos por várias regiões.

Escalões de quotas

Estamos a introduzir Quota Tiers para melhorar a experiência dos Modelos Foundry e reduzir o atrito à medida que as cargas de trabalho aumentam. As quotas vão agora aumentar automaticamente com a utilização, ajudando a evitar erros nos limites de taxa e ao mesmo tempo a criar um ambiente mais justo para todos os utilizadores. Serão disponibilizados sete níveis: Nível Gratuito e Níveis 1 a 6 – com o Nível 6 a oferecer as quotas mais elevadas. O nível inicial atribuído a um cliente baseia-se na utilização atual desse modelo e na sua relação atual com Microsoft, como o estatuto de Acordo Empresarial (EA ou MCA-E). 

O que está a mudar para mim?

Anteriormente, a Foundry oferecia apenas níveis de quota Default e Enterprise para o tipo de oferta pay as you go, com um grande intervalo entre cada nível e um processo mais longo para solicitar aumentos. Com os Quota Tiers, todos os utilizadores recebem um nível com quotas iguais ou superiores aos níveis anteriores. Quaisquer aumentos de quotas previamente aprovados são mantidos e não serão reduzidos. À medida que a utilização cresce, a Foundry aumenta automaticamente as quotas ao transferir utilizadores para níveis superiores, e quotas adicionais ainda podem ser solicitadas através do formulário de quota.

Como é que um cliente se move automaticamente de um nível para outro, por exemplo, quais são os critérios para a mudança de nível? 

As atualizações automáticas de níveis baseiam-se principalmente nas tendências de consumo dos clientes ao longo do tempo entre os Modelos Foundry. Se o consumo de um cliente aumentar de tal forma que o seu nível atual de quota limite a sua capacidade de usar modelos Foundry, o sistema irá automaticamente atualizar o cliente para o nível superior seguinte. A relação do cliente com a Microsoft também é tida em conta. Clientes com relações empresariais (incluindo EA e MCA-E) com Microsoft recebem níveis de quota superiores. Além disso, a Microsoft também considerará o histórico de pagamentos do cliente para determinar a elegibilidade para atualizações automáticas. 

Posso optar por não receber upgrades automáticos?

Sim, pode optar por não receber upgrades automáticos e permanecerá no seu nível atual independentemente das alterações no seu consumo. Reconhecemos que alguns dos nossos clientes utilizam quotas para gerir a faturação. Isto não é a melhor prática do Azure, no entanto, compreendemos que, se o seu sistema estiver configurado dessa forma, não queremos quebrá-lo. Pode saber mais sobre gestão de faturação e melhores práticas aqui: Gestão de Custos.

Para optar por não participar, pode definir o seguinte flag para NoAutoUpgrade:

curl -X PATCH \
  "https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers/default?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer <YOUR_ACCESS_TOKEN>" \
  -H "Content-Type: application/json" \
  -d '{
    "properties": {
      "tierUpgradePolicy": "NoAutoUpgrade"
    }
  }'

Posso pedir mais quota?

Sim, usando o formulário de pedido de quotas podes sempre pedir mais quotas. Se o pedido for aprovado, o nível atual permanecerá o mesmo, mas com mais quotas atribuídas.

Como posso verificar o nível de quota da minha subscrição?

Atualmente, pode verificar o seu nível de quota com a API do plano de controlo:

curl -X GET \
  "https://management.azure.com/subscriptions/9d295860-44e3-44bb-ade9-235cc45c68ba/providers/Microsoft.CognitiveServices/quotaTiers?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer $(az account get-access-token --resource https://management.azure.com --query accessToken -o tsv)" \
  -H "Content-Type: application/json"

import requests
import json
from azure.identity import DefaultAzureCredential


subscriptionId = "{YOUR-SUBSCRIPTION-ID}"
api_version = "2025-10-01-preview" 
base_url = "https://management.azure.com"

token_credential = DefaultAzureCredential()
token = token_credential.get_token('https://management.azure.com/.default')
headers = {
    'Authorization': 'Bearer ' + token.token,
    'Content-Type': 'application/json'
}


list_url = (
    f"{base_url}/subscriptions/{subscriptionId}"
    f"/providers/Microsoft.CognitiveServices/quotaTiers"
    f"?api-version={api_version}"
)

response = requests.get(list_url, headers=headers)
print(json.dumps(response.json(), indent=2))

{
  "value": [
    {
      "properties": {
        "currentTierName": "Tier 1",
        "assignmentDate": "2025-10-18T05:09:05.6334222Z",
        "tierUpgradePolicy": "OnceUpgradeIsAvailable"
      },
      "id": "/subscriptions/aaaaa-bbbbb-ccccc-dddd-eeeeeee/providers/Microsoft.CognitiveServices/quotaTiers/default",
      "name": "default",
      "type": "Microsoft.CognitiveServices/quotaTiers"
    }
  ]
}

Referência de quota por nível

Quotas e limites de referência

A secção seguinte fornece-lhe um guia rápido sobre as quotas e limites padrão que se aplicam ao Azure OpenAI:

¹ A quota de 2 RPM do Sora só conta pedidos de trabalho por vídeo. Outros tipos de pedidos não estão sujeitos a limitação de taxa.

² As nossas APIs atuais permitem até 10 cabeçalhos personalizados, que são passados pelo pipeline e devolvidos. Alguns clientes agora ultrapassam este número de cabeçalhos, o que resulta em erros HTTP 431. Não há solução para este erro, a não ser reduzir o volume do cabeçalho. Nas futuras versões da API, não passaremos pelos cabeçalhos personalizados. Recomendamos que os clientes não dependam de cabeçalhos personalizados em futuras arquiteturas de sistema.

Limites de taxa para model-router

Limites em lote

Quota de lote

A tabela mostra o limite da quota de lote. Os valores de quota para o batch global são representados em termos de tokens em fila. Quando submete um ficheiro para processamento em lote, o número de tokens no ficheiro é contado. Até que o batch job atinja um estado terminal, esses tokens contam para o limite total de tokens em fila.

Lote global

B = biliões | M = milhão | K = mil

Lote de área de dados

GPT-OSS

Níveis de utilização

As implementações de Global Standard utilizam a infraestrutura global do Azure. Eles encaminham dinamicamente o tráfego dos clientes para o centro de dados com a melhor disponibilidade para os pedidos de inferência do cliente. De forma semelhante, as implementações do Data Zone Standard permitem usar a infraestrutura global do Azure para encaminhar dinamicamente o tráfego para o data center dentro da zona de dados definida pela Microsoft, com a melhor disponibilidade para cada pedido. Esta prática permite uma latência mais consistente para clientes com níveis baixos a médios de tráfego. Clientes com níveis elevados de utilização sustentada podem observar maior variabilidade na latência de resposta.

Os níveis de utilização do Azure OpenAI foram concebidos para proporcionar desempenho consistente à maioria dos clientes com níveis baixos a médios de tráfego. Cada nível de utilização define a taxa de throughput máxima (tokens por minuto) que se pode esperar com latência previsível. Quando o seu uso se mantém dentro do seu nível atribuído, a latência mantém-se estável e os tempos de resposta são consistentes.

O que acontece se ultrapassares o teu nível de utilização?

• Se a capacidade do seu pedido exceder o seu nível de uso — especialmente durante períodos de alta demanda — a sua latência de resposta pode aumentar significativamente.
• A latência pode variar e, em alguns casos, pode ser mais do que o dobro do que ao operar dentro do seu escalão de utilização.
• Esta variabilidade é mais notória em clientes com um uso contínuo elevado ou padrões de tráfego em rajadas.

Ações recomendadas se excederes o teu nível de utilização

Se encontrar erros 429 ou notar um aumento da variabilidade da latência, aqui está o que deve fazer:

• Solicite um aumento de quota: visite o portal do Azure para solicitar uma quota maior para a sua subscrição.
• Considere atualizar para uma oferta premium (PTU): para cargas de trabalho críticas em termos de latência ou com alto volume, atualize para Unidades de Taxa de Transferência Provisionadas (PTU). A PTU oferece recursos dedicados, capacidade garantida e latência previsível — mesmo em larga escala. Esta é a melhor escolha para aplicações críticas à missão que exigem desempenho consistente.
• Monitorize a sua utilização: reveja regularmente as métricas de utilização no portal do Azure para garantir que está a operar dentro dos seus limites de nível. Ajusta a tua carga de trabalho ou estratégia de implementação conforme necessário.

Pode receber respostas 429 (Pedidos a Mais) mesmo quando as métricas de utilização de tokens aparecem abaixo da sua quota.

Isto pode ocorrer nos seguintes cenários:

• Pedidos rejeitados devido a limites de comprimento de entrada ou contexto (HTTP 400). Estes pedidos não são faturados e podem não aparecer em métricas de utilização de tokens, mas ainda assim podem contar para a limitação de taxas.
• Pedidos avaliados com base no potencial uso de tokens (por exemplo, max_tokens), mesmo que não sejam gerados tokens em última análise.
• Comportamento distribuído de limitação de taxas, onde a aplicação pode não ser perfeitamente precisa ou imediatamente refletida em métricas agregadas.

O limite de utilização determina o nível de utilização acima do qual os clientes podem observar maior variabilidade na latência de resposta. O uso do cliente é definido por modelo. É o número total de tokens consumidos em todas as implementações, em todas as subscrições, em todas as regiões para um dado inquilino.

Norma Global, Padrão de Zona de Dados e Norma

Melhores práticas gerais para manter os limites de taxa

Para minimizar problemas relacionados com os limites de taxa, é aconselhável utilizar as seguintes técnicas:

• Implementa lógica de nova tentativa na sua aplicação.
• Evite mudanças bruscas na carga de trabalho. Aumenta a carga de trabalho gradualmente.
• Testa diferentes padrões de aumento de carga.
• Aumente a quota atribuída à sua missão. Transferir quota de outra missão, se necessário.

Aumentos das quotas de pedidos

Submeta o formulário de pedido de aumento de quota para solicitar aumentos de quota para modelos Foundry vendidos diretamente pela Azure, modelos Azure OpenAI e Anthropic. Exceto para Anthropic modelos, Modelos de parceiros e comunidade não suportam aumentos de quotas.

Os pedidos de aumento de quotas são processados pela ordem em que são recebidos, e a prioridade vai para os clientes que utilizam ativamente a sua quota de alocação existente. Pedidos que não cumpram esta condição podem ser recusados.

Limites regionais de capacidade de quotas

Pode consultar a disponibilidade de quotas por região para a sua subscrição no portal da Foundry.

Para visualizar a capacidade de quota por região para um modelo ou versão específica, pode consultar a API de capacidade da sua subscrição. Fornece um subscriptionId, model_name e model_version e à API devolve a capacidade disponível para esse modelo em todas as regiões e tipos de implementação da sua subscrição.

Consulte a referência da API.

Antes de apresentares o exemplo:

• Dependências de instalação: pip install azure-identity requests
• Inicie sessão com uma identidade do Azure que consiga ler a capacidade de modelo da subscrição.

import requests
import json
from azure.identity import DefaultAzureCredential

subscriptionId = "Replace with your subscription ID" #replace with your subscription ID
model_name = "gpt-4o"     # Example value, replace with model name
model_version = "2024-08-06"   # Example value, replace with model version

token_credential = DefaultAzureCredential()
token = token_credential.get_token('https://management.azure.com/.default')
headers = {'Authorization': 'Bearer ' + token.token}

url = f"https://management.azure.com/subscriptions/{subscriptionId}/providers/Microsoft.CognitiveServices/modelCapacities"
params = {
    "api-version": "2024-06-01-preview",
    "modelFormat": "OpenAI",
    "modelName": model_name,
    "modelVersion": model_version
}

response = requests.get(url, params=params, headers=headers)
model_capacity = response.json()

print(json.dumps(model_capacity, indent=2))

Conteúdo relacionado

• Explore como gerir quotas para as suas implementações Azure OpenAI.
• Saiba mais sobre os modelos subjacentes que alimentam Azure OpenAI.