Azure OpenAI en Microsoft Foundry Models cuotas y límites (clásico)

Visualización actual:Versión - del portal de Foundry (clásico)Cambio a la versión del nuevo portal de Foundry

Este artículo contiene una referencia rápida y una descripción detallada de las cuotas y límites de Azure OpenAI.

Ámbito de cuota

Las cuotas y los límites no se aplican en el nivel de inquilino. En su lugar, el nivel más alto de restricciones de cuota se limita al nivel de suscripción Azure.

Asignación de cuota regional

Los tokens por minuto (TPM) y las solicitudes por minuto (RPM) se definen por región, por suscripción y por modelo o tipo de implementación.

Por ejemplo, si el modelo gpt-4.1 Global Standard aparece con una cuota de 5 millones de TPM y 5 000 RPM, a continuación, each region donde ese model o tipo de implementación está disponible tiene su propio grupo de cuotas dedicado de esa cantidad para each de las suscripciones de Azure. Dentro de una sola suscripción de Azure, es posible usar una mayor cantidad de cuota total de TPM y RPM para un modelo y tipo de implementación determinado, siempre y cuando tenga recursos e implementaciones de modelos repartidos entre varias regiones.

Niveles de cuota

Estamos introduciendo niveles de cuota para mejorar la experiencia de los modelos de Foundry y reducir la fricción a medida que se escalan las cargas de trabajo. Las cuotas ahora aumentarán automáticamente con el uso, lo que ayuda a evitar errores de límite de velocidad al mismo tiempo que crean un entorno más justo para todos los usuarios. Siete niveles estarán disponibles: Nivel gratis y Niveles 1 a 6, con el nivel 6 que ofrece las cuotas más altas. El nivel asignado inicial de un cliente se basa en su uso actual de ese modelo y su relación actual con Microsoft, como el estado contrato Enterprise (EA o MCA-E). 

¿Qué me está cambiando?

Anteriormente, Foundry solo ofrecía niveles de cuota Predeterminado y Enterprise para el tipo de oferta de pago por uso, con una gran diferencia entre cada nivel y un proceso más largo para solicitar aumentos. Con los niveles de cuota, a todos los usuarios se les asigna un nivel con cuotas iguales o superiores a sus niveles anteriores. Los aumentos de cuota aprobados anteriormente se conservan y no se reducen. A medida que aumenta el uso, Foundry aumenta automáticamente las cuotas moviendo los usuarios a niveles superiores y se puede solicitar cuota adicional a través del formulario de cuota.

¿Cómo se moverá automáticamente un cliente de un nivel a otro, por ejemplo, cuáles son los criterios de cambio de nivel? 

Las actualizaciones automáticas de niveles se basan principalmente en las tendencias de consumo de clientes en foundry Models a lo largo del tiempo. Si el uso de un cliente aumenta de modo que su nivel de cuota actual limita su capacidad de usar Foundry Models, el sistema actualizará automáticamente al cliente al siguiente nivel superior. También se tiene en cuenta la relación de un cliente con Microsoft. A los clientes con relaciones empresariales (incluidos EA y MCA-E) con Microsoft se les asignan niveles de cuota superiores. Además, Microsoft también considerará el historial de pagos de un cliente para determinar la idoneidad de las actualizaciones automáticas. 

¿Puedo rechazar las actualizaciones automáticas?

Sí, puede no participar en las actualizaciones automáticas y permanecerá en el nivel actual independientemente de los cambios en el consumo. Reconocemos que algunos de nuestros clientes usan cuota para administrar su facturación. Esto no es el procedimiento recomendado Azure, sin embargo, entendemos que si el sistema está configurado de esa manera no queremos interrumpirlo. Puede obtener más información sobre la administración de facturación y los procedimientos recomendados aquí: Cost Management.

Para no participar, puede establecer la marca siguiente NoAutoUpgradeen :

curl -X PATCH \
  "https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/providers/Microsoft.CognitiveServices/quotaTiers/default?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer <YOUR_ACCESS_TOKEN>" \
  -H "Content-Type: application/json" \
  -d '{
    "properties": {
      "tierUpgradePolicy": "NoAutoUpgrade"
    }
  }'

¿Puedo solicitar más cuota?

Sí, con el formulario de solicitud de cuota siempre puede solicitar más cuota. Si se aprueba la solicitud, el nivel actual seguirá siendo el mismo, pero con más cuota asignada.

¿Cómo puedo comprobar el nivel de cuota de mi suscripción?

Actualmente puede comprobar el nivel de cuota con la API del plano de control:

curl -X GET \
  "https://management.azure.com/subscriptions/9d295860-44e3-44bb-ade9-235cc45c68ba/providers/Microsoft.CognitiveServices/quotaTiers?api-version=2025-10-01-preview" \
  -H "Authorization: Bearer $(az account get-access-token --resource https://management.azure.com --query accessToken -o tsv)" \
  -H "Content-Type: application/json"

import requests
import json
from azure.identity import DefaultAzureCredential


subscriptionId = "{YOUR-SUBSCRIPTION-ID}"
api_version = "2025-10-01-preview" 
base_url = "https://management.azure.com"

token_credential = DefaultAzureCredential()
token = token_credential.get_token('https://management.azure.com/.default')
headers = {
    'Authorization': 'Bearer ' + token.token,
    'Content-Type': 'application/json'
}


list_url = (
    f"{base_url}/subscriptions/{subscriptionId}"
    f"/providers/Microsoft.CognitiveServices/quotaTiers"
    f"?api-version={api_version}"
)

response = requests.get(list_url, headers=headers)
print(json.dumps(response.json(), indent=2))

{
  "value": [
    {
      "properties": {
        "currentTierName": "Tier 1",
        "assignmentDate": "2025-10-18T05:09:05.6334222Z",
        "tierUpgradePolicy": "OnceUpgradeIsAvailable"
      },
      "id": "/subscriptions/aaaaa-bbbbb-ccccc-dddd-eeeeeee/providers/Microsoft.CognitiveServices/quotaTiers/default",
      "name": "default",
      "type": "Microsoft.CognitiveServices/quotaTiers"
    }
  ]
}

Referencia del nivel de cuota

Referencia de cuotas y límites

En la sección siguiente se proporciona una guía rápida sobre las cuotas y límites predeterminados que se aplican a Azure OpenAI:

¹ La cuota de Sora 2 RPM solo cuenta las solicitudes de trabajo de vídeo. Otros tipos de solicitudes no están limitados por velocidad.

² Nuestras API actuales permiten hasta 10 encabezados personalizados, que se pasan a través de la canalización y se devuelven. Algunos clientes ahora superan este recuento de encabezados, lo que produce errores HTTP 431. No hay ninguna solución para este error, aparte de reducir el volumen de encabezados. En futuras versiones de API, no pasaremos por encabezados personalizados. Se recomienda que los clientes no dependan de encabezados personalizados en futuras arquitecturas del sistema.

límites de velocidad del enrutador de modelos

Límites de Batch

Cuota por lotes

En la tabla se muestra el límite de cuota por lotes. Los valores de cuota para lote global se representan en términos de tokens en cola. Al enviar un archivo para el procesamiento por lotes, se cuenta el número de tokens del archivo. Hasta que el trabajo por lotes alcanza un estado de terminal, esos tokens cuentan con el límite total de tokens en cola.

Lote global

B = mil millones | M = millones | K = mil

Lote de zona de datos

gpt-oss

Niveles de uso

Las implementaciones estándar globales usan la infraestructura global de Azure. Enrutan dinámicamente el tráfico del cliente al centro de datos con la mejor disponibilidad para las solicitudes de inferencia del cliente. De forma similar, las implementaciones estándar de zona de datos permiten usar la infraestructura global de Azure para enrutar dinámicamente el tráfico al centro de datos dentro de la zona de datos definida por Microsoft con la mejor disponibilidad para cada solicitud. Esta práctica permite una latencia más coherente para los clientes con niveles bajos a medio de tráfico. Los clientes con altos niveles de uso sostenidos podrían ver una mayor variabilidad en la latencia de respuesta.

Azure niveles de uso de OpenAI están diseñados para proporcionar un rendimiento coherente para la mayoría de los clientes con niveles bajos y medio de tráfico. Cada nivel de uso define el rendimiento máximo (tokens por minuto) que puede esperar con una latencia predecible. Cuando el uso permanece dentro del nivel asignado, la latencia permanece estable y los tiempos de respuesta son coherentes.

¿Qué ocurre si supera el nivel de uso?

• Si el rendimiento de la solicitud supera el nivel de uso (especialmente durante períodos de alta demanda), la latencia de respuesta puede aumentar significativamente.
• La latencia puede variar y, en algunos casos, puede ser más de dos veces mayor que cuando se trabaja dentro del nivel de uso.
• Esta variabilidad es más notable para los clientes con un uso sostenido elevado o patrones de tráfico de ráfaga.

Acciones recomendadas si supera el nivel de uso

Si encuentra errores 429 o observa una mayor variabilidad de latencia, esto es lo que debe hacer:

• Solicitar un aumento de cuota: visite el portal de Azure para solicitar una cuota mayor para la suscripción.
• Considere la posibilidad de actualizar a una oferta Premium (PTU): para cargas de trabajo críticas o de gran volumen, actualice a unidades de rendimiento aprovisionadas (PTU). PTU proporciona recursos dedicados, capacidad garantizada y latencia predecible, incluso a escala. Esta es la mejor opción para las aplicaciones críticas que requieren un rendimiento coherente.
• Supervisión del uso: revise periódicamente las métricas de uso en el portal de Azure para asegurarse de que está trabajando dentro de los límites del nivel. Ajuste la carga de trabajo o la estrategia de implementación según sea necesario.

Puede recibir respuestas 429 (demasiadas solicitudes), incluso cuando las métricas de uso de tokens aparecen por debajo de la cuota.

Esto puede ocurrir en los escenarios siguientes:

• Solicitudes rechazadas debido a límites de longitud de entrada o contexto (HTTP 400). Estas solicitudes no se facturan y pueden no aparecer en las métricas de uso de tokens, pero todavía pueden contar hacia la limitación de velocidad.
• Las solicitudes evaluadas en función del posible uso de tokens (por ejemplo, max_tokens), incluso si no se generan tokens en última instancia.
• Comportamiento de limitación de velocidad distribuida, donde el cumplimiento puede no ser perfectamente preciso o reflejarse inmediatamente en las métricas agregadas.

El límite de uso determina el nivel de uso por encima del cual los clientes podrían ver una mayor variabilidad en la latencia de respuesta. El uso de un cliente se define por modelo. Es el número total de tokens consumidos en todas las implementaciones de todas las suscripciones de todas las regiones de un inquilino determinado.

Estándar global, estándar de zona de datos y estándar

Procedimientos recomendados generales para permanecer dentro de los límites de velocidad

Para minimizar los problemas relacionados con los límites de velocidad, es recomendable usar las técnicas siguientes:

• Implemente la lógica de reintento en la aplicación.
• Evite cambios nítidos en la carga de trabajo. Aumente la carga de trabajo gradualmente.
• Pruebe diferentes patrones de aumento de carga.
• Aumente la cuota asignada a la implementación. Mueva la cuota de otra implementación, si es necesario.

Aumentos de la cuota de solicitudes

Envíe el formulario de solicitud quota para solicitar aumentos de cuota para Foundry Models vendidos directamente por Azure, Azure modelos openAI y modelos de Anthropic. Excepto los modelos de Anthropic, Models de asociados y comunidad no admiten aumentos de cuota.

Las solicitudes de aumento de cuota se procesan en el orden en que se reciben y la prioridad va a los clientes que usan activamente su asignación de cuota existente. Es posible que se denieguen las solicitudes que no cumplen esta condición.

Límites de capacidad de cuota regional

Puede ver la disponibilidad de cuota por región de la suscripción en el portal de Foundry.

Para ver la capacidad de cuota por región para un modelo o versión específicos, puede consultar la API de capacidad de la suscripción. Proporcione un subscriptionId, model_namey y model_version la API devuelvan la capacidad disponible para ese modelo en todas las regiones y tipos de implementación de la suscripción.

Consulte la referencia de API.

Antes de ejecutar el ejemplo:

• Instalar dependencias: pip install azure-identity requests
• Inicie sesión con una identidad de Azure que pueda leer las capacidades del modelo para la suscripción.

import requests
import json
from azure.identity import DefaultAzureCredential

subscriptionId = "Replace with your subscription ID" #replace with your subscription ID
model_name = "gpt-4o"     # Example value, replace with model name
model_version = "2024-08-06"   # Example value, replace with model version

token_credential = DefaultAzureCredential()
token = token_credential.get_token('https://management.azure.com/.default')
headers = {'Authorization': 'Bearer ' + token.token}

url = f"https://management.azure.com/subscriptions/{subscriptionId}/providers/Microsoft.CognitiveServices/modelCapacities"
params = {
    "api-version": "2024-06-01-preview",
    "modelFormat": "OpenAI",
    "modelName": model_name,
    "modelVersion": model_version
}

response = requests.get(url, params=params, headers=headers)
model_capacity = response.json()

print(json.dumps(model_capacity, indent=2))

Contenido relacionado

• Explore cómo administrar cuota para las implementaciones de OpenAI de Azure.
• Obtenga más información sobre los modelos underlying que potencian Azure OpenAI.