Límites y cuotas de servicio

Este artículo contiene una referencia rápida y una descripción detallada de Azure Document Intelligence en las cuotas y límites de herramientas de fundición para todos los niveles de precios. También contiene algunos procedimientos recomendados para evitar la limitación de solicitudes.

Uso del modelo

Descripción detallada, ajuste de cuota y procedimientos recomendados

Los límites predeterminados se pueden ampliar solicitando un aumento a través de una incidencia de soporte. Antes de solicitar un aumento de cuota (si procede), asegúrese de que es necesario.

Si la aplicación devuelve el código de respuesta 429 (demasiadas solicitudes) está por encima del umbral de una o varias de las transacciones por segundo (TPS):

• Límite de transacciones de análisis por segundo TPS para enviar solicitudes de análisis (POST)
• Límite de obtención de operaciones por segundo Las transacciones por segundo para consultar los resultados en las operaciones de análisis (GET)
• Límite de operaciones de administración de modelos por segundo Operaciones relacionadas con la administración de modelos, como compilación o entrenamiento y copia.
• Límite de operaciones de listado por segundo Operaciones relacionadas con el listado de modelos y otras operaciones.

Mejores prácticas generales para mitigar la limitación de velocidad

Para minimizar los problemas relacionados con la limitación (código de respuesta 429), se recomienda usar las técnicas siguientes:

• Implementación de la lógica de reintento en la aplicación
• Evite cambios nítidos en la carga de trabajo. Aumento gradual de la carga de trabajo
  Ejemplo. La aplicación usa Inteligencia de Documentos y la carga de trabajo actual es de 10 TPS (transacciones por segundo). Al siguiente segundo aumentas la carga a 40 TPS. El resultado es un código de respuesta 429 para algunas solicitudes, ya que ha superado el límite de 15 TPS (transacciones por segundo) para realizar operaciones de análisis. Puede reducir el procesamiento para permanecer por debajo de los 15 TPS o solicitar un aumento en el TPS para soportar volúmenes más altos.

En las secciones siguientes se describen casos específicos de ajuste de cuotas. Ir a La inteligencia de documentos: aumentar el límite de solicitudes simultáneas

Aumento del límite de solicitudes de transacciones por segundo

De forma predeterminada, el número de transacciones por segundo está limitado a 15 transacciones por segundo para un recurso de Document Intelligence. Para el plan de tarifa Estándar, se pueden enviar solicitudes de aumento de TPS, pero si se pueden aprobar y en qué ajuste de nivel de TPS dependerán de los patrones de uso diario y de los procedimientos recomendados que se siguen. Antes de enviar la solicitud, asegúrese de que está familiarizado con el material de esta sección y tenga en cuenta estos procedimientos recomendados.

El aumento del límite de solicitudes simultáneas no afecta directamente a los costos. El servicio de Inteligencia Documental utiliza el modelo "Paga solo por lo que utilices". El límite define hasta qué punto puede escalar el servicio antes de que empiece a limitar las solicitudes.

El valor existente de diferentes categorías de límite de solicitudes está disponible a través de Azure portal, en la pestaña Supervisión de la hoja de información general de recursos.

Crear y enviar una solicitud de soporte para aumentar TPS

Inicie el aumento del límite de transacciones por segundo (TPS) para el recurso mediante el envío de la solicitud de soporte técnico:

• Inicie sesión en el portal Azure
• Seleccione el recurso de Document Intelligence para el que desea aumentar el límite de TPS.
• Seleccione -Nueva solicitud de soporte- (grupo de soporte y solución de problemas). Aparece una nueva ventana con información rellenada automáticamente sobre la suscripción de Azure y el recurso de Azure
• Escriba -Summary- (como "Aumentar el límite de TPS de inteligencia de documentos")
• Seleccione "Validación de cuota o uso" para el campo tipo de problema.
• Seleccione -Siguiente: Soluciones-
• Continúe con la creación de la solicitud.
• Escriba la siguiente información en el campo -Description- (Descripción), en la pestaña Detalles:
  • Tenga en cuenta que la solicitud se refiere a la cuota de Document Intelligence.
  • Proporcione una expectativa de TPS que le gustaría escalar para satisfacer. Aunque los aumentos de TPS son gratuitos, solo debe solicitar un TPS que sea razonable para la carga de trabajo.
  • información de recursos de Azure
  • Complete la información necesaria y seleccione el botón -Crear- en la pestaña -Revisar + crear-
  • Tenga en cuenta el número de solicitud de soporte técnico en las notificaciones del portal de Azure. Espere a que el soporte técnico se ponga en contacto con usted en breve para continuar con el proceso.

Ejemplo de una práctica recomendada de patrón de carga de trabajo

Este ejemplo presenta el enfoque que recomendamos seguir para mitigar la posible limitación en el número de solicitudes. No es una receta exacta, sino simplemente una plantilla que invitamos a seguir y ajustar según sea necesario.

Supongamos que un recurso de Inteligencia de documentos tiene establecido el límite predeterminado. Comience el proceso de trabajo para enviar las solicitudes para análisis. Si observa que ve una limitación frecuente con el código de respuesta 429 al comprobar la finalización, empiece por implementar un retroceso exponencial en la solicitud de respuesta GET analyze. Mediante el uso de un tiempo de espera progresivamente mayor entre reintentos para respuestas de error consecutivas, por ejemplo, un patrón 2-5-13-34 de retrasos entre solicitudes. En general, se recomienda no llamar a la respuesta get analyze más de una vez cada 2 segundos para una solicitud POST correspondiente. La analyze respuesta también contiene un encabezado retry-after que indica cuánto tiempo debe esperar en segundos antes de verificar la finalización de dicha solicitud.

Si observa que le están restringiendo el número de solicitudes POST para los documentos que son enviados, considere la posibilidad de agregar un retraso entre las solicitudes. Si la carga de trabajo requiere un mayor grado de procesamiento simultáneo, debe crear una solicitud de soporte técnico para aumentar los límites de servicio en las transacciones por segundo.

Por lo general, se recomienda probar la carga de trabajo y los patrones de carga de trabajo antes de ir a producción.

Pasos siguientes