Supervisión de implementaciones de modelos en modelos de Microsoft Foundry

En este artículo se explica cómo usar Azure Monitor métricas y registros para realizar un seguimiento de la disponibilidad, el rendimiento y el uso de las implementaciones de modelos en Modelos de Foundry. Azure Monitor recopila y agrega automáticamente métricas y registros de las implementaciones de Foundry Models, por lo que puede ver los datos de rendimiento en tiempo real y configurar alertas para problemas.

Requisitos previos

Para usar las funcionalidades de supervisión para las implementaciones de modelos en Modelos de Foundry, necesita lo siguiente:

• Un recurso Microsoft Foundry.

  Propina

  Si usa puntos de conexión de API sin servidor y quiere aprovechar las funcionalidades de supervisión que se explican en este artículo, migre los puntos de conexión de API sin servidor a los modelos foundry.

• Al menos una implementación de modelos.

• Para ver las métricas: al menos el usuario necesita el rol Lector de supervisión en el recurso.

• Para configurar las opciones de diagnóstico: el usuario necesita el rol Colaborador de supervisión (o equivalente) en el recurso.

Métricas

Azure Monitor recopila métricas de Foundry Models automáticamente. No se requiere ninguna configuración. Estas métricas son:

• Almacenado en la base de datos de métricas de serie temporal Azure Monitor.
• Ligero y capaz de admitir alertas casi en tiempo real.
• Se usa para realizar un seguimiento del rendimiento de un recurso a lo largo del tiempo.

Visualización de métricas

Azure Monitor métricas se pueden consultar mediante varias herramientas, entre las que se incluyen:

Portal de fundición

Puede ver las métricas en el portal de Foundry. Para verlos, siga estos pasos:

1. Vaya al portal de Foundry.

2. En Mis recursos en el menú de la barra lateral, seleccione Modelos y puntos de conexión y, a continuación, seleccione el nombre de la implementación sobre la que desea ver las métricas.

3. Seleccione la pestaña Métricas .

4. Puede acceder a una introducción a las métricas comunes que podrían ser de interés. Para las métricas relacionadas con los costos, seleccione el vínculo Azure Cost Management, que proporciona acceso a métricas detalladas de costos posteriores al consumo en la sección Análisis de costos ubicada en el portal de Azure.

   

   Los datos de costos en el portal de Azure muestran los cargos reales posteriores al consumo del modelo, incluidos otros recursos de inteligencia artificial dentro de Foundry. Para obtener una lista completa de los recursos de inteligencia artificial, consulte Compilación con API y modelos personalizables. Hay aproximadamente un retraso de cinco horas desde el evento de facturación hasta que se puede ver en el análisis de costos del portal de Azure.

   Importante

   El vínculo Azure Cost Management proporciona un vínculo directo dentro del portal de Azure, lo que permite a los usuarios acceder a métricas detalladas de costos para los modelos de IA implementados. Este vínculo profundo se integra con la vista del servicio de análisis de costos de Azure, ofreciendo información transparente y accionable sobre los costos de nivel de modelo.

   El vínculo profundo dirige a los usuarios a la vista Análisis de costos del portal de Azure, lo que proporciona una experiencia de un solo clic para ver las implementaciones por recurso, incluido el costo o el consumo del token de entrada/salida. Para ver los datos de costos, necesita al menos acceso de lectura para una cuenta de Azure. Para obtener información sobre cómo asignar acceso a los datos de Cost Management, consulte Asignación de acceso a los datos.

5. Puede ver y analizar métricas con Azure Monitor metrics explorer para segmentar y filtrar las métricas de implementación del modelo.

   

Explorador de métricas

El Explorador de métricas es una herramienta del portal de Azure que permite ver y analizar métricas para Azure recursos. Para más información, consulte Analyze metrics with Azure Monitor metrics explorer.

Para usar Azure Monitor, siga estos pasos:

1. Vaya al portal Azure.

2. Escriba y seleccione Monitor en el cuadro de búsqueda.

3. Seleccione Métricas en el menú de la barra lateral.

4. En Seleccionar ámbito, seleccione los recursos que desea supervisar. Puede seleccionar un recurso o seleccionar un grupo de recursos o una suscripción. Si ese es el caso, asegúrese de seleccionar Tipos de recursos como Herramientas de fundición.

5. Aparece el explorador de métricas. Seleccione las métricas que desea explorar. En el ejemplo siguiente se muestra el número de solicitudes realizadas a las implementaciones del modelo en el recurso.

   

   Importante

   Las métricas de la categoría Azure OpenAI incluyen datos sobre los modelos de OpenAI en el recurso de Azure. La categoría Models contiene todos los modelos disponibles en el recurso, incluidos Azure OpenAI, DeepSeek y Phi. Se recomienda cambiar a este nuevo conjunto de métricas.

6. Puede agregar tantas métricas como sea necesario al mismo gráfico o a un nuevo gráfico.

7. Si lo necesita, puede filtrar las métricas por cualquiera de sus dimensiones disponibles.

   

8. Es útil desglosar métricas específicas por algunas de las dimensiones. En el ejemplo siguiente se muestra cómo desglosar el número de solicitudes realizadas en el recurso por modelo mediante la opción Agregar división:

   

9. Puede guardar los paneles en cualquier momento para evitar tener que configurarlos cada vez.

Otras herramientas

Entre las herramientas que permiten una visualización más compleja se incluyen:

• Workbooks: informes personalizables que puede crear en el portal de Azure. Los libros de trabajo pueden incluir texto, métricas y consultas de registros.
• Grafana: una herramienta de plataforma abierta que destaca en los paneles operativos. Puede usar Grafana para crear paneles que incluyan datos de varios orígenes distintos de Azure Monitor.
• Power BI: un servicio de análisis empresarial que proporciona visualizaciones interactivas en varios orígenes de datos. Puede configurar Power BI para importar automáticamente datos de registro de Azure Monitor para aprovechar estas visualizaciones.

Referencia de métricas

Están disponibles las siguientes categorías de métricas:

Modelos: solicitudes

Modelos: latencia

Modelos: uso

Registros

Los registros de recursos proporcionan información sobre las operaciones realizadas por un recurso de Azure. Los registros se generan automáticamente, pero debe enrutarlos a los registros de Azure Monitor para guardarlos o consultarlos al configurar un ajuste de diagnóstico. Los registros se organizan en categorías. Al crear una configuración de diagnóstico, se especifican las categorías de registros que se van a recopilar.

Las siguientes categorías de registro están disponibles para Foundry Models:

Para obtener más información sobre todas las categorías de registro disponibles, consulte Azure Monitor categorías de registro de recursos.

Configuración de las opciones de diagnóstico

Todas las métricas se pueden exportar con la configuración de diagnóstico en Azure Monitor. Para analizar registros y datos de métricas con consultas Azure Monitor Log Analytics, puede configurar las opciones de diagnóstico para el recurso de Foundry Tools. Realice esta operación en cada recurso.

Para configurar la configuración de diagnóstico para el recurso Foundry:

1. Vaya al portal Azure y busque el recurso Foundry.

2. En Supervisión en el menú de la barra lateral, seleccione Configuración de diagnóstico.

3. Seleccione Agregar configuración de diagnóstico.

4. Escriba un nombre para la configuración de diagnóstico.

5. En Registros, seleccione las categorías de registro que desea recopilar (por ejemplo, RequestResponseLogs).

6. En Métricas, seleccione AllMetrics para exportar métricas.

7. En Destination details, seleccione Send to Log Analytics workspace y elija un área de trabajo en la suscripción.

8. Seleccione Guardar.

Consulta de registros con KQL

Después de configurar los ajustes de diagnóstico para enviar métricas a Log Analytics, puede consultar y analizar datos de registro mediante el lenguaje de consulta Kusto (KQL).

Para consultar las métricas, siga estos pasos:

1. Vaya al portal Azure.

2. Busque el recurso Foundry que desea consultar.

3. En Supervisión en el menú de la barra lateral, seleccione Registros. Si las opciones de la ventana de consulta se rellenan, cierre la ventana.

4. Se rellenará una nueva pestaña de consulta. Seleccione la lista desplegable Modo de ejemplo y seleccione Modo KQL.

5. Para examinar las métricas de Azure, escriba una consulta personalizada o copie y pegue la consulta siguiente:

   AzureMetrics
   | take 100
   | project TimeGenerated, MetricName, Total, Count, Maximum, Minimum, Average, TimeGrain, UnitName
   

6. Seleccione Ejecutar.

   Nota

   Al seleccionar Monitoring>Logs en el menú del recurso, Log Analytics se abre con el ámbito de consulta establecido en el recurso actual. Las consultas de registro visibles incluyen solo datos de ese recurso específico. Para ejecutar una consulta que incluya datos de otros recursos o datos de otros servicios de Azure, seleccione Logs en el menú Azure Monitor en el portal de Azure. Para obtener más información, consulte Alcance de la consulta de registros y rango de tiempo en Azure Monitor Log Analytics.

Solución de problemas

Pasos siguientes

• Configurar alertas de métricas para recursos de Azure
• Crear cuadernos de Azure Monitor
• Más información sobre los tipos de implementación en Foundry Models
• Introducción a Azure Monitor