Supervisión del estado y el rendimiento del agente en toda la flota

A medida que su organización se escala de copilotos aislados a flotas de varios agentes autónomos, el mantenimiento de la visibilidad y el control se vuelve crítico. Microsoft Foundry Control Plane proporciona un centro de control unificado donde puede monitorizar todos los agentes, modelos y herramientas de toda la empresa, desde el desarrollo hasta la producción.

La supervisión de flotas ofrece varios roles:

• Los administradores de equipo obtienen supervisión de las operaciones del agente y la productividad del equipo.
• Los administradores aplican directivas de gobernanza y realizan un seguimiento de la posición de cumplimiento.
• Los administradores de costos optimizan el gasto e identifican las ineficacias de los recursos.
• Los equipos de seguridad supervisan los comportamientos prohibidos y las infracciones de directivas.

En este artículo se muestra cómo usar las funcionalidades del plano de control de Foundry para realizar un seguimiento del estado del agente, el rendimiento, el cumplimiento y la rentabilidad a escala. Mediante la supervisión centralizada, puede identificar problemas tempranos, optimizar el consumo de recursos y ayudar a garantizar que los sistemas de inteligencia artificial funcionen de forma segura y confiable.

Requisitos previos

• Una cuenta de Azure con una suscripción activa. Si no tiene una, cree una cuenta de free Azure, que incluye una suscripción de evaluación gratuita.

• Un proyecto de fundición. Si no tiene uno, cree un proyecto.

• Los permisos siguientes:
  • Acceso de lectura al proyecto y a la suscripción sobre los cuales desea ver los datos
  • Log Analytics Reader un rol o superior en el recurso de Application Insights asociado con su agente
  • Rol lector de administración de costos

Funcionamiento de la supervisión

El Plano de Control Foundry detecta todos los agentes a los que puede acceder. Usa los recursos de Application Insights que hospedan los agentes para ayudarle a supervisar y diagnosticar esos agentes.

Foundry Control Plane admite:

Dado que el plano de control de Foundry agrega información entre los recursos de la suscripción, es posible que distintos usuarios vean diferentes agentes en la lista, en función de su acceso.

Foundry Control Plane agrega registros y métricas disponibles en cada recurso de Application Insights conectado a cada agente.

El plano de control de Foundry requiere que los agentes registren información de diagnóstico siguiendo los estándares de OpenTelemetry con convenciones semánticas para aplicaciones de inteligencia artificial generativa . No es necesario configurar Application Insights en cada recurso, pero es muy recomendable hacerlo. Cuando el plano de control tiene estos datos, puede proporcionar lo siguiente:

• Métricas de mantenimiento de la flota: realice un seguimiento de los agentes activos, las tasas de finalización de la ejecución y las tendencias de errores en toda la flota.
• Seguimiento de costos y rendimiento: supervise el uso de tokens, el consumo presupuestado y la eficiencia de los recursos en todos los agentes.
• Detección de anomalías: identifique los picos de costos, la degradación del rendimiento y los problemas emergentes mediante el análisis de tendencias.
• Análisis desglosado: pasar de las métricas del nivel de flota a los rastros y registros de agentes individuales para una investigación detallada.

Configuración de la supervisión

Siga estos pasos para cada proyecto en el que quiera configurar la supervisión:

1. En la barra de herramientas, seleccione Operar.

2. En el panel izquierdo, seleccione Administrador.

3. En Todos los proyectos, use el cuadro de búsqueda para buscar el proyecto.

4. Seleccione el proyecto.

5. Seleccione la pestaña Recursos conectados .

6. Asegúrese de que hay un recurso asociado para la categoría AppInsights.

   

7. Si no hay ningún recurso asociado, seleccione Agregar conexión y, a continuación, seleccione Application Insights.

   Propina

   Puede enviar seguimientos a distintos recursos de Application Insights o al mismo recurso, en función de los requisitos de gobernanza y seguridad.

El proyecto ahora está configurado para la observabilidad y el seguimiento. Para comprobar que la supervisión está activa, vaya a Información>general de funcionamiento en el portal de Foundry, seleccione el proyecto en la lista desplegable y confirme que las métricas del agente aparecen en el panel. Las métricas pueden tardar unos minutos en rellenarse después de la configuración inicial.

Visualización de métricas

Puede ver las métricas agregadas de todos los agentes de un proyecto seleccionado mediante Foundry. El panel Información general proporciona información sobre el estado de la flota, el cumplimiento y las tendencias de rendimiento.

1. Inicie sesión en Microsoft Foundry. Asegúrese de que el interruptor New Foundry esté activado. Estos pasos hacen referencia a Foundry (new).

   

2. En la barra de herramientas, seleccione Operar.

3. Revise las métricas que se muestran en el panel Información general , que muestra las métricas comunes y la información de todos los agentes detectados dentro de la suscripción de forma predeterminada.

   

4. Use la lista desplegable del proyecto para limitar el ámbito de las métricas a proyectos específicos, si es necesario.

5. Configure el intervalo de fechas mediante los selectores de fecha de la esquina superior derecha.

En el panel Información general se muestran las puntuaciones de mantenimiento de nivel de flota, los resúmenes de alertas, los recuentos de agentes activos, las tasas de error y las métricas de cumplimiento para el intervalo de tiempo seleccionado. Use esta vista para evaluar rápidamente el estado operativo de su flota e identificar las áreas que necesitan atención.

Ver métricas individuales de cada agente

Es posible visualizar todos los activos de un proyecto específico junto con las métricas de alto nivel desde Foundry.

1. Inicie sesión en Microsoft Foundry. Asegúrese de que el interruptor New Foundry esté activado. Estos pasos hacen referencia a Foundry (new).

   

2. En la barra de herramientas, seleccione Operar.

3. En el panel izquierdo, seleccione Activos.

4. Seleccione la pestaña Agentes .

   

   En la pestaña se muestran los detalles de los agentes detectados en la suscripción. Para obtener información sobre estos detalles, consulte Inventario del agente.

5. Para ver información más detallada sobre el rendimiento de un agente individual, seleccione un agente. El panel que aparece proporciona información rápida sobre el estado y la actividad reciente del agente seleccionado. Úselo para identificar problemas y tomar medidas correctivas.

   

   El panel contiene estas secciones:

   • Alertas activas: vea las alertas de directiva, seguridad y evaluación agrupadas por gravedad y tome medidas.
   • Actividad: consulte métricas clave, como la tasa de errores a lo largo del tiempo, la información de ejecución total e información sobre el uso de tokens.

Para más información sobre cómo administrar agentes individuales, consulte Administración de agentes a escala.

Solución de problemas de supervisión

Si no ve métricas o agentes esperados en el panel, compruebe las siguientes causas comunes:

• Los agentes no aparecen en el panel Activos: compruebe que tiene acceso de lectura a la suscripción y al proyecto donde se implementan los agentes. Los distintos usuarios ven diferentes agentes en función de su nivel de acceso.
• Las métricas están vacías o faltan: confirme que el recurso de Application Insights está conectado al proyecto (consulte Configuración de la supervisión). Las métricas pueden tardar varios minutos en rellenarse después de la conexión inicial.
• Las métricas o seguimientos de estado no están disponibles para un agente específico: es posible que el agente se ejecute en un recurso sin Application Insights configurado. Vincule un recurso de Application Insights al proyecto del agente para habilitar los datos de estado y las trazas detalladas.
• Los datos de costo no aparecen: verifique que tiene el rol Lector de Gestión de Costos en la suscripción.

Contenido relacionado

• ¿Qué es el Plano de Control de Microsoft Foundry?
• Administración de agentes a escala
• Registro y administración de agentes personalizados