Övervaka agentens hälsa och prestanda i hela din flotta

När din organisation skalar från isolerade andrepiloter till autonoma flottor med flera agenter blir det viktigt att upprätthålla synlighet och kontroll. Microsoft Foundry Control Plane tillhandahåller ett enhetligt kommandocenter där du kan övervaka alla agenter, modeller och verktyg i företaget från bygge till produktion.

Övervakning av flottan har flera roller:

  • Teamchefer får tillsyn över agentdrift och teamproduktivitet.
  • Administratörer tillämpar styrningsprinciper och spårar efterlevnadsstatus.
  • Kostnadsansvariga optimerar utgifterna och identifierar resurseffektivitet.
  • Säkerhetsteam övervakar för otillåtna beteenden och principöverträdelser.

Den här artikeln visar hur du använder funktioner för Foundry Control Plane för att spåra agentens hälsa, prestanda, efterlevnad och kostnadseffektivitet i stor skala. Genom att använda centraliserad övervakning kan du identifiera problem tidigt, optimera resursförbrukningen och se till att dina AI-system fungerar på ett säkert och tillförlitligt sätt.

Förutsättningar

Observera

Den här funktionen är endast tillgänglig i Foundry-portalen (ny). Leta i portalbanderollen efter för att bekräfta att du använder Foundry (ny).

Så här fungerar övervakning

Foundry Control Plane identifierar alla agenter som du kan komma åt. Den använder Application Insights-resurser som är värdar för dina agenter för att hjälpa dig att övervaka och diagnostisera dessa agenter.

Foundry Control Plane stöder:

Eftersom Foundry Control Plane aggregerar information mellan resurser i prenumerationen kan olika användare se olika agenter i listan, beroende på deras åtkomst.

Foundry Control Plane aggregerar loggar och mått som är tillgängliga för varje Application Insights-resurs som är ansluten till varje agent.

Arkitekturdiagram som visar hur Foundry Control Plane använder Application Insights för att samla in loggar och mått mellan resurser.

Foundry Control Plane kräver att agenter loggar diagnostikinformation genom att följa OpenTelemetry-standarder med semantiska konventioner för Generative AI-program . Du behöver inte konfigurera Application Insights för varje resurs, men det rekommenderas starkt. När Kontrollplanet har dessa data kan det ge:

  • Hälsomått för flottan: Övervaka aktiva agenter, följa avslutningsgrad och feltrender i hela er flotta.
  • Kostnads- och prestandaspårning: Övervaka tokenanvändning, budgetförbrukning och resurseffektivitet för alla agenter.
  • Avvikelseidentifiering: Identifiera kostnadstoppar, prestandaförsämring och nya problem genom trendanalys.
  • Analys av ökad detaljnivå: Gå från mått på flottnivå till enskilda agentspårningar och loggar för detaljerad undersökning.

Viktigt

Agenter som körs på resurser som saknar Application Insights har varken hälsomått, kostnadsspårning eller detaljerad spårning.

Konfigurera övervakning

Följ dessa steg för varje projekt där du vill konfigurera övervakning:

  1. I verktygsfältet väljer du Använd.

  2. I den vänstra rutan väljer du Admin.

  3. Under Alla projekt använder du sökrutan för att leta efter projektet.

  4. Välj projektet.

  5. Välj fliken Anslutna resurser .

  6. Kontrollera att det finns en associerad resurs för kategorin AppInsights.

    Skärmbild av administrationsportalen som visar hur du kontrollerar om ett projekt har en associerad Application Insights-resurs.

  7. Om det inte finns någon associerad resurs lägger du till en genom att välja Lägg till anslutning och sedan välja Application Insights.

    Tips

    Du kan skicka spårningar till antingen olika Application Insights-resurser eller till samma resurs, beroende på dina styrnings- och säkerhetskrav.

Projektet har nu konfigurerats för observerbarhet och spårning. Om du vill kontrollera att övervakningen är aktiv går du tillDriftöversikt> i Foundry-portalen, väljer ditt projekt i listrutan och bekräftar att agentmåtten visas på instrumentpanelen. Metriker kan ta några minuter att visas efter den initiala konfigurationen.

Visa metrik

Du kan visa aggregerade mått för alla agenter i ett valt projekt med hjälp av Foundry. Fönstret Översikt ger insikter om trender för vagnparkshälsa, efterlevnad och prestanda.

  1. Logga in på Microsoft Foundry. Kontrollera att växlingsknappen New Foundry är aktiverad. De här stegen hänvisar till Foundry (ny).

  2. I verktygsfältet väljer du Använd.

  3. Granska måtten som visas i fönstret Översikt , som visar vanliga mått och insikter för alla identifierade agenter i prenumerationen som standard.

    Animering av fönstret Översikt som visar trendbaserade hälsopoäng, aviseringssammanfattningar och aggregerade efterlevnadsmått för en flotta.

  4. Använd listrutan projekt om du vill begränsa måtten till specifika projekt, om det behövs.

  5. Konfigurera datumintervallet med hjälp av datumväljarna i det övre högra hörnet.

I fönstret Översikt visas hälsopoäng på flottnivå, aviseringssammanfattningar, antal aktiva agenter, felfrekvenser och efterlevnadsmått för det valda tidsintervallet. Använd den här vyn för att snabbt utvärdera drifttillståndet för din flotta och identifiera områden som behöver åtgärdas.

Visa enskilda agenters mätvärden

Du kan visa alla dina tillgångar under ett specifikt projekt, tillsammans med mått på toppnivå, från Foundry.

  1. Logga in på Microsoft Foundry. Kontrollera att växlingsknappen New Foundry är aktiverad. De här stegen hänvisar till Foundry (ny).

  2. I verktygsfältet väljer du Använd.

  3. I den vänstra rutan väljer du Tillgångar.

  4. Välj fliken Agenter .

    Skärmbild av fliken Agenter som visar alla registrerade agenter med mått på den översta nivån.

    På fliken visas information om agenter som identifierats i prenumerationen. Mer information om den här informationen finns i Agentinventering.

  5. Om du vill visa mer detaljerad information om prestanda för en enskild agent väljer du en agent. Fönstret som visas ger snabba insikter om den valda agentens hälsa och senaste aktivitet. Använd den för att identifiera problem och vidta korrigerande åtgärder.

    Skärmbild av fönstret Foundry som visar information om en vald agent.

    Fönstret innehåller följande avsnitt:

    • Aktiva aviseringar: Visa princip-, säkerhets- och utvärderingsaviseringar grupperade efter allvarlighetsgrad och vidta åtgärder.
    • Aktivitet: Se viktiga mått, till exempel felfrekvens över tid, total körningsinformation och information om tokenanvändning.

Mer information om hur du hanterar enskilda agenter finns i Hantera agenter i stor skala.

Felsöka övervakning

Om du inte ser förväntade mått eller agenter på instrumentpanelen kontrollerar du följande vanliga orsaker:

  • Agenter visas inte i fönstret Tillgångar: Kontrollera att du har läsbehörighet till prenumerationen och projektet där agenterna distribueras. Olika användare ser olika agenter beroende på deras åtkomstnivå.
  • Mått är tomma eller saknas: Bekräfta att Application Insights-resursen är ansluten till projektet (se Konfigurera övervakning). Mätvärden kan ta flera minuter att fyllas i efter den första anslutningen.
  • Hälsomått eller spårningar är inte tillgängliga för en specifik agent: Agenten kan köras på en resurs utan att Application Insights har konfigurerats. Anslut en Application Insights-resurs till agentens projekt för att aktivera hälsodata och spårningar för ökad detaljnivå.
  • Kostnadsdata visas inte: Kontrollera att du har rollen Cost Management Reader i prenumerationen.