Tracering instellen in Microsoft Foundry

Tracering gebruiken om fouten in uw AI-agents op te sporen en hun gedrag in productie te bewaken. Tracering legt gedetailleerde telemetrie vast, waaronder latentie, uitzonderingen, prompt-inhoud en ophaalbewerkingen, zodat u sneller problemen kunt identificeren en oplossen.

Voorwaarden

• Een Foundry-project.
• Een Azure Monitor Application Insights-resource om traceringen op te slaan (maak een nieuwe of verbind een bestaande).
• Toegang tot de Application Insights-resource die is verbonden met uw project.

Application Insights verbinden met uw Foundry-project

Foundry slaat traceringen op in Application Insights met behulp van semantische openTelemetry-conventies.

1. Meld u aan bij Microsoft Foundry. Zorg ervoor dat de wisselknop New Foundry is ingeschakeld. Deze stappen verwijzen naar Foundry (nieuw).
2. Open uw Foundry-project.
3. Selecteer Agents in het linkernavigatievenster.
4. Selecteer bovenaan Traceringen.
5. Selecteer aan de rechterkant Verbinding maken om een Application Insights-resource te maken of er verbinding mee te maken:
   • Als u een bestaande resource wilt verbinden, selecteert u de resource en selecteert u Vervolgens Verbinding maken.
   • Als u een nieuwe resource wilt maken, selecteert u Nieuwe maken en voltooit u de wizard.

Er wordt een bevestigingsbericht weergegeven wanneer de verbinding slaagt.

Nadat u de resource hebt verbonden, is uw project klaar om tracering te gebruiken.

Als u de berichtenbalk of de knop Verbinding maken niet ziet, kunt u Azure Monitor Application Insights als alternatief inschakelen.

1. Selecteer de Project details uit de vervolgkeuzelijst bij uw projectnaam.
2. Navigeer naar het tabblad Verbonden resources en selecteer Verbinding toevoegen.
3. Selecteer Application Insights in het menu Een verbinding kiezen .

Instrumenteer AI-agenten

Kies de benadering die overeenkomt met de manier waarop u uw agent bouwt en uitvoert.

Traceringen aan de serverzijde in de Foundry-portal

Begin met traceringen aan de serverzijde. Foundry registreert traceringen voor veelvoorkomende agent- en werkstroomscenario's zonder dat u uw code hoeft te wijzigen.

• Foundry registreert automatisch traceringen aan de serverzijde voor promptagenten, hostagents en werkstromen in de Foundry-portal. Zodra tracering is ingeschakeld in uw Foundry-project, hebt u toegang tot kant-en-klare traceringen van de afgelopen 90 dagen.
• Foundry biedt ook eenvoudige integratie met de belangrijkste agentframeworks.

Traceringen aan de clientzijde met de Microsoft Foundry SDK (Python)

Installeer OpenTelemetry en de Azure SDK-traceringsinvoegtoepassing met behulp van:

pip install azure-ai-projects azure-identity opentelemetry-sdk azure-core-tracing-opentelemetry

Nadat u uw agent hebt uitgevoerd, kunt u traceringen bekijken en analyseren in de Foundry-portal.

Zie Tracing with azure-ai-projects (Python SDK) and Telemetry samples for agents voor gedetailleerde instructies en SDK-specifieke codevoorbeelden.

Lokaal traceren met Foundry Toolkit in VS Code

Met Foundry Toolkit kunt u lokaal traceren in VS Code met behulp van een lokale OTLP-compatibele collector, wat ideaal is voor ontwikkeling en foutopsporing.

De toolkit ondersteunt AI-frameworks zoals Foundry Agents Service, OpenAI, Anthropic en LangChain via OpenTelemetry. U kunt traceringen direct in VS Code zien zonder dat u cloudtoegang nodig hebt.

Zie Tracering in Foundry Toolkit voor gedetailleerde installatie-instructies en SDK-specifieke codevoorbeelden.

Traceringen weergeven en analyseren

Traceringen weergeven in de Foundry-portal

Ga in uw Foundry-project naar het tabblad Traces in uw agents of werkstromen. U kunt opgenomen traceringen van de afgelopen 90 dagen doorzoeken, filteren of sorteren.

Selecteer een tracering om elk bereik te doorlopen, problemen te identificeren en te zien hoe uw toepassing reageert. Dit helpt u bij het opsporen en identificeren van problemen in uw toepassing.

Traceringen weergeven in Azure Monitor

Uw traceringen worden verzonden naar Azure Monitor Application Insights, zodat u ze daar kunt bekijken.

Zie de documentatie Azure Monitor OpenTelemetry voor meer informatie over het verzenden van traceringen naar Azure Monitor en het maken van een Azure Monitor resource.

Gespreksresultaten weergeven

Een gesprek is de permanente context van een end-to-end dialooggeschiedenis tussen een gebruiker en een agent. In het Foundry-portaal kunt u Gespreksresultaten van uw agent direct uit de doos bekijken, samen met traceringen op de pagina Traceringen.

U kunt een gesprekszoekopdracht selecteren voor een antwoord-id of zoeken op een tracerings-id die aan dit gesprek is toegewezen. Selecteer vervolgens gespreks-id om het gesprek te controleren:

• Details van gespreksgeschiedenis
• Antwoordinformatie en tokens in een run
• Geordende acties, stappen uitvoeren en aanroepen van hulpprogramma's
• Invoer en uitvoer tussen een gebruiker en een agent

Controleren of tracering werkt

1. Controleer of uw project is verbonden met Application Insights. Volg zo nodig de stappen in Application Insights verbinden met uw Foundry-project.

2. Voer uw agent of werkstroom minstens één keer uit (bijvoorbeeld met behulp van de portal of uw app).

3. Open de traceringsweergave in uw Foundry-project en bevestig dat er een nieuwe tracering wordt weergegeven.

   Wanneer tracering correct werkt, ziet u een lijst met recente traceringen met tijdstempels, duur en statusindicatoren. Selecteer een trace om de spanningsdetails ervan weer te geven.

Als u geen nieuwe traceringen ziet, wacht u enkele minuten, vernieuwt u, en bekijkt u vervolgens de sectie Probleemoplossing.

Beveiliging en privacy

Tracering kan gevoelige informatie vastleggen (bijvoorbeeld gebruikersinvoer, modeluitvoer en hulpprogrammaargumenten en resultaten). Gebruik deze procedures om het risico te verminderen:

• Sla geen geheimen, referenties of tokens op in prompts, programma-argumenten of kenmerken.
• Persoonlijke gegevens en andere gevoelige inhoud redacteren of minimaliseren voordat deze in telemetrie worden weergegeven.
• Traceringsgegevens behandelen als productietelemetrie en hetzelfde toegangsbeheer en bewaarbeleid toepassen dat u gebruikt voor logboeken en metrische gegevens.

Zie Beveiliging en privacy voor meer informatie.

Gegevensretentie en kosten

Foundry slaat traceringen op in de Application Insights-resource die is verbonden met uw project. Gegevensretentie en facturering volgen uw Application Insights en Log Analytics configuratie.

Probleemoplossing

Verwante inhoud

Nu tracering is ingesteld, verkent u deze resources om uw inzicht te verdiepen en de mogelijkheden voor waarneembaarheid uit te breiden:

• Overzicht van agenttracering
• Traceringsintegraties
• AI-agents bewaken met het dashboard Agentbewaking
• Waarneembaarheid in generatieve AI