Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Wichtig
In diesem Artikel markierte Elemente (Vorschau) befinden sich derzeit in der öffentlichen Vorschau. Diese Vorschau wird ohne Vereinbarung auf Serviceebene bereitgestellt und wird für Produktionsworkloads nicht empfohlen. Bestimmte Features werden möglicherweise nicht unterstützt oder weisen eingeschränkte Funktionen auf. Weitere Informationen finden Sie unter Supplementale Nutzungsbedingungen für Microsoft Azure Previews.
Hinweis
Die Ablaufverfolgung ist in der Regel nur für Echtzeit-Agents verfügbar. Workflow, gehostete und benutzerdefinierte Agents befinden sich in der Vorschau.
Verwenden Sie die Ablaufverfolgung, um Ihre KI-Agenten zu debuggen und ihr Verhalten in der Produktionsumgebung zu überwachen. Die Ablaufverfolgung erfasst detaillierte Telemetrie – einschließlich Latenz, Ausnahmen, Eingabeaufforderungsinhalte und Abrufvorgänge – sodass Sie Probleme schneller identifizieren und beheben können.
Voraussetzungen
- Ein Foundry-Projekt.
- Eine Azure Monitor Application Insights-Ressource zum Speichern von Ablaufverfolgungen (Erstellen einer neuen Ressource oder Verbinden einer vorhandenen Ressource).
- Zugriff auf die Application Insights-Ressource, die mit Ihrem Projekt verbunden ist.
Verbinden von Application Insights mit Ihrem Foundry-Projekt
Foundry speichert Ablaufverfolgungen in Application Insights unter Verwendung von OpenTelemetry-Semantikkonventionen.
- Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass die Umschaltfläche "Neue Gießerei " aktiviert ist. Diese Schritte beziehen sich auf Foundry (neu).
- Öffnen Sie Ihr Foundry-Projekt.
- Wählen Sie im linken Navigationsbereich "Agents" aus.
- Wählen Sie oben Ablaufverfolgungen aus.
- Wählen Sie rechts "Verbinden" aus, um eine Application Insights-Ressource zu erstellen oder zu verbinden:
- Um eine vorhandene Ressource zu verbinden, wählen Sie die Ressource und dann "Verbinden" aus.
- Um eine neue Ressource zu erstellen, wählen Sie "Neu erstellen" und schließen Sie den Assistenten ab.
Eine Bestätigungsmeldung wird angezeigt, wenn die Verbindung erfolgreich ist.
Nachdem Sie die Ressource verbunden haben, kann Ihr Projekt die Ablaufverfolgung verwenden.
Wenn die Meldungsleiste oder die Schaltfläche "Verbinden" nicht angezeigt wird, finden Sie hier eine alternative Möglichkeit, Azure Monitor Application Insights zu aktivieren.
- Wählen Sie Projektdetails aus dem Dropdown-Menü für Ihren Projektnamen aus.
- Navigieren Sie zur Registerkarte "Verbundene Ressourcen ", und wählen Sie dann "Verbindung hinzufügen" aus.
- Wählen Sie "Application Insights" im Menü "Verbindung auswählen " aus.
Wichtig
Stellen Sie sicher, dass Sie über die erforderlichen Berechtigungen zum Abfragen der Telemetrie verfügen.
- Bei protokollbasierten Abfragen sollten Sie zunächst die Rolle Log Analytics Reader zuweisen.
- Informationen zum Zuweisen von Rollen finden Sie unter Assign Azure Rollen mithilfe des Azure Portals.
- Verwenden Sie Microsoft Entra-Gruppen, um den Zugriff in größerem Umfang zu verwalten.
Instrument KI-Agenten
Wählen Sie den Ansatz, der der Erstellung und dem Betrieb Ihres Agents entspricht.
Serverseitige Ablaufverfolgungen im Foundry-Portal
Beginnen Sie mit serverseitigem Tracing. Foundry loggt Spuren für allgemeine Agenten- und Workflowszenarien, ohne Ihren Code zu ändern.
- Foundry protokolliert automatisch serverseitige Traces für Prompt-Agents, Host-Agents und Workflows im Foundry-Portal. Sobald die Verfolgung in Ihrem Foundry-Projekt aktiviert ist, haben Sie Zugriff auf vordefinierte Verfolgungen der letzten 90 Tage.
- Foundry ermöglicht auch die einfache Integration in top-Agent-Frameworks.
Clientseitige Ablaufverfolgungen mit dem Microsoft Foundry SDK (Python)
Installieren Sie OpenTelemetry und das Azure SDK Tracing-Plugin mit folgendem Befehl:
pip install azure-ai-projects azure-identity opentelemetry-sdk azure-core-tracing-opentelemetry
Wichtig
Die Verwendung des Endpunkts eines Projekts in Ihrer Anwendung erfordert die Konfiguration von Microsoft Entra ID. Wenn Sie Microsoft Entra ID nicht konfigurieren, verwenden Sie die Application Insights-Verbindungszeichenfolge.
Nachdem Sie Ihren Agent ausgeführt haben, können Sie Traces im Foundry-Portal anzeigen und analysieren.
Ausführliche Anweisungen und SDK-spezifische Codebeispiele finden Sie unter Tracing with azure-ai-projects (Python SDK) und Telemetry samples for agents.
Lokale Nachverfolgung mit Foundry Toolkit in VS Code
Mit dem Foundry Toolkit können Sie lokal in VS Code nachverfolgen, indem Sie einen lokalen OTLP-kompatiblen Collector verwenden, der ideal für die Entwicklung und das Debuggen geeignet ist.
Das Toolkit unterstützt KI-Frameworks wie Foundry Agents Service, OpenAI, Anthropic und LangChain über OpenTelemetry. Sie können Traces sofort in VS Code sehen, ohne auf die Cloud zugreifen zu müssen.
Ausführliche Einrichtungsanweisungen und SDK-spezifische Codebeispiele finden Sie unter Ablaufverfolgung im Foundry Toolkit.
Ablaufverfolgungen anzeigen und analysieren
Anzeigen von Traces im Foundry-Portal
Wechseln Sie in Ihrem Foundry-Projekt in Ihren Agenten oder Workflows zur Registerkarte Ablaufverfolgungen. Sie können importierte Traces der letzten 90 Tage durchsuchen, filtern oder sortieren.
Wählen Sie eine Ablaufverfolgung aus, um die einzelnen Abschnitte zu durchlaufen, Probleme zu identifizieren und zu beobachten, wie Ihre Anwendung reagiert. Auf diese Weise können Sie Probleme in Ihrer Anwendung debuggen und anheften.
Anzeigen von Ablaufverfolgungen in Azure Monitor
Ihre Protokollierungsdaten werden an Azure Monitor Application Insights gesendet, sodass Sie sie dort anzeigen können.
Weitere Informationen darüber, wie Sie Traces an Azure Monitor senden und eine Azure-Monitor-Ressource erstellen, finden Sie in der Azure Monitor OpenTelemetry-Dokumentation.
Unterhaltungsergebnisse anzeigen
Eine Konversation ist der permanente Kontext von End-to-End-Dialogverläufen zwischen einem Benutzer und einem Agenten. Im Foundry-Portal können Sie Gesprächsergebnisse für Ihren Agenten standardmäßig anzeigen, zusammen mit Ablaufverfolgungen auf der Seite "Ablaufverfolgungen".
Sie können eine Suchfunktion für Unterhaltungen nach einer Antwort-ID auswählen oder nach einer Trace-ID suchen, die dieser Unterhaltung zugeordnet ist. Wählen Sie dann die Unterhaltungs-ID aus, um die Unterhaltung anzusehen:
- Gesprächsverlaufsdetails
- Antwortinformationen und Token in einem Lauf
- Sortierte Aktionen, Ausführen von Schritten und Toolaufrufen
- Eingaben und Ausgaben zwischen einem Benutzer und einem Agent
Überprüfen, ob die Ablaufverfolgung funktioniert
Vergewissern Sie sich, dass Ihr Projekt mit Application Insights verbunden ist. Führen Sie bei Bedarf die Schritte in Connect Application Insights mit Ihrem Foundry-Projekt aus.
Führen Sie Ihren Agent oder Workflow mindestens einmal aus (z. B. mithilfe des Portals oder Ihrer App).
Öffnen Sie in Ihrem Foundry-Projekt die Ansicht Ablaufverfolgungen und bestätigen Sie, dass eine neue Ablaufverfolgung angezeigt wird.
Wenn die Ablaufverfolgung ordnungsgemäß funktioniert, wird eine Liste der letzten Ablaufverfolgungen mit Zeitstempeln, Dauer und Statusindikatoren angezeigt. Wählen Sie eine Ablaufverfolgung aus, um die Spannweitendetails anzuzeigen.
Wenn keine neuen Ablaufverfolgungen angezeigt werden, warten Sie einige Minuten, aktualisieren Sie, und sehen Sie dann in der Problembehandlung nach.
Sicherheit und Datenschutz
Die Ablaufverfolgung kann vertrauliche Informationen erfassen (z. B. Benutzereingaben, Modellausgaben und Tool-Argumente und -Ergebnisse). Verwenden Sie diese Methoden, um Risiken zu reduzieren:
- Speichern Sie geheime Schlüssel, Anmeldeinformationen oder Token nicht in Eingabeaufforderungen, Toolargumenten oder Span-Attributen.
- Reduzieren oder entfernen Sie persönliche Daten und andere sensible Inhalte, bevor sie in der Telemetrie erscheinen.
- Behandeln Sie Ablaufverfolgungsdaten als Produktionstelemetrie, und wenden Sie dieselben Zugriffssteuerungen und Aufbewahrungsrichtlinien an, die Sie für Protokolle und Metriken verwenden.
Weitere Anleitungen finden Sie unter "Sicherheit und Datenschutz".
Datenaufbewahrung und Kosten
Foundry speichert Protokolle in der mit Ihrem Projekt verbundenen Application Insights-Ressource. Die Datenaufbewahrung und -abrechnung folgen Ihrer Application Insights- und Log Analytics-Konfigurationen.
Problembehandlung
| Angelegenheit | Ursache | Auflösung |
|---|---|---|
| Im Foundry-Portal werden keine Spuren angezeigt. | Die Ablaufverfolgung ist nicht verbunden, es gibt keinen aktuellen Datenverkehr und die Datenaufnahme wird verzögert. | Bestätigen Sie die Verbindung von Application Insights, generieren Sie neuen Agentenverkehr, und aktualisieren Sie nach einigen Minuten. |
| Beim Abfragen oder Anzeigen von Telemetrie werden Autorisierungsfehler angezeigt. | Fehlende RBAC-Berechtigungen für Application Insights oder Log Analytics | Bestätigen Sie den Zugriff in access control (IAM) für die verbundenen Ressourcen. Weisen Sie für Protokollabfragen die Rolle Log Analytics Reader zu. |
| Clientseitige Ablaufverfolgungen werden nicht angezeigt | Die Instrumentation ist nicht installiert oder konfiguriert. | Überprüfen Sie die Paketinstallation erneut, und befolgen Sie die Anweisungen des SDK, die im verlinkten Client-seitigen Ablaufverfolgungen mit dem Microsoft Foundry SDK (Python) enthalten sind. |
| Vertrauliche Inhalte erscheinen in Spuren | Eingabeaufforderungen, Toolargumente oder Ausgaben enthalten vertrauliche Daten. | Vertrauliche Daten verbergen, bevor sie in die Telemetrie gelangen und den Anweisungen in Sicherheit und Datenschutz folgen. |
Verwandte Inhalte
Jetzt da das Tracing eingerichtet ist, erkunden Sie diese Ressourcen, um Ihr Verständnis zu vertiefen und Ihre Observabilitätsfunktionen zu erweitern.