Ablaufverfolgung in Microsoft Foundry einrichten

Verwenden Sie die Ablaufverfolgung, um Ihre KI-Agenten zu debuggen und ihr Verhalten in der Produktion zu überwachen. Die Ablaufverfolgung erfasst detaillierte Telemetrie – einschließlich Latenz, Ausnahmen, Eingabeaufforderungsinhalte und Abrufvorgänge – sodass Sie Probleme schneller identifizieren und beheben können.

Voraussetzungen

• Ein Foundry-Projekt.
• Eine Azure Monitor Application Insights-Ressource zum Speichern von Traces (Erstellen einer neuen oder Anschließen einer vorhandenen Ressource).
• Zugriff auf die Application Insights-Ressource, die mit Ihrem Projekt verbunden ist.

Verbinden von Application Insights mit Ihrem Foundry-Projekt

Foundry speichert Traces in Application Insights mithilfe der OpenTelemetry-Semantikkonventionen.

1. Melden Sie sich bei Microsoft Foundry an. Stellen Sie sicher, dass die Umschaltfläche "Neue Gießerei " aktiviert ist. Diese Schritte beziehen sich auf Foundry (neu).
2. Öffnen Sie Ihr Foundry-Projekt.
3. Wählen Sie im linken Navigationsbereich "Agents" aus.
4. Wählen Sie oben Traces aus.
5. Wählen Sie rechts "Verbinden" aus, um eine Application Insights-Ressource zu erstellen oder zu verbinden:
   • Um eine vorhandene Ressource zu verbinden, wählen Sie die Ressource und dann "Verbinden" aus.
   • Um eine neue Ressource zu erstellen, wählen Sie Neu erstellen aus und schließen Sie den Assistenten ab.

Eine Bestätigungsmeldung wird angezeigt, wenn die Verbindung erfolgreich ist.

Nachdem Sie die Ressource angeschlossen haben, kann Ihr Projekt das Tracing verwenden.

Wenn die Meldungsleiste oder die Schaltfläche "Verbinden" nicht angezeigt wird, finden Sie hier eine alternative Möglichkeit, Azure Monitor Application Insights zu aktivieren.

1. Wählen Sie Projektdetails aus dem Dropdown-Menü von Ihrem Projektnamen aus.
2. Navigieren Sie zur Registerkarte "Verbundene Ressourcen ", und wählen Sie dann "Verbindung hinzufügen" aus.
3. Wählen Sie "Application Insights" im Menü "Verbindung auswählen " aus.

Instrumentieren von KI-Agents

Wählen Sie den Ansatz aus, der der Erstellung und Ausführung Ihres Agents entspricht.

Serverseitige Ablaufverfolgungen im Foundry-Portal

Beginnen Sie mit serverseitigen Ablaufverfolgungen. Foundry protokolliert Logs für allgemeine Agentszenarien und Workflowszenarien, ohne Ihren Code zu ändern.

• Foundry protokolliert automatisch serverseitige Ablaufverfolgungen für Prompt-Agents, Host-Agents und Workflows im Foundry-Portal. Sobald die Ablaufverfolgung in Ihrem Foundry-Projekt aktiviert ist, werden Sie Zugriff auf sofort einsatzbereite Ablaufverfolgungen für die letzten 90 Tage haben.
• Foundry ermöglicht auch die einfache Integration in top-Agent-Frameworks.

Clientseitige Ablaufverfolgungen mit dem Microsoft Foundry SDK (Python)

Installieren Sie OpenTelemetry und das Azure SDK Tracing Plugin mit:

pip install azure-ai-projects azure-identity opentelemetry-sdk azure-core-tracing-opentelemetry

Nach der Ausführung Ihres Agents können Sie mit dem Anzeigen und Analysieren von Ablaufverfolgungen im Foundry-Portal beginnen.

Ausführliche Anweisungen und SDK-spezifische Codebeispiele finden Sie unter Tracing with azure-ai-projects (Python SDK) und Telemetriebeispiele für Agenten.

Lokales Verfolgen mit Foundry Toolkit in VS Code

Mit dem Foundry Toolkit können Sie lokal in VS Code nachverfolgen, indem Sie einen lokalen OTLP-kompatiblen Collector verwenden, der ideal für die Entwicklung und das Debuggen geeignet ist.

Das Toolkit unterstützt KI-Frameworks wie Foundry Agents Service, OpenAI, Anthropic und LangChain über OpenTelemetry. In VS Code können Sie Spuren sofort anzeigen, ohne Cloudzugriff zu benötigen.

Ausführliche Einrichtungsanweisungen und SDK-spezifische Codebeispiele finden Sie unter Ablaufverfolgung im Foundry Toolkit.

Anzeigen und Analysieren von Ablaufverfolgungen

Anzeigen von Ablaufverfolgungen im Foundry-Portal

Wechseln Sie in Ihrem Foundry-Projekt zur Registerkarte Ablaufverfolgungen in Ihren Agents oder Workflows. Sie können ingestierte Traces aus den letzten 90 Tagen durchsuchen, filtern oder sortieren.

Wählen Sie eine Ablaufverfolgung aus, um die einzelnen Abschnitte zu durchlaufen, Probleme zu identifizieren und zu beobachten, wie Ihre Anwendung reagiert. Auf diese Weise können Sie Probleme in Ihrer Anwendung debuggen und anheften.

Anzeigen von Ablaufverfolgungen in Azure Monitor

Ihre Traces werden an Azure Monitor Application Insights gesendet, sodass Sie sie dort ansehen können.

Weitere Informationen zum Senden von Traces an Azure Monitor und Erstellen einer Azure Monitor-Ressource finden Sie in der Azure Monitor OpenTelemetry-Dokumentation.

Unterhaltungsergebnisse anzeigen

Eine Unterhaltung ist der persistente Kontext eines End-to-End-Dialogverlaufs zwischen einem Benutzer und einem Agent. Im Foundry-Portal können Sie die Ergebnisse der Unterhaltung für Ihre Agent-Ausführung sofort anzeigen, zusammen mit den Ablaufverfolgungen auf der Seite Ablaufverfolgungen.

Sie können eine Kommunikationssuche nach einer Response ID auswählen oder nach einer Trace ID suchen, die dieser Kommunikation zugeordnet ist. Wählen Sie dann die Konversations-ID aus, um die Unterhaltung zu überprüfen.

• Gesprächsverlaufsdetails
• Antwortinformationen und Token in einer Ausführung
• Sortierte Aktionen, Ausführen von Schritten und Toolaufrufen
• Eingaben und Ausgaben zwischen einem Benutzer und einem Agent

Überprüfen, ob das Tracing funktioniert

1. Vergewissern Sie sich, dass Ihr Projekt mit Application Insights verbunden ist. Führen Sie bei Bedarf die Schritte in Connect Application Insights mit Ihrem Foundry-Projekt aus.

2. Führen Sie Ihren Agent oder Workflow mindestens einmal aus (z. B. mithilfe des Portals oder Ihrer App).

3. Öffnen Sie in Ihrem Foundry-Projekt die Ansicht Traces und bestätigen Sie, dass ein neuer Trace angezeigt wird.

   Wenn die Ablaufverfolgung ordnungsgemäß funktioniert, wird eine Liste der letzten Ablaufverfolgungen mit Zeitstempeln, Dauer und Statusindikatoren angezeigt. Wählen Sie eine Leiterbahn aus, um deren Spannweite anzuzeigen.

Wenn Sie keine neuen Ablaufverfolgungen sehen, warten Sie ein paar Minuten, aktualisieren Sie, und beachten Sie dann die Informationen unter Problembehandlung.

Sicherheit und Datenschutz

Die Ablaufverfolgung kann vertrauliche Informationen erfassen (z. B. Benutzereingaben, Modellausgaben sowie Toolargumente und -ergebnisse). Verwenden Sie diese Methoden, um Risiken zu reduzieren:

• Speichern Sie geheime Schlüssel, Anmeldeinformationen oder Token nicht in Eingabeaufforderungen, Toolargumenten oder Span-Attributen.
• Reduzieren oder entfernen Sie persönliche Daten und andere sensible Inhalte, bevor sie in der Telemetrie erscheinen.
• Behandeln Sie Ablaufverfolgungsdaten als Produktionstelemetrie, und wenden Sie dieselben Zugriffssteuerungen und Aufbewahrungsrichtlinien an, die Sie für Protokolle und Metriken verwenden.

Weitere Anleitungen finden Sie unter "Sicherheit und Datenschutz".

Datenaufbewahrung und Kosten

Foundry speichert Protokolle in der mit Ihrem Projekt verbundenen Application Insights-Ressource. Die Datenaufbewahrung und Rechnungsstellung folgen Ihrer Application Insights und Log Analytics Konfiguration.

Problembehandlung

Verwandte Inhalte

Jetzt, da die Ablaufverfolgung eingerichtet ist, erkunden Sie diese Ressourcen, um Ihr Verständnis zu vertiefen und Ihre Observability-Funktionen zu erweitern:

• Übersicht über die Agent-Nachverfolgung
• Verfolgungsintegrationen
• Überwachen von KI-Agents mit dem Agent Monitoring Dashboard
• Beobachtbarkeit in generativer KI