Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Warnung
Die Entwicklung der Prompt Flow-Funktion endete am 20. April 2026. Das Feature wird am 20. April 2027 vollständig eingestellt. Am Ruhestandsdatum wechselt Prompt Flow in den schreibgeschützten Modus. Ihre vorhandenen Workflows werden bis zu diesem Datum weiterhin ausgeführt.
Recommended action: Migrieren Sie Ihre Prompt Flow-Arbeitslasten bis spätestens zum 20. April 2027 zu Microsoft Agent Framework.
Generative Artificial Intelligence Operations, oder GenAIOps (manchmal als LLMOps bezeichnet), beschreibt die operativen Praktiken und Strategien für die Verwaltung großer Sprachmodelle (LLMs) in der Produktion. Dieser Artikel enthält Anleitungen dazu, wie Sie Ihre Funktionen in GenAIOps basierend auf dem aktuellen Reifegrad Ihrer Organisation voranbringen.
Verwenden Sie die nachstehenden Beschreibungen, um Ihre GenAIOps Maturity Model Ranking Level zu finden. Diese Ebenen bieten ein allgemeines Verständnis und eine praktische Anwendungsebene Ihrer Organisation. Die Richtlinien bieten Ihnen hilfreiche Links, um Ihre GenAIOps-Wissensbasis zu erweitern.
Tipp
Verwenden Sie die GenAIOps Maturity Model Assessment , um die aktuelle GenAIOps-Reifegrad Ihrer Organisation zu ermitteln. Der Fragebogen hilft Ihnen, die aktuellen Funktionen Ihrer Organisation zu verstehen und Bereiche zur Verbesserung zu identifizieren.
Ebene 1 – anfänglich
Tipp
Bewertungsergebnis für das GenAIOps Reifegradmodell: initial (0-9).
Beschreibung: Ihre Organisation befindet sich in der anfanglichen Phase der GenAIOps-Reife. Sie untersuchen die Funktionen von LLMs, haben aber noch keine strukturierten Praktiken oder systematischen Ansätze entwickelt.
Machen Sie sich zunächst mit verschiedenen LLM-APIs und ihren Funktionen vertraut. Beginnen Sie als Nächstes mit dem Experimentieren mit strukturiertem Prompt-Design und grundlegender Prompt-Programmierung. Lesen Sie Microsoft Learn Artikel als Ausgangspunkt. Nutzen Sie das Gelernte, um zu erfahren, wie Sie grundlegende Metriken zur Auswertung der Leistung von LLM-Anwendungen einführen.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 1
- Gießerei-Modellkatalog
- Erkunden Sie den Microsoft Foundry Portal Modellkatalog
- Einführung in prompt Engineering
- Techniken des Prompt-Engineering
- Systemnachrichtenframework
- Aufforderungsfluss im Findry-Portal
- Bewerten von GenAI-Anwendungen mit Foundry
- GenAI Bewertungs- und Überwachungsmetriken mit Foundry
Um GenAIOps besser zu verstehen, sollten Sie Microsoft Lernkurse und Workshops in Betracht ziehen:
Ebene 2 – definiert
Tipp
Bewertungsergebnis des GenAIOps Reifegradmodells: im Reifeprozess (10-14).
Beschreibung: Ihre Organisation hat mit der Systematisierung von LLM-Vorgängen begonnen und konzentriert sich auf strukturierte Entwicklung und Experimente. Es gibt jedoch Platz für anspruchsvollere Integration und Optimierung.
Um Ihre Fähigkeiten und Fähigkeiten zu verbessern, erfahren Sie, wie Sie komplexere Eingabeaufforderungen entwickeln und effektiv in Anwendungen integrieren. Implementieren Sie einen systematischen Ansatz für die LLM-Anwendungsbereitstellung, um möglicherweise die CI/CD-Integration zu untersuchen. Beginnen Sie mit der Verwendung komplexerer Auswertungsmetriken wie Grundheit, Relevanz und Ähnlichkeit. Konzentrieren Sie sich auf die Sicherheit von Inhalten und ethische Überlegungen in der LLM-Nutzung.
Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 2
- Machen Sie unseren Schritt-für-Schritt-Workshop, um Ihre GenAIOps-Praktiken zu erhöhen.
- Aufforderungsfluss im Findry-Portal
- So bauen Sie mit Prompt Flow
- Bereitstellen eines Flusses als verwalteter Onlineendpunkt für Real-Time Inference
- Integrieren des Eingabeaufforderungsflusses in GenAIOps
- GenAI-Auswertung mit Foundry
- GenAI Evaluierungs- und Überwachungsmetriken
- Azure Content-Sicherheit
- Verantwortungsvolle KI-Tools und Praktiken
Ebene 3 – verwaltet
Tipp
Bewertung des GenAIOps Reifegradmodells: fortgeschritten (15-19).
Beschreibung: Ihre Organisation verwaltet erweiterte LLM-Workflows mit proaktiver Überwachung und strukturierten Bereitstellungsstrategien. Sie sind in der Nähe, operative Exzellenz zu erreichen.
Um Ihre Wissensbasis zu erweitern, konzentrieren Sie sich auf kontinuierliche Verbesserung und Innovation in Ihren LLM-Anwendungen. Verbessern Sie Ihre Überwachungsstrategien mit Predictive Analytics und umfassenden Sicherheitsmaßnahmen für Inhalte. Erfahren Sie, wie Sie Ihre LLM-Anwendungen für bestimmte Anforderungen optimieren und feinabstimmen können. Stärken Sie Ihre Asset Management-Strategien durch erweiterte Versionssteuerungs- und Rollbackfunktionen.
Vorgeschlagene Referenzen für die Weiterentwicklung der Stufe 3
- Fine-tuning mit Azure ML Learning
- Modellanpassung mit Feinabstimmung
- GenAI-Modellüberwachung
- LLM-Apps mit GenAIOps in die Produktion bringen
Ebene 4 – optimiert
Tipp
Ergebnis des GenAIOps Reifegradmodells: optimiert (20-28).
Beschreibung: Ihre Organisation demonstriert die operative Exzellenz in GenAIOps. Sie haben einen anspruchsvollen Ansatz für die LLM-Anwendungsentwicklung, -bereitstellung und -überwachung.
Während sich LLMs weiterentwickeln, behalten Sie Ihre Spitzenposition bei, indem Sie mit den neuesten LLM-Fortschritten auf dem neuesten Stand bleiben. Bewerten Sie kontinuierlich die Ausrichtung Ihrer LLM-Strategien mit sich entwickelnden Geschäftszielen. Fördern Sie eine Innovationskultur und ein kontinuierliches Lernen in Ihrem Team. Teilen Sie Ihr Wissen und bewährte Methoden mit der breiteren Community, um die Denken-Führung auf dem Gebiet zu etablieren.