Prompt Flow im Microsoft Foundry-Portal (klassische Version)

Gilt nur für:klassisches Foundry Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar. Erfahren Sie mehr über das neue Portal.

Der Prompt Flow ist ein Entwicklungstool, das den gesamten Entwicklungszyklus von KI-Anwendungen optimiert, die von großen Sprachmodellen (LLMs) unterstützt werden. Prompt-Flow bietet eine umfassende Lösung, die den Prozess der Prototyperstellung, des Experimentierens, Iterierens und Bereitstellens Ihrer KI-Anwendungen vereinfacht.

Der Eingabeaufforderungsfluss ist unabhängig als Open-Source-Projekt auf GitHub mit eigenem SDK und VS Code-Erweiterung verfügbar. Der Eingabeaufforderungsfluss ist auch als Feature in Microsoft Foundry und Azure Machine Learning Studio verfügbar und wird dort zur Nutzung empfohlen. Dieser Dokumentationssatz konzentriert sich auf den Prompt-Flow im Foundry-Portal.

Definitionen:

• Der Eingabeaufforderungsfluss ist ein Feature, mit dem Sie einen Fluss generieren, anpassen oder ausführen können.
• Ein Fluss ist ein ausführbarer Anweisungssatz, der die KI-Logik implementiert. Sie können Flüsse über mehrere Tools erstellen oder ausführen, z. B. eine vorgefertigte Canvas, LangChain und andere. Sie speichern Iterationen eines Flusses als Ressourcen. Nach der Bereitstellung wird ein Fluss zu einer API. Nicht alle Abläufe sind unmittelbare Abläufe. Vielmehr ist ein Promptflow eine Möglichkeit, einen Ablauf zu erstellen.
• Eine Eingabeaufforderung ist ein Ansagepaket , das an ein Modell gesendet wird, bestehend aus der Benutzereingabe, der Systemnachricht und allen Beispielen. Die Benutzereingabe ist Text, der im Chatfenster übermittelt wird. Die Systemmeldung ist eine Reihe von Anweisungen für das Modell, das sein Verhalten und seine Funktionalität eingrenzt.
• Ein Beispielfluss ist ein einfacher, vordefinierter Orchestrierungsfluss, der zeigt, wie Abläufe funktionieren und angepasst werden können.
• Eine Beispielaufforderung ist eine definierte Eingabeaufforderung für ein bestimmtes Szenario, das aus einer Bibliothek kopiert und as-is oder im Aufforderungsentwurf geändert werden kann.

Vorteile des Promptflusses

Im Foundry-Portal können Sie mit dem Prompt Flow:

• Koordinieren Sie ausführbare Abläufe mit LLMs, Prompts und Python-Tools mithilfe eines visualisierten Diagramms.
• Debuggen, teilen und iterieren Sie Ihre Workflows mit Leichtigkeit durch die Teamzusammenarbeit.
• Erstellen Sie Aufforderungsvarianten, und vergleichen Sie ihre Leistung.

Agilität im Prompt Engineering

• Interaktive Erstellungsumgebung: Der Prompt Flow bietet eine visuelle Darstellung der Struktur, sodass Projekte leicht zu verstehen sind und Sie problemlos darin navigieren können.
• Varianten für die Prompt-Optimierung: Sie können mehrere Prompt-Varianten erstellen und vergleichen, wodurch ein iterativer Verfeinerungsprozess erleichtert wird.
• Auswertung: Integrierte Auswertungsflüsse ermöglichen es Ihnen, die Qualität und Effektivität Ihrer Eingabeaufforderungen und Abläufe zu bewerten.
• Umfassende Ressourcen: Promptflow umfasst eine Bibliothek integrierter Tools, Beispiele und Vorlagen, die als Ausgangspunkt für Entwicklung, kreative Inspiration und Beschleunigung des Prozesses dienen.

Unternehmensbereitschaft

• Zusammenarbeit: Der Promptflow unterstützt die Teamzusammenarbeit, sodass mehrere Benutzer an Prompt-Engineering-Projekten zusammenarbeiten, Wissen teilen und Versionen verwalten können.
• All-in-One-Plattform: Der Prompt-Flow optimiert den gesamten Prompt-Engineering-Prozess von der Entwicklung und Auswertung bis zur Bereitstellung und Überwachung. Sie können Ihre Workflows mühelos als Azure AI Endpunkte bereitstellen und deren Leistung in Echtzeit überwachen, um den optimalen Betrieb sicherzustellen und kontinuierlich zu verbessern.
• Lösungen für die Unternehmensbereitschaft: Prompt flow wendet robuste Azure AI-Lösungen für die Unternehmensbereitschaft an und bietet eine sichere, skalierbare und zuverlässige Grundlage für die Entwicklung, Erprobung und Umsetzung von Abläufen.

Mithilfe des Eingabeaufforderungsflusses im Foundry-Portal können Sie prompte Engineering-Flexibilität entfesseln, effektiv zusammenarbeiten und Lösungen auf Unternehmensniveau für erfolgreiche LLM-basierte Anwendungsentwicklung und -bereitstellung anwenden.

Flow-Entwicklungszyklus

Prompt-Flow bietet einen gut definierten Prozess, der die nahtlose Entwicklung von KI-Anwendungen unterstützt. Durch die Verwendung können Sie effektiv durch die Phasen der Entwicklung, Testen, Optimierung und Bereitstellung von Prozessen vorankommen, was letztendlich zur Erstellung ausgereifter KI-Anwendungen führt.

Der Lebenszyklus besteht aus den folgenden Phasen:

• Initialisierung: Identifizieren Sie den Geschäftsanwendungsfall, sammeln Sie Beispieldaten, lernen Sie, eine einfache Eingabeaufforderung zu erstellen und einen Fluss zu entwickeln, der seine Funktionen erweitert.
• Experimentieren: Führen Sie den Ablauf anhand von Beispieldaten aus, bewerten Sie die Leistung der Anweisung, und führen Sie den Ablauf bei Bedarf erneut aus. Experimentieren Sie kontinuierlich, bis sie mit den Ergebnissen zufrieden sind.
• Auswertung und Verfeinerung: Bewerten Sie die Leistung des Ablaufs, indem Sie ihn gegen eine größere Datenmenge ausführen, die Effektivität der Aufforderung auswerten und nach Bedarf verfeinern. Fahren Sie mit der nächsten Stufe fort, wenn die Ergebnisse den gewünschten Kriterien entsprechen.
• Produktion: Optimieren Sie den Fluss für Effizienz und Effektivität, stellen Sie ihn bereit, überwachen Sie die Leistung in einer Produktionsumgebung, und sammeln Sie Nutzungsdaten und Feedback. Verwenden Sie diese Informationen, um den Fluss zu verbessern und zu früheren Phasen bei weiteren Iterationen beizutragen.

Durch das Befolgen dieses strukturierten und methodischen Ansatzes können Sie mit dem Prompt-Flow robuste und anspruchsvolle KI-Anwendungen entwickeln, streng testen, optimieren und mit Zuversicht bereitstellen.

Flusstypen

Im Foundry-Portal können Sie einen neuen Fluss starten, indem Sie einen Flusstyp oder eine Vorlage aus dem Katalog auswählen.

Hier sind einige Beispiele für Flusstypen:

• Standardfluss: Der Standardfluss ist für die allgemeine Anwendungsentwicklung konzipiert und ermöglicht es Ihnen, einen Fluss mithilfe einer vielzahl integrierter Tools für die Entwicklung von LLM-basierten Anwendungen zu erstellen. Es bietet Flexibilität und Vielseitigkeit für die Entwicklung von Anwendungen in verschiedenen Domänen.
• Chatfluss: Zugeschnitten auf die Entwicklung von Unterhaltungsanwendungen baut der Chatfluss auf den Funktionen des Standardflusses auf und bietet eine verbesserte Unterstützung für Chateingaben und -ausgaben und die Verwaltung des Chatverlaufs. Mithilfe des nativen Unterhaltungsmodus und der integrierten Features können Sie Ihre Anwendungen in einem unterhaltungsbezogenen Kontext nahtlos entwickeln und debuggen.
• Auswertungsfluss: Für Auswertungsszenarien konzipiert, ermöglicht ihnen der Auswertungsfluss das Erstellen eines Flusses, der die Ausgaben des vorherigen Flusses als Eingaben übernimmt. Mit diesem Flusstyp können Sie die Leistung der vorherigen Ausführungsergebnisse bewerten und relevante Metriken ausgeben, wodurch die Bewertung und Verbesserung ihrer Modelle oder Anwendungen erleichtert wird.

Fließt

Ein Flow in Prompt flow dient als ausführbarer Workflow, der die Entwicklung Ihrer auf LLM basierenden KI-Anwendung optimiert. Es bietet ein umfassendes Framework für die Verwaltung von Datenfluss und -verarbeitung innerhalb Ihrer Anwendung.

Innerhalb eines Workflows nehmen Knoten die zentrale Rolle ein, die bestimmte Werkzeuge mit einzigartigen Fähigkeiten repräsentieren. Diese Knoten verarbeiten Datenverarbeitung, Aufgabenausführung und algorithmische Vorgänge mit Eingaben und Ausgaben. Durch das Verbinden von Knoten richten Sie eine nahtlose Kette von Vorgängen ein, die den Datenfluss durch Ihre Anwendung leitet.

Um die Knotenkonfiguration und Feinabstimmung zu erleichtern, wird eine visuelle Darstellung der Workflowstruktur über ein DAG-Diagramm (Gerichtetes Azyklisches Diagramm) bereitgestellt. Dieses Diagramm zeigt die Konnektivität und Abhängigkeiten zwischen Knoten und bietet einen klaren Überblick über den gesamten Workflow.

Mithilfe der Flussfunktion im Eingabeaufforderungsfluss können Sie die Logik Ihrer KI-Anwendung entwerfen, anpassen und optimieren. Die einheitliche Anordnung von Knoten stellt eine effiziente Datenverarbeitung und effektive Flussverwaltung sicher und ermöglicht es Ihnen, robuste und fortgeschrittene Anwendungen zu erstellen.

Eingabeaufforderungsflusstools

Tools sind die grundlegenden Bausteine eines Flusses.

Im Foundry-Portal enthalten Tooloptionen das Tool LLM, Prompt-Tool, Python Tool usw.

Jedes Tool ist eine einfache, ausführbare Einheit mit einer bestimmten Funktion. Durch die Kombination verschiedener Tools können Sie einen Fluss erstellen, der eine breite Palette von Zielen erreicht. Sie können z. B. das LLM-Tool verwenden, um Text zu generieren oder einen Artikel zusammenzufassen, und das Python Tool, um den Text zu verarbeiten, um die nächste Flusskomponente oder das nächste Ergebnis zu informieren.

Einer der wichtigsten Vorteile der Eingabeaufforderungsflusstools ist die nahtlose Integration mit APIs von Drittanbietern und Python Open Source-Paketen. Diese Integration verbessert nicht nur die Funktionalität großer Sprachmodelle, sondern macht den Entwicklungsprozess für Entwickler effizienter.

Wenn die Eingabeaufforderungsflusstools im Foundry-Portal Ihre Anforderungen nicht erfüllen, können Sie Ihr eigenes benutzerdefiniertes Tool entwickeln und es zu einem Toolpaket machen. Weitere benutzerdefinierte Tools, die von der Open Source Community entwickelt wurden, finden Sie unter prompt flow custom tools.

Verwandte Inhalte

• Erstellen im Foundry-Portal mit Prompt-Flow
• Erste Schritte mit dem Aufforderungsfluss in VS Code