Was ist Foundry Agent Service? (klassisch)

Zurzeit wird folgendes angezeigt:Foundry (klassische) Portalversion - Wechseln zur Version für das neue Foundry-Portal

Die meisten Unternehmen wollen nicht nur Chatbots. Sie möchten, dass die Automatisierung schneller ist und weniger Fehler aufweist. Dieser Wunsch kann das Zusammenfassen von Dokumenten, die Verarbeitung von Rechnungen, das Verwalten von Supporttickets oder das Veröffentlichen von Blogbeiträgen bedeuten. In allen Fällen ist das Ziel gleich: Personen und Ressourcen freizugeben, um sich auf hochwertige Arbeit zu konzentrieren, indem wiederholte und vorhersagbare Vorgänge entladen werden.

Große Sprachmodelle (LLMs) führen eine neue Automatisierungsart mit Systemen ein, die unstrukturierte Daten verstehen, Entscheidungen treffen und Inhalte generieren können. In der Praxis können Unternehmen Schwierigkeiten haben, sich über die Demos hinweg in die Produktion zu übergehen. LLMs können driften, falsch sein und keine Rechenschaftspflicht haben. Ohne Sichtbarkeit, Richtlinienerzwingung und Orchestrierung sind diese Modelle in echten Geschäftsprozessen schwer vertrauenswürdig.

Microsoft Foundry soll dies ändern. Es ist eine Plattform, die Modelle, Tools, Frameworks und Governance in einem einheitlichen System zum Erstellen intelligenter Agents kombiniert. Im Zentrum dieses Systems befindet sich der Foundry Agent Service, der den Betrieb von Agents über Entwicklung, Bereitstellung und Produktion hinweg ermöglicht.

Diagramm, das den Foundry Agent Service als zentralen Hub zeigt, der vier Komponenten verbindet: KI-Modelle auf der linken Seite, Tools und Frameworks oben, Governance und Compliance auf der rechten Seite und Orchestrierung unten. Pfeile deuten darauf hin, dass Agent-Dienst Agents von der Entwicklung über die Bereitstellung zur Produktion wechseln kann.

Der Agent-Dienst verbindet die Kernelemente von Foundry, z. B. Modelle, Tools und Frameworks, mit einer einzigen Laufzeit. Es verwaltet Unterhaltungen, orchestriert Werkzeugaufrufe, sorgt für Sicherheit der Inhalte und integriert sich mit Identitäts-, Netzwerk- und Observability-Systemen. Diese Funktionen helfen Ihnen beim Erstellen von Agents, die sicher, skalierbar und produktionsbereit sind.

Durch das Abstrahieren der Infrastrukturkomplexität und indem Vertrauen und Sicherheit von Anfang an gewährleistet werden, kann Agent Service Ihnen helfen, mit Zuversicht von Prototyp zu Produktion zu wechseln.

Voraussetzungen

  • Ein Azure-Abonnement mit Der Berechtigung zum Erstellen und Verwalten von Foundry-Ressourcen.
  • Ein Foundry-Projekt. Wenn Sie noch keins erstellt haben, beginnen Sie mit der Umgebungseinrichtung.
  • Ein bereitgestelltes Modell, das Ihr Agent verwenden kann. Die Verfügbarkeit von Modell und Region kann variieren; Sehen Sie sich Modelle an, die Agents informieren.

Verfügbarkeit, Regionen und Grenzwerte

Die Fähigkeiten des Agentendienstes können je nach der Foundry-Erfahrung, die Sie nutzen, sowie dem von Ihnen gewählten Modell und der ausgewählten Region variieren.

Wenn Sie Ihren ersten Agent erstellen, beginnen Sie mit den Schnellstartlinks in "Erste Schritte mit dem Foundry Agent Service ", um sicherzustellen, dass Sie sich auf dem richtigen API-Pfad für Ihre Foundry-Erfahrung befinden.

Was ist ein KI-Agent?

Agents treffen Entscheidungen, rufen Tools auf und nehmen an Workflows teil. Sie führen diese Aufgaben manchmal unabhängig und manchmal in Zusammenarbeit mit anderen Agenten oder Menschen durch. Sie sind grundlage für die echte Prozessautomatisierung.

Agenten, die Sie über Foundry erstellen, sind keine Monolithen. Sie sind komponierbare Einheiten. Jeder Agent hat eine bestimmte Rolle, wird vom richtigen Modell unterstützt und ist mit den richtigen Tools ausgestattet. Sie stellen jeden Agent innerhalb einer sicheren, feststellbaren und regelbaren Laufzeit bereit.

Ein Agent verfügt über drei Kernkomponenten:

  • Modell (LLM): Ermöglicht logisches Denken und Sprachverständnis.
  • Anweisungen: Definieren der Ziele, Verhaltensweisen und Einschränkungen des Agents. Sie können die folgenden Typen haben:
    • Deklarative:
      • Aufforderungsbasiert: Ein deklarativ definierter einzelner Agent, der Modellkonfiguration, Anweisung, Tools und Natürliche Sprachaufforderungen kombiniert, um das Verhalten zu fördern.
      • Workflow: Ein agentischer Workflow, der als YAML oder anderer Code ausgedrückt werden kann, um mehrere Agents zusammen zu koordinieren oder eine Aktion für bestimmte Kriterien auszulösen.
    • Gehostet: Containerisierte Agents, die im Code erstellt und bereitgestellt werden und von Foundry gehostet werden.
  • Tools: Lassen Sie den Agent Wissen abrufen oder Maßnahmen ergreifen.

Diagramm, das zeigt, dass ein Agent, der Benutzereingaben auf der linken Seite empfängt, diese über das Modell und anweisungen in der Mitte verarbeitet und Ausgaben auf der rechten Seite erzeugt. Ein bidirektionaler Pfeil unterhalb des Agents stellt eine Verbindung mit Tools bereit, der angibt, dass der Agent Tools während der Verarbeitung aufrufen kann, um Wissen abzurufen oder Aktionen auszuführen.

Agents erhalten unstrukturierte Eingaben wie Benutzeraufforderungen, Warnungen oder Nachrichten von anderen Agents. Sie erzeugen Ausgaben in Form von Toolergebnissen oder Nachrichten. Auf dem Weg rufen sie möglicherweise Tools auf, um Abruf- oder Triggeraktionen auszuführen.

Wie funktionieren Agenten in Gießerei?

Stellen Sie sich foundry als Montagelinie für intelligente Agenten vor. Wie jede moderne Fabrik vereint Gießerei spezialisierte Stationen, die jeweils für die Gestaltung eines Teils des Endprodukts verantwortlich sind. Anstelle von Maschinen und Förderbändern verwendet die Agentenfabrik Modelle, Werkzeuge, Richtlinien und Orchestrierung, um Agenten zu bauen, die sicher, testbar und produktionsbereit sind. Hier erfahren Sie, wie die Factory schritt für Schritt funktioniert:

Diagramm, das die Agentenfabrik als eine sechsstufige Montagelinie zeigt. Schritt 1 Modelle zeigt die Auswahl eines LLM. Schritt 2 Anpassbarkeit zeigt Feinabstimmung und Befehle. Schritt 3 Wissen und Tools zeigt die Verbindung zu Unternehmensdaten und -aktionen. Schritt 4 Orchestrierung zeigt koordinierende Agent-Workflows. Schritt 5 Beobachtbarkeit zeigt Protokollierung und Ablaufverfolgung. Schritt 6 Vertrauensstellung zeigt Sicherheitskontrollen. Die Schritte verlaufen von links nach rechts, was einen produktionsbereiten Agenten ergibt.

1. Modelle

Die Montagelinie beginnt, wenn Sie ein Modell auswählen, das Ihrem Agent seine Intelligenz verleiht. Wählen Sie aus einem wachsenden Katalog großer Sprachmodelle (LLMs), einschließlich GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) und anderen wie Llama. Das Modell ist der Grundgrund des Agenten, der seine Entscheidungen informiert.

2. Anpassbarkeit

Gestalten Sie das Modell so, dass es ihrem Anwendungsfall entspricht. Passen Sie Ihren Agent mit Feinabstimmung, Destillation oder domänenspezifischen Eingabeaufforderungen an. Codieren Sie Agentverhalten, rollenspezifische Kenntnisse und Muster aus früheren Leistungen mithilfe von Daten, die aus realen Konversationsinhalten und Werkzeugergebnissen erfasst werden.

3. Wissen und Werkzeuge

Rüsten Sie Ihren Agenten mit Tools aus. Mit diesen Tools kann der Agent auf Unternehmenswissen (z. B. Bing, SharePoint und Azure KI-Suche) zugreifen und reale Aktionen (über Azure Logic Apps, Azure Functions, OpenAPI und mehr) ergreifen. Dieser Schritt verbessert die Fähigkeit des Agents, seine Funktionen zu erweitern.

4. Orchestrierung

Der Agent benötigt Koordination. Verbundene Agents orchestrieren den vollständigen Lebenszyklus, z. B. das Behandeln von Toolaufrufen, das Aktualisieren des Gesprächsstatus, das Verwalten von Wiederholungen und das Protokollieren von Ausgaben.

5. Beobachtbarkeit

Agents testen und überwachen. Foundry kann Protokolle, Ablaufverfolgungen und Auswertungen in jedem Schritt erfassen. Mit umfassender Sichtbarkeit auf Konversationsebene und der Integration von Application Insights können Teams im Laufe der Zeit jede Entscheidung überprüfen und die Agenten kontinuierlich verbessern.

6. Vertrauen

Stellen Sie sicher, dass die Agenten geeignet und zuverlässig für die Arbeitslast sind, der sie zugewiesen sind. Foundry wendet Vertrauensfunktionen auf Unternehmensniveau an, einschließlich Identität über Microsoft Entra, rollenbasierte Zugriffssteuerung (RBAC), Inhaltsfilter, Verschlüsselung und Netzwerkisolation. Sie wählen, wie und wo Ihre Agents betrieben werden, indem Sie entweder plattformverwaltete oder eigene Infrastruktur verwenden.

Das Ergebnis ist ein Agent, der für die Produktion bereit ist: zuverlässig, erweiterbar und sicher für die Bereitstellung in Ihren Workflows.

Warum foundry Agent Service verwenden?

Agent Service bietet eine produktionsbereite Grundlage für die Bereitstellung intelligenter Agents in Unternehmensumgebungen. Hier ist ein Vergleich der wichtigsten Funktionen:

Fähigkeit Agentdienst
Einblicke in Unterhaltungen Vollzugriff auf strukturierte Unterhaltungen, einschließlich Benutzer-zu-Agent- und Agent-zu-Agent-Nachrichten. Ideal für UIs, Debugging und Schulungen.
Koordination mit mehreren Agenten Integrierte Unterstützung für Agent-zu-Agent-Messaging.
Tool-Orchestrierung Serverseitige Ausführung und Wiederholung von Toolaufrufen mit strukturierter Protokollierung. Es ist keine manuelle Orchestrierung erforderlich.
Vertrauen und Sicherheit Integrierte Inhaltsfilter, um Missbrauch zu verhindern und Risiken von Eingabeaufforderungsinjektionen zu mindern, einschließlich Angriffe durch Eingabeaufforderungsinjektionen (XPIA). Alle Ausgaben unterliegen der Richtlinie.
Unternehmensintegration Möglichkeit, Ihre eigene storage, Azure KI-Suche index und virtual network zur Erfüllung der Complianceanforderungen bereitzustellen.
Beobachtbarkeit und Fehlerbehebung Vollständige Rückverfolgbarkeit von Unterhaltungen, Toolaufrufen und Nachrichtenablaufverfolgungen; Application Insights-Integration für Nutzungsdaten.
Identitäts- und Richtliniensteuerung Basiert auf Microsoft Entra mit vollständiger Unterstützung für RBAC, Überwachungsprotokolle und bedingten Unternehmenszugriff.

Sicherheit, Datenschutz und Compliance

Der Agent-Dienst wurde für Unternehmensworkloads entwickelt, bei denen Sie starke Kontrolle über Identität, Netzwerk, Datenverarbeitung und Sicherheit benötigen.

  • Sicherheitskontrollen: Verwenden Sie integrierte Inhaltsfilter, um unsichere Ausgaben zu reduzieren und die Risiken durch die Einfügung von Eingabeaufforderungen zu verringern, einschließlich der Cross-Prompt-Injection-Angriffe (XPIA).
  • Steuerelemente zur Netzwerkisolation und Datenaufbewahrung: Verwenden Sie virtuelle Netzwerke und bringen Sie eigene Ressourcen mit ein, um Ihre Anforderungen zu erfüllen.
  • Bring your own resources: Verwenden Sie Ihre eigenen Azure-Ressourcen (beispielsweise Speicher, Azure KI-Suche und Azure Cosmos DB für den Konversationszustand), um Compliance- und Betriebsanforderungen zu erfüllen. Weitere Informationen finden Sie unter "Eigene Ressourcen verwenden".
  • Responsible AI guidance: Eine breitere Reihe von Empfehlungen und Governanceressourcen finden Sie unter Responsible AI für Microsoft Foundry.

Erste Schritte mit dem Foundry Agent Service

Um mit dem Agent-Dienst zu beginnen, erstellen Sie ein Foundry-Projekt in Ihrem Azure-Abonnement.

Wenn Sie in Code entwickeln, finden Sie SDK-Optionen und Anleitungen unter Microsoft Foundry SDKs.

Wenn Sie den Dienst zum ersten Mal verwenden, beginnen Sie mit der Umgebungseinrichtung und schnellstartanleitungen .

Erstellen Sie ein Projekt mit den erforderlichen Ressourcen. Nachdem Sie ein Projekt erstellt haben, stellen Sie ein kompatibles Modell wie GPT-4o bereit. Wenn Sie über ein bereitgestelltes Modell verfügen, können Sie API-Anfragen an den Agent-Service mithilfe der SDKs stellen.

BCDR für Agenten

Zur Unterstützung der Dienstresilienz basiert der Agentdienst auf vom Kunden bereitgestellten Azure Cosmos DB Konten für Geschäftskontinuität und Notfallwiederherstellung (BCDR). Dieser Ansatz trägt dazu bei, sicherzustellen, dass Ihr Agentstatus im Falle eines regionalen Ausfalls beibehalten und wiederhergestellt werden kann.

Als Azure Standard-Kunde stellen Sie Ihr eigenes Einzelmandanten-Azure Cosmos DB-Konto bereit und verwalten es. Sie speichern den gesamten Agentstatus in diesem Konto. Sie steuern die Sicherung und Wiederherstellung über systemeigene Funktionen in Azure Cosmos DB.

Wenn die primäre Region nicht verfügbar ist, stellt der Agent automatisch eine Verbindung zum selben Azure Cosmos DB-Konto in der sekundären Region her. Da Cosmos DB alle Geschichte bewahrt, kann der Agent den Betrieb mit minimalen Unterbrechungen fortsetzen.

Stellen Sie Ihr Azure Cosmos DB Konto bereit und verwalten Sie es, und konfigurieren Sie geeignete Sicherungs- und Wiederherstellungsrichtlinien. Dieser Aufwand trägt dazu bei, eine nahtlose Kontinuität sicherzustellen, wenn die primäre Region nicht verfügbar ist.

Anleitungen zur Konfiguration finden Sie unter "Eigene Ressourcen und virtuelle Netzwerke verwenden".

Kosten

Die Verwendung des Agentendiensts kann Kosten durch das Modell verursachen, das Sie bereitstellen, sowie durch die Azure-Ressourcen, die Sie für Ihr Projekt nutzen (z. B. Protokollierung und alle vom Kunden verwalteten Ressourcen, die Sie verbinden).

Informationen zum Verständnis und Verwalten von Kostentreibern finden Sie unter "Planen und Verwalten von Kosten".

Problembehandlung

Wenn Sie beim Starten blockiert sind, überprüfen Sie diese häufigen Probleme:

Verwandte Inhalte

  • Last updated on