Daten, Datenschutz und Sicherheit für die Verwendung von Modellen über den Modellkatalog im Microsoft Foundry-Portal (klassisch)

Gilt nur für:klassisches Foundry Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar. Erfahren Sie mehr über das neue Portal.

In diesem Artikel wird beschrieben, wie die bereitgestellten Daten verarbeitet, verwendet und gespeichert werden, wenn Sie Modelle aus dem Modellkatalog bereitstellen. Siehe auch den Microsoft Produkt- und Dienstdatenschutz-Zusatz, der die Datenverarbeitung durch Azure Dienste regelt.

Welche Daten werden für Modelle verarbeitet, die im Microsoft Foundry-Portal bereitgestellt werden?

Wenn Sie Modelle in Foundry bereitstellen, werden die folgenden Datentypen verarbeitet, um den Dienst bereitzustellen:

• Eingabeaufforderungen und generierten Inhalt. Ein Benutzer sendet eine Eingabeaufforderung, und das Modell generiert Inhalte (Ausgabe) über die vom Modell unterstützten Vorgänge. Prompts können Inhalte enthalten, die über Erweitertes Abrufen (Retrieval Augmented Generation, RAG), Metaprompts oder andere Funktionen hinzugefügt wurden, die in einer Anwendung enthalten sind.

• Hochgeladene Daten. Für Modelle, die Feintuning unterstützen, können Kunden ihre Daten in einen Datenspeicher hochladen, um das Feintuning durchzuführen.

Generierung von Schlussfolgerungsausgaben mit verwalteter Rechenleistung

Die Bereitstellung von Modellen auf verwalteten Compute-Ressourcen stellt Modellgewichtungen auf dedizierten virtuellen Maschinen bereit und stellt eine REST-API für Echtzeit-Inferenzen zur Verfügung. Weitere Informationen zum Bereitstellen von Modellen aus dem Modellkatalog in verwaltete Rechnerressourcen finden Sie unter Modellkatalog und Sammlungen im Foundry-Portal.

Sie verwalten die Infrastruktur für diese verwalteten Computeressourcen. Für Azure gelten Datenschutz-, Privatsphäre- und Sicherheitsverpflichtungen. Weitere Informationen zu relevanten Azure Compliance-Angeboten für Foundry finden Sie auf der Seite Azure Compliance-Angebote.

Container für Models Sold Directly by Azure werden zwar auf Sicherheitsrisiken überprüft, die Daten exfiltrieren könnten, aber nicht alle Modelle, die über den Modellkatalog verfügbar sind, werden gescannt. Um das Risiko der Datenexfiltration zu verringern, schützen Sie Ihre Bereitstellung mithilfe virtueller Netzwerke. Verwenden Sie auch Azure Policy, um die Modelle zu regeln, die Ihre Benutzer bereitstellen können.

Generierung von Inferencing-Ergebnissen als serverlose API-Bereitstellung

Wenn Sie ein Modell aus dem Modellkatalog (Basis- oder Feinabstimmungsmodell) mithilfe von serverlosen API-Bereitstellungen mit einem serverlosen Pay-per-Token-Angebot für die Inferenz bereitstellen, wird eine API bereitgestellt. Die API bietet Ihnen Zugriff auf das Modell, das vom Azure Machine Learning Dienst gehostet und verwaltet wird. Erfahren Sie mehr über serverlose API-Bereitstellungen im Modellkatalog und in Sammlungen.

Das Modell verarbeitet Ihre Eingabeaufforderungen und generiert Ausgaben basierend auf ihrer Funktionalität, wie in den Modelldetails beschrieben. Ihre Verwendung des Modells (zusammen mit der Verantwortlichkeit des Anbieters für das Modell und deren Ausgaben) unterliegt den Lizenzbedingungen für das Modell. Microsoft stellt und verwaltet die Hostinginfrastruktur und den API-Endpunkt. Die in dieser serverlosen API-Bereitstellung gehosteten Modelle szenario unterliegen Azure Daten-, Datenschutz- und Sicherheitsverpflichtungen. Weitere Informationen zu Azure Complianceangeboten für Foundry.

Microsoft fungiert als Datenverarbeiter für Eingaben und Ausgaben, die an ein Modell für die serverlose API-Bereitstellung gesendet und von diesem generiert werden. Microsoft gibt diese Eingabeaufforderungen und Ausgaben nicht an den Modellanbieter weiter. Darüber hinaus verwendet Microsoft diese Eingabeaufforderungen und Ausgaben nicht, um Microsoft Modelle, die Modelle des Modellanbieters oder die Modelle eines Drittanbieters zu trainieren oder zu verbessern.

Modelle sind zustandslos und speichern keine Eingabeaufforderungen oder Ausgaben. Wenn die Inhaltsfilterung aktiviert ist, überprüft der Azure KI Inhaltssicherheit-Dienst in Echtzeit Inhalte auf bestimmte Kategorien schädlicher Inhalte. Erfahren Sie mehr darüber, wie Azure KI Inhaltssicherheit Daten verarbeitet.

Eingabeaufforderungen und Ausgaben werden innerhalb der während der Bereitstellung angegebenen Geografie verarbeitet, aber sie können zwischen Regionen innerhalb der Geografie zu betrieblichen Zwecken verarbeitet werden. Zu den betrieblichen Zwecken gehören Leistungs- und Kapazitätsmanagement.

Optimieren eines Modells für die Serverlose API-Bereitstellung

Wenn ein Modell, das für serverlose API-Bereitstellungen zur Verfügung steht, eine Feinabstimmung unterstützt, können Sie Daten in einen Datenspeicher hochladen (oder bereits angeben), um das Modell zu optimieren. Erstellen Sie dann eine serverlose API-Bereitstellung für das fein abgestimmte Modell. Das fein abgestimmte Modell kann nicht heruntergeladen werden, aber:

• Es ist exklusiv für Ihre Verwendung verfügbar.
• Sie können die doppelte Verschlüsselung im Ruhezustand nutzen: die Standardverschlüsselung Microsoft AES-256 und einen optionalen, vom Kunden verwalteten Schlüssel.
• Sie können sie jederzeit löschen.

Für die Feinabstimmung hochgeladene Schulungsdaten werden nicht zum Trainieren, erneuten Training oder Verbessern eines Microsoft- oder Nicht-Microsoft-Modells verwendet, außer wenn Sie diese Aktivitäten innerhalb des Dienstes leiten.

Datenverarbeitung für heruntergeladene Modelle

Wenn Sie ein Modell aus dem Modellkatalog herunterladen, wählen Sie aus, wo das Modell bereitgestellt werden soll. Sie sind dafür verantwortlich, wie Daten verarbeitet werden, wenn Sie das Modell verwenden.

Verwandte Inhalte

• Modellkatalog und -auflistungen