Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Von Bedeutung
Die in diesem Artikel markierten Elemente (Vorschau) sind aktuell als öffentliche Vorschau verfügbar. Diese Vorschauversion wird ohne Vereinbarung zum Servicelevel bereitgestellt und sollte nicht für Produktionsworkloads verwendet werden. Manche Features werden möglicherweise nicht unterstützt oder sind nur eingeschränkt verwendbar. Weitere Informationen finden Sie unter Zusätzliche Nutzungsbestimmungen für Microsoft Azure-Vorschauen.
Dieser Artikel beschreibt, wie bereitgestellte Daten verarbeitet, verwendet und gespeichert werden, wenn Sie Modelle aus dem Modellkatalog bereitstellen. Lesen Sie auch den Nachtrag zum Datenschutz für Microsoft-Produkte und -Dienste, der die Datenverarbeitung durch Azure-Dienste regelt.
Von Bedeutung
Informationen zu verantwortungsvoller KI in Azure OpenAI und KI-Diensten finden Sie unter Verantwortungsvolle Nutzung von KI.
Welche Daten werden für Modelle verarbeitet, die im Azure AI Foundry-Portal bereitgestellt werden?
Wenn Sie Modelle in Azure AI Foundry bereitstellen, werden die folgenden Datentypen verarbeitet, um den Dienst bereitzustellen:
Prompts und generierte Inhalte. Eine benutzende Person sendet einen Prompt, und das Modell generiert Inhalte (Ausgaben) über die vom Modell unterstützten Vorgänge. Prompts können Inhalte enthalten, die über RAG (Retrieval-Augmented Generation), Metaprompts oder andere in einer Anwendung enthaltene Funktionen hinzugefügt wurden.
Hochgeladene Daten. Für Modelle, die Feinabstimmung unterstützen, können Kunden ihre Daten in einen Datenspeicher hochladen zur Feinabstimmung.
Generieren von Rückschlussausgaben mit verwalteter Computeressource
Die Bereitstellung von Modellen für verwaltete Computeressourcen stellt Modellgewichtungen für dedizierte virtuelle Computer bereit und macht eine REST-API für Echtzeitrückschlüsse verfügbar. Weitere Informationen zum Bereitstellen von Modellen aus dem Modellkatalog auf einer verwalteten Computeressource finden Sie unter Modellkatalog und Sammlungen im Azure AI Foundry-Portal.
Sie verwalten die Infrastruktur für diese verwalteten Computeressourcen. Die Azure-Verpflichtungen für Daten, Datenschutz und Sicherheit sind gültig. Weitere Informationen zu Azure-Complianceangeboten, die für Azure AI Foundry gelten, finden Sie auf der Seite für Azure-Complianceangebote.
Obwohl Container für Modelle, die direkt von Azure verkauft werden, auf Sicherheitsrisiken überprüft werden, die Daten exfiltrieren könnten, werden nicht alle Modelle, die über den Modellkatalog verfügbar sind, gescannt. Um das Risiko der Datenexfiltration zu verringern, können Sie Ihre Bereitstellung mithilfe virtueller Netzwerke schützen. Sie können auch Azure Policy verwenden, um die Modelle zu regulieren, die Ihre Benutzenden bereitstellen können.
Generierung von Inferenzausgaben als serverlose API-Bereitstellung
Wenn Sie ein Modell aus dem Modellkatalog (Basis oder Feinabgestimmt) mithilfe von serverlosen API-Bereitstellungen mit einem serverlosen Pay-per-Token-Angebot für die Inferenz bereitstellen, wird eine API bereitgestellt. Die API bietet Ihnen Zugriff auf das Modell, das der Azure Machine Learning-Dienst hostet und verwaltet. Erfahren Sie mehr über serverlose API-Bereitstellungen im Modellkatalog und in Sammlungen.
Das Modell verarbeitet Ihre Eingabeaufforderungen und generiert Ausgaben basierend auf der Funktionalität, wie in den Modelldetails beschrieben. Ihre Verwendung des Modells (zusammen mit der Verantwortlichkeit des Anbieters für das Modell und dessen Ausgaben) unterliegt den Lizenzbedingungen für das Modell. Die Hostinginfrastruktur und der API-Endpunkt werden von Microsoft bereitgestellt und verwaltet. Die in diesem Serverlosen API-Bereitstellungsszenario gehosteten Modelle unterliegen Azure-Daten-, Datenschutz- und Sicherheitsverpflichtungen. Erfahren Sie mehr über Azure-Complianceangebote, die für Azure AI Foundry gelten.
Microsoft fungiert als Datenverarbeiter für Eingabeaufforderungen und Ausgaben, die an ein Modell gesendet und von einem für die serverlose API-Bereitstellung bereitgestellten Modell generiert werden. Microsoft gibt diese Prompts und Ausgaben nicht an den Modellanbieter weiter. Außerdem verwendet Microsoft diese Prompts und Ausgaben nicht, um Microsoft-Modelle, die Modelle des Modellanbieters oder die Modelle eines Drittanbieters zu trainieren oder zu verbessern.
Modelle sind statusfrei und speichern keine Prompts oder Ausgaben. Wenn die Inhaltsfilterung aktiviert ist, werden im Azure AI Content Safety-Dienst Aufforderungen und Ausgaben für bestimmte Kategorien schädlicher Inhalte in Echtzeit angezeigt. Erfahren Sie mehr über die Verarbeitung von Daten durch „Azure KI Inhaltssicherheit“.
Prompts und Ausgaben werden innerhalb der während der Bereitstellung angegebenen Geografie verarbeitet, können aber zu betrieblichen Zwecken auch zwischen Regionen innerhalb der Geografie verarbeitet werden. Zu den betrieblichen Zwecken gehören Leistungs- und Kapazitätsmanagement.
Hinweis
Wie während des Bereitstellungsprozesses für die Serverlose API-Bereitstellung erläutert, kann Microsoft Kundenkontaktinformationen und Transaktionsdetails (einschließlich des dem Angebot zugeordneten Nutzungsvolumens) mit dem Modellherausgeber teilen, damit der Herausgeber Kunden bezüglich des Modells kontaktieren kann. Einzelheiten zu den Informationen, die Modellherausgebern zur Verfügung stehen, finden Sie unter Zugriffserkenntnisse für den kommerziellen Microsoft Marketplace im Partner Center.
Optimieren eines Modells für die Serverlose API-Bereitstellung
Wenn ein Modell, das für serverlose API-Bereitstellungen zur Verfügung steht, eine Feinabstimmung unterstützt, können Sie Daten in einen Datenspeicher hochladen (oder bereits angeben), um das Modell zu optimieren. Anschließend können Sie eine serverlose API-Bereitstellung für das optimierte Modell erstellen. Das optimierte Modell kann nicht heruntergeladen werden, aber:
- Es steht ausschließlich für Ihre Nutzung zur Verfügung.
- Sie können die ruhende Verschlüsselung verwenden: standardmäßige Microsoft AES-256-Verschlüsselung und ein optionaler kundenseitig verwalteter Schlüssel.
- Sie können es jederzeit löschen.
Zur Optimierung hochgeladene Trainingsdaten werden nicht zum Trainieren, erneuten Trainieren oder Verbessern eines Modells von Microsoft oder einem anderen Anbieter verwendet, es sei denn, Sie haben diese Aktivitäten im Rahmen des Diensts angewiesen.
Datenverarbeitung für heruntergeladene Modelle
Wenn Sie ein Modell aus dem Modellkatalog herunterladen, entscheiden Sie, wo das Modell bereitgestellt werden soll. Sie sind dafür verantwortlich, wie Daten verarbeitet werden, wenn Sie das Modell verwenden.