Vom Kunden verwaltete Schlüsselverschlüsselung in Microsoft Foundry

Microsoft Foundry verschlüsselt Ihre Daten automatisch, wenn sie in der Cloud gespeichert ist. Um eine zusätzliche Steuerungsebene hinzuzufügen, unterstützt Foundry vom Kunden verwaltete Schlüssel (CMKs), die in Azure Key Vault oder Azure verwalteten HSM gespeicherte Schlüssel verwenden. CMKs bieten eine zusätzliche Verschlüsselungsebene, mit der Sie Vorgänge im Lebenszyklus von Schlüsseln wie Schlüsselrotation, Widerruf und Auditierung steuern können.

Informationen zum Konfigurieren der CMK-Verschlüsselung für Ihre Ressource finden Sie unter Konfigurieren von vom Kunden verwalteten Schlüsseln für Microsoft Foundry.

Note

Aufgrund von Kapazitätsbeschränkungen in der zugrunde liegenden Azure KI-Suche-Infrastruktur ist die CMK-Verschlüsselung derzeit nur in ausgewählten Regionen verfügbar. Eine Liste der unterstützten Regionen finden Sie unter Azure KI-Suche regionale Verfügbarkeit.

Informationen zur Microsoft Foundry-Verschlüsselung

Microsoft Foundry-Daten werden mit FIPS 140-2-kompatibler256-Bit-AES-Verschlüsselung verschlüsselt und entschlüsselt. Verschlüsselung und Entschlüsselung sind transparent, was bedeutet, dass Verschlüsselung und Zugriff für Sie verwaltet werden. Ihre Daten sind standardmäßig sicher, und Sie müssen Ihren Code oder Ihre Anwendungen nicht ändern, um die Verschlüsselung zu nutzen.

Von Bedeutung

Die CMK-Erzwingung unterliegt Einschränkungen. In den folgenden Abschnitten werden unterstützte Szenarien, Ausnahmen und konfigurationsspezifische Überlegungen beschrieben.

Wie CMK in Microsoft Foundry angewendet wird

Standardmäßig speichert der Dienst Daten und Ressourcenstatus in Microsoft verwalteter Dienstinfrastruktur und verschlüsselt ihn mithilfe von Microsoft verwalteten Schlüsseln. Wenn Sie CMKs konfigurieren, verschlüsselt der Dienst berechtigte Dienstdaten, die er speichert, mithilfe von Schlüsseln, die Sie steuern.

Beispiele für verschlüsselte Daten sind:

  • Projektressourcen wie Agenten, Prompts, Datensätze und Evaluierungen.
  • Hochgeladene Dateien, z. B. Dateien, die für einen Trainingsauftrag zur Feinabstimmung als Datensatz oder über die OpenAI Files API hochgeladen wurden.
  • Benutzerstatus, z. B. Aufgezeichnete Unterhaltungen, Systemaufforderungen und abgestimmte Modelle.
  • Indizierte Darstellungen der vorherigen Daten, die die In-Product-Abfrage ermöglichen.

Von Bedeutung

Je nach Der Konfiguration der Foundry-Ressource speichert der Dienst möglicherweise den Dienststatus im verwalteten Speicher, der Teil der Foundry-Ressource oder des von Ihnen verwalteten Speichers ist. Die Unterstützung hängt von den Foundry-Fähigkeiten ab. Einige Funktionen unterstützen die vom Kunden verwaltete Schlüsselverschlüsselung nur, wenn Sie Ihren eigenen Speicher mitbringen. Einzelheiten finden Sie unter CMK-Abdeckung nach Foundry-Funktionalität.

CMK-Abdeckung nach Foundry-Fähigkeit

Foundry-Fähigkeit CMK für von Foundry verwalteten Speicher CMK über vom Kunden verwalteten Speicher Notes
Agentdienst ❌ Nicht unterstützt ✅ Unterstützt Der Konversationsverlauf des Agenten und Vektorspeicher sind nur dann CMK-verschlüsselt, wenn Sie Ihren eigenen Speicher verwenden. Im Grundlegenden Setup werden Daten mithilfe von Microsoft verwalteten Schlüsseln verschlüsselt, auch wenn die Foundry-Ressource ein CMK konfiguriert.
Feinabstimmung ✅ Unterstützt N/A (keine Unterstützung für kundeneigenen Speicher) Hochgeladene Dateien und trainierte feinabgestimmte Modelle sind in von Microsoft verwalteten Speicherkonten CMK-verschlüsselt. Trainierte Modelle werden logisch durch ihr Azure-Abonnement isoliert. Modellgewichte werden mithilfe von CMK entschlüsselt, um Modellbereitstellungen zu instanziieren. Ausführliche Informationen zum Compute-Stack und zur Trainingslaufzeit finden Sie unter CMK-Abdeckung im gesamten Compute-Stack.
Batch-Aufträge ✅ Unterstützt ✅ Unterstützt Hochgeladene Dateien werden im Ruhezustand in von Microsoft verwalteten Speicherkonten mit CMK verschlüsselt. Während des Auswertungsauftrags wird dieses Speicherkonto zur Verarbeitung virtuell auf den Computeknoten eingebunden. Weitere Informationen zum für die Ausführung von Batchaufträgen verwendeten Compute-Stack finden Sie unter CMK-Abdeckung im Compute-Stack.
Bewertungen ✅ Unterstützt ✅ Unterstützt Auswertungsressourcen und hochgeladene Dateien, die von Foundry gespeichert werden, sind CMK-geschützt. Einzelheiten zum für Evaluierungsaufträge verwendeten Compute-Stack finden Sie unter CMK-Abdeckung im Compute-Stack.
Hugging Face-Modelle, die auf verwalteten Rechenressourcen bereitgestellt werden N/A (Gewichte werden in von Microsoft verwalteten öffentlichen Registrys gespeichert) N/A (Gewichte können nicht in Ihrem eigenen Speicher gespeichert werden) Für Hugging Face-Modelle, die über Foundry verfügbar sind, werden Modellgewichte auf Azure Storage gespeichert, die von Microsoft verwaltet werden. Weitere Informationen zum Compute-Stack und zur Hostinglaufzeit finden Sie unter CMK-Abdeckung im gesamten Compute-Stack.
Speech ❌ Nicht unterstützt ✅ Unterstützt Behandelt hochgeladene Schulungs- und Testdaten im Zusammenhang mit Azure KI Speech, Batchtranskriptionen, Echtzeittranskription mit Audio- und Ergebnisprotokollierung sowie benutzerdefinierter Sprachverarbeitung. Ablaufverfolgungsdaten werden nur behandelt, wenn die Ablaufverfolgung für den benutzerdefinierten Endpunkt aktiviert ist.
Language ✅ Unterstützt ✅ Unterstützt Daten und Modellgewichte werden mit von Microsoft verwalteten oder kundenseitig verwalteten Schlüsseln gespeichert, wenn Sie kein eigenes Speicherkonto bereitstellen.
Inhaltsverständnis N/A ✅ Unterstützt Für die Nutzung der Funktion „Content Understanding“ ist kundeneigener Speicher erforderlich.
OpenAI-Assistenten (veraltet) ❌ Nicht unterstützt N/A Dieses Feature ist veraltet und unterstützt CMK in der Vorschau nicht.
Verbundene Dienste, einschließlich Azure KI-Suche, Azure Logic Apps und Azure Functions N/A N/A Konfigurieren Sie Verschlüsselungsschlüssel getrennt von Ihrer Foundry-Ressource. Jede verbundene Ressource folgt ihrem eigenen Lebenszyklus für die Verschlüsselungsverwaltung.

CMK-Abdeckung im gesamten Compute-Stack

Vom Kunden verwaltete Schlüssel schützen die Kundendaten, die Microsoft Foundry im Ruhezustand speichert. Foundry-Funktionen basieren auf verwalteter Recheninfrastruktur für Modellhosting, Inferenzverarbeitung, Feinabstimmung, Batchinferenz und andere Laufzeitvorgänge.

Es ist wichtig, zwischen folgenden Unterschieden zu unterscheiden:

  • Persistente Datenspeicher, in denen Kundeninhalte gespeichert werden und CMK ruhend erzwungen wird.
  • Laufzeit-Computeinfrastruktur, die KI-Workloads für die Verarbeitung ausführt. Daten werden für die Verarbeitung mit CMK entschlüsselt und beim Zurückschreiben in persistenten Datenspeicher mit CMK verschlüsselt.

Berechnungsressourcen, die für Schlussfolgerungen, Modellhosting, Schulungen und Batchverarbeitung verwendet werden, sind entwurfsweise kurzlebig. Auftragscontainer und temporärer Speicher werden nur für die Dauer bereitgestellt, die zum Ausführen einer Workload erforderlich ist, und sie sind nicht als langfristige Speicherorte für Kundendaten vorgesehen. Arbeitsspeicher und Speicherplatz werden nach Abschluss der Ausführung des Computeauftrags bereinigt. Wenn Compute-Pods beendet werden, werden alle flüchtigen Zustandsdaten gelöscht.

Microsoft Foundry-Workloads werden in logisch isolierten Umgebungen ausgeführt, die mit einer bestimmten Foundry-Ressource verknüpft sind. Kundencode, Agentenausführung und Workload-Laufzeiten verwenden keine gemeinsamen Ausführungscontainer mit anderen Mandanten. Die Laufzeitzwischenspeicherung, die die Leistung verbessert, ist an der Mandanten- oder Ressourcengrenze isoliert und wird nicht für alle Kunden freigegeben.

Daher konzentriert sich DIE CMK-Abdeckung auf den Schutz von Kundendaten, die in Speicherdiensten und plattformverwalteten Datenspeichern gespeichert sind. Die Runtime-Computeinfrastruktur wird durch von Microsoft verwaltete Plattformverschlüsselung, die Isolation von Workloads und Kontrollen zur Mandantenisolation geschützt.

Ebene Examples Kurzlebig Datenlebenszyklus CMK erzwungen
Persistente Datenspeicher Von Foundry verwalteter Speicher oder Azure-Speicherkonten, die Sie verwalten No Wird aufbewahrt, bis sie von Ihnen, durch eine Aufbewahrungsrichtlinie oder durch das Löschen der Ressource gelöscht wird ✅ Ja
Gießereiartefakte Project Ressourcen, Benutzerstatus, Dienstmetadaten No Beibehalten, bis sie von Ihnen oder der zugeordneten Ressource gelöscht wurden ✅ Ja
Optimieren der Hostinginfrastruktur für das Modell Cluster für die Modellbereitstellung, Container, Endpunkt-Infrastruktur Ja CMKs schützen Dateien und Modellartefakte im Ruhezustand. Während der Bereitstellung werden Modellgewichte entpackt und zur Inferenz in eine von Microsoft verwaltete Bereitstellungsinfrastruktur geladen und anschließend entfernt, wenn die Bereitstellung gelöscht wird. ◐ Teilweise
Verwaltete Hostinginfrastruktur für Rechenmodelle Cluster für die Modellbereitstellung, Container, Endpoint-Infrastruktur Ja Modellgewichte werden im von Foundry verwalteten Speicher gespeichert und in den Arbeitsspeicher geladen, wenn Instanzen für die Modellbereitstellung provisioniert werden. Die In-Memory-Kopien sind vorübergehend und an den Lebenszyklus der Bereitstellungsinfrastruktur gebunden. Der Computecache ist nicht verschlüsselt und an den Knotenlebenszyklus gebunden. ◐ Teilweise
Inferenz- und Agentenausführungslaufzeit Aufforderungsausführung, Tokengenerierung, Toolaufrufe, Laufzeitspeicher, temporärer Ausführungszustand, Caches Partial Zustandslos im Kontext der Verarbeitung von Inferenzanfragen. Workloads werden in logisch isolierten Umgebungen ausgeführt, die einer Foundry-Ressource zugeordnet sind und nicht als dauerhafte Speicherorte verwendet werden. Ausgaben von Agentenantworten, wie z. B. Unterhaltungen, können im Ruhezustand CMK-verschlüsselt werden, wenn Sie Ihren eigenen Speicher bereitstellen. ◐ Teilweise (wenn Sie Ihren eigenen Speicher mitbringen)
Feinabstimmung der Schulungslaufzeit Feinabstimmung von Rechenressourcen, GPUs und temporären Arbeitsverzeichnissen Ja Schulungsdaten werden mit CMK verschlüsselt, während sie im Gießerei-verwalteten Speicher gespeichert sind. Während der Schulung werden Daten aus CMK-geschützten Azure Storage bereitgestellt, und Prüfpunkte und endgültige Modellartefakte werden in CMK-geschützten Speicher zurückgeschrieben. Die Schulung erstellt temporäre, joblokale Arbeitsdateien und Caches, die nicht CMK-verschlüsselt sind und nur für die Dauer des Auftrags verbleiben. ◐ Teilweise

Datenaufbewahrung und -löschung

Zusätzlich zu Verschlüsselungssteuerelementen behalten Sie die Kontrolle über den Lebenszyklus von Daten, die von Microsoft Foundry verwaltet werden. Sie können Trainings-, Validierungs- und Trainingsergebnisdaten, die über die Files API hochgeladen wurden, jederzeit löschen. Ebenso können Sie fein abgestimmte Modelle und Bereitstellungen dauerhaft löschen, wenn Sie sie nicht mehr benötigen, wodurch sichergestellt wird, dass vom Dienst verwaltete Ressourcen nicht über die beabsichtigte Verwendung hinaus gespeichert bleiben. Sie können diese Daten jederzeit über die entsprechenden DELETE-API-Vorgänge löschen.

Auswirkungen der Widerrufung eines vom Kunden verwalteten Schlüssels

Sie können den Zugriff auf einen vom Kunden verwalteten Schlüssel jederzeit widerrufen, z. B. indem Sie Berechtigungen für den Schlüssel entfernen, den Schlüssel deaktivieren oder den Schlüssel löschen. Wenn Sie den Zugriff auf einen aktiven vom Kunden verwalteten Schlüssel widerrufen, während CMK aktiviert bleibt, können Sie nicht mehr auf mit diesem Schlüssel verschlüsselte Daten zugreifen. Daher schlagen Vorgänge, die Zugriff auf verschlüsselte Feinabstimmungsressourcen erfordern, fehl, einschließlich des Herunterladens von Schulungsdaten oder Schulungsergebnissen, dem Erstellen neuer fein abgestimmter Modelle und der Bereitstellung fein abgestimmter Modelle.

Zuvor bereitgestellte feinabgestimmte Modelle verarbeiten weiterhin Inferenzanfragen, da die Modellartefakte zum Zeitpunkt der Bereitstellung in die Hosting-Infrastruktur geladen werden. Diese Bereitstellungen bleiben betriebsbereit, bis sie gelöscht werden, nach denen sie nicht neu erstellt werden können, es sei denn, Sie stellen den Zugriff auf den vom Kunden verwalteten Schlüssel wieder her.