KI-Modellsicherheit

Da Organisationen zunehmend Ki-Modelle (Künstliche Intelligenz) verwenden, um Automatisierung, Erkenntnisse und intelligente Entscheidungsfindung zu fördern, benötigen Sicherheitsteams Sichtbarkeit und Kontrolle, um die Sicherheit und Compliance von KI-Modellen zu bewerten, die in ihre Umgebungen eintreten. Diese Modelle haben häufig breiten Zugriff auf Daten und Infrastruktur. Ohne diese Funktionen wird es immer schwieriger, interne Standards durchzusetzen.

Microsoft Defender für Cloud Defender für KI-Sicherheit unterstützt die KI-Modellüberprüfung. KI-Modellscans bieten proaktive Erkennung unsicherer oder bösartiger Artefakte und überwacht kontinuierlich Modelle auf Risiken während des gesamten KI-Lebenszyklus.

Ki-Modellsicherheit überprüft KI-Modelle automatisch auf Sicherheitsrisiken wie eingebettete Schadsoftware, unsichere Operatoren und offengelegte Geheimnisse, bevor diese Modelle zur Produktion gelangen. Der Dienst ist direkt in Azure Machine Learning und CI/CD-Pipelines integriert und bietet Echtzeitergebnisse sowie umsetzbare Hinweise zur Problemlösung, sodass Teams riskante Modelle frühzeitig im Entwicklungsprozess stoppen können.

Mithilfe der KI-Modellsicherheit können Sicherheitsteams benutzerdefinierte KI-Modelle scannen, die in Azure Machine Learning-Arbeitsbereiche hochgeladen wurden, und Registrierungen, um Bedrohungen wie eingebettete Schadsoftware, unsichere Operatoren und offengelegte Geheimnisse zu identifizieren. Defender für Cloud präsentiert die Ergebnisse und bietet Teams Einblicke in Sicherheitsergebnisse sowie Schweregradbewertungen, Korrekturleitlinien und relevante Modellmetadaten zur Unterstützung effektiver Triage und Priorisierung. Entwickler können Modellscans auch während der Build- oder Releasephasen auslösen, indem SIE CLI-Tools verwenden, die in Azure DevOps- oder GitHub-Pipelines integriert sind, wodurch statisches Scannen und frühzeitige Risikoerkennung ermöglicht werden, bevor Modelle zur Produktion gelangen.

Voraussetzungen

• Sie müssen über ein Azure-Abonnement verfügen, das KI-Modelle enthält, die in Azure Machine Learning (Azure Machine Learning)-Registrierungen oder Arbeitsbereichen registriert sind.

Hinweis

Arbeitsbereiche und Registrierungen, die einen privaten Link verwenden, werden nicht unterstützt.

• Aktivieren Sie den Defender for Cloud Security Posture Management-Plan.

• Sie müssen den Bedrohungsschutz für KI-Dienste und die KI-Modellsicherheitskomponente des Plans aktivieren.

• Erforderliche Berechtigungen: Um den Plan zu aktivieren, benötigen Sie Berechtigungen auf Besitzer - oder Mitwirkenderebene für die Azure Machine Learning-Ressourcen.

• Unterstützte Modelldateiformate: Pickle (.pkl), , HDF5 (.h5), TorchScript (.pt)ONNX (.onnx), SafeTensors (.safetensors), TensorFlow SavedModel / TFLite (FlatBuffers)NumPy (.npy), . Arrow, MsgPack, dill, joblibPMML, JSON, POJO, MOJO, GGUF

• Dateigrößenbeschränkung: 10 GB. Modelldateien, die größer als 10 GB sind, können nicht gescannt werden.

• Der Scan erfolgt einmal pro Woche.

Lokalisieren Sie alle KI-Modelle in Ihrer Umgebung

1. Melden Sie sich im Azure-Portal an.

2. Suchen Sie nach Microsoft Defender für Cloud und wählen Sie es aus.

3. Wählen Sie Cloud Security Explorer aus.

4. Wählen Sie AI & Mls>AI-Modelle aus.

   

5. Wählen Sie Fertig aus.

6. Wähle + aus.

7. Wählen Sie Metadaten>KI-Modellmetadaten aus.

   

8. Klicken Sie auf Suchen.

Im Cloud Security Explorer werden alle KI-Modelle in Ihrer Umgebung angezeigt. Sie können Ansichtsdetails auswählen, um weitere Informationen zu jedem ausgewählten Modell anzuzeigen.

Suchen von KI-Modellen mit Sicherheitsergebnissen

Verwenden Sie den Cloud Security Explorer, um KI-Modelle mit aktiven Sicherheitsergebnissen zu finden.

1. Führen Sie die Schritte 1 bis 7 im Abschnitt "Alle KI-Modelle in Ihrer Umgebung suchen" aus .

2. Wähle + aus.

3. Wählen Sie "Empfehlungen>alle Empfehlungen" aus.

   

4. Klicken Sie auf Suchen.

Im Cloud Security Explorer werden alle KI-Modelle in Ihrer Umgebung mit aktiven Sicherheitsergebnissen angezeigt. Wählen Sie Ansichtsdetails aus, um weitere Informationen zu jedem Modell und den zugehörigen Ergebnissen anzuzeigen.

Finden Sie alle KI-Modelle in Ihrer Umgebung

Die Seite " Defender-Portalressourcen " bietet eine umfassende Ansicht aller KI-Modelle in Ihrer Umgebung.

1. Melden Sie sich beim portal Microsoft Defender an.

2. Gehen Sie zu Assets>Cloud>AI>AI-Modelle.

   

3. Wählen Sie ein KI-Modell mit Empfehlungen aus.

   

4. Wählen Sie 'Seite Asset öffnen' aus.

   

5. Wählen Sie sicherheitsrelevante Empfehlungen> aus.

6. Überprüfen und beheben Sie den Sicherheitsbefund nach Bedarf.

Sie können die Empfehlung auch im Azure-Portal verwalten.

Nächster Schritt

Erstellen Sie Abfragen mit Cloud Security Explorer.