Zabezpečení modelu AI

Důležité

Tato funkce je aktuálně ve verzi Preview a je součástí plánu Microsoft Defender pro AI Služby. Během období Preview se za kontrolu modelů AI neúčtují žádné další poplatky. Povolení plánu Defender pro AI Služby ale může mít náklady související s funkcemi ochrany před hrozbami. Průběžné zahrnutí funkce kontroly modelů AI v rámci Defender pro AI Služby není zaručeno, když bude obecně dostupná (GA) a můžou se změnit licenční požadavky. Pokud k tomu dojde, oznámení se odešle před zakázání funkce s možnostmi opětovného povolení v rámci příslušné licence.

Vzhledem k tomu, že organizace stále častěji používají modely umělé inteligence (AI) k řízení automatizace, přehledů a inteligentního rozhodování, týmy zabezpečení potřebují k posouzení bezpečnosti a dodržování předpisů modelů AI v jejich prostředí přehled a kontrolu. Tyto modely mají často široký přístup k datům a infrastruktuře. Bez těchto schopností je stále obtížnější vynucovat interní standardy.

Microsoft Defender for Cloud pro zabezpečení AI podporuje skenování modelů AI. Prohledávání modelů AI poskytuje proaktivní detekci nebezpečných nebo škodlivých artefaktů a nepřetržitě monitoruje modely rizik v průběhu životního cyklu AI.

Zabezpečení modelu AI automaticky kontroluje modely AI z hlediska bezpečnostních rizik, jako jsou vložený malware, nebezpečné operátory a tajné kódy před tím, než se tyto modely dostanou do produkčního prostředí. Služba je integrovaná přímo s kanály Azure Machine Learning a CI/CD a poskytuje poznatky v reálném čase a užitečné pokyny k nápravě, aby týmy mohly v rané fázi procesu vývoje zastavit rizikové modely.

Pomocí zabezpečení modelu AI můžou bezpečnostní týmy kontrolovat vlastní modely AI nahrané do pracovních prostorů a registrů Azure Machine Learning a identifikovat hrozby, jako je vložený malware, nebezpečné operátory a tajné kódy. Defender for Cloud výsledky prezentuje, poskytuje týmům přehled o zjištěních zabezpečení spolu s hodnocením závažnosti, pokyny k nápravě a relevantními metadaty modelu pro podporu efektivního třídění a stanovení priorit. Vývojáři můžou také aktivovat kontroly modelů během fází sestavení nebo vydaných verzí pomocí nástrojů rozhraní příkazového řádku integrovaných s Azure DevOps nebo GitHub kanály, což umožňuje statickou kontrolu a včasné zjišťování rizik před tím, než se modely dostanou do produkčního prostředí.

Předpoklady

• Musíte mít předplatné Azure, které obsahuje modely AI zaregistrované v registrech nebo pracovních prostorech Azure Machine Learning (Azure Machine Learning).

Poznámka:

Pracovní prostory a registry, které používají privátní propojení, se nepodporují.

• Enable plán správy stavu zabezpečení Defender for Cloud.

• Musíte povolit ochranu před hrozbami pro služby AI a komponentu zabezpečení modelu AI v plánu.

• Požadovaná oprávnění: K povolení plánu potřebujete oprávnění úrovně Owner nebo Contributor úrovně pro prostředky Azure Machine Learning.

• Podporované formáty souborů modelu: Pickle (.pkl), HDF5 (.h5), TorchScript (.pt), ONNX (.onnx)SafeTensors (.safetensors), TensorFlow SavedModel / TFLite (FlatBuffers), NumPy (.npy), Arrow, MsgPack, dill, joblib, . PMML, JSON, POJO, MOJO, GGUF

• Limit velikosti souboru: 10 GB. Soubory modelu větší než 10 GB nelze oskenovat.

• Kontrola probíhá jednou týdně.

Vyhledání všech modelů AI ve vašem prostředí

1. Přihlaste se k portálu Azure.

2. Vyhledejte a vyberte Microsoft Defender for Cloud.

3. Vyberte Průzkumník zabezpečení cloudu.

4. Vyberte modely AI &Mls>AI.

   

5. Vyberte Hotovo.

6. Vyberte možnost +.

7. Vyberte Metadata>Metadata modelu AI.

   

8. Vyberte Hledat.

Průzkumník zabezpečení cloudu zobrazí všechny modely AI ve vašem prostředí. Pokud chcete zobrazit další informace o jednotlivých vybraných modelech, můžete vybrat zobrazení podrobností .

Vyhledání modelů umělé inteligence se záznamy o bezpečnostních zjištěních

Pomocí Průzkumníka zabezpečení cloudu vyhledejte modely AI, které mají aktivní zjištění zabezpečení.

1. Postupujte podle kroků 1 až 7 v části Vyhledání všech modelů AI ve vašem prostředí .

2. Vyberte možnost +.

3. Vyberte Doporučení>Všechna doporučení.

   

4. Vyberte Hledat.

Průzkumník zabezpečení cloudu zobrazí všechny modely AI ve vašem prostředí, které mají aktivní zjištění zabezpečení. Výběrem možnosti Zobrazit podrobnosti zobrazíte další informace o jednotlivých modelech a souvisejících zjištěních.

Vyhledání všech modelů AI ve vašem prostředí

Stránka portálu Defender Sestavy poskytuje komplexní zobrazení všech modelů AI ve vašem prostředí.

1. Přihlaste se k portálu Microsoft Defender.

2. Přejděte na prostředky>Cloud>AI>AI modely.

   

3. Vyberte model AI s doporučeními.

   

4. Vyberte Otevřít stránku prostředku.

   

5. Vyberte doporučení zabezpečení> , která jsou relevantní.

6. Podle potřeby zkontrolujte a opravte zjištění zabezpečení.

Doporučení můžete spravovat také na portálu Azure.

Další krok

Vytvářejte dotazy pomocí Průzkumníka zabezpečení cloudu.