Zabezpečení umělé inteligence v workshopu Microsoft nulová důvěra (Zero Trust)

AI zesiluje stávající bezpečnostní riziko a zavádí nová rizika a aspekty napříč identitami, daty, aplikacemi a interakcemi uživatelů. Tato rizika je možné řešit pomocí zásad nulová důvěra (Zero Trust).

Zabezpečení AI není jen o ochraně základních modelů a služeb AI. Musíme také zajistit, aby přístup k systému AI, používání a zásady správného řízení odpovídaly nulová důvěra (Zero Trust) zásadám.

Pokyny k pilíři AI se zaměřují na vytvoření přehledu o využití AI, vynucování silného řízení identit a přístupu, ochranu dat napříč výzvami a výstupy, zabezpečení vývojových a runtime prostředí agentů a integraci signálů AI do operací zabezpečení.

Realizace semináře

Workshop O umělé inteligenci se zabývá oblastmi implementace, které jsou shrnuté v tabulce.

Area	Podrobnosti
Mapování a posouzení rizika AI	Zjišťování a inventarizace agentů AI, aplikací a služeb v celé organizaci Posouzení rizik umělé inteligence pomocí centralizovaných přehledů zabezpečení, kontrola inventáře a stanovení priorit zjištění a vytvoření zásad správného řízení, vlastnictví a přijatelného použití Implementujte průběžné monitorování a nápravu pro vývoj rizik umělé inteligence.
Zaregistrujte agenty	Zaregistrujte agenty AI v centralizovaném registru, abyste zachovali viditelnost a kontrolu. Klasifikujte a uspořádejte agenty na základě účelu a rizika, přiřaďte vlastnictví a odpovědnost a definujte publikování, certifikaci a životní cyklus.
Zabezpečení ověřování AI a přístupu	Vynucujte řízení přístupu na základě identit pro systémy a agenty AI. Použijte zásady podmíněného přístupu, zásady založené na rizicích a zásady správného řízení identit a procesy zásad správného řízení identit, abyste zajistili, že s prostředky AI můžou pracovat jenom autorizovaní uživatelé a služby.
Zabezpečený přístup k síti AI	Řízení přístupu ke službám AI v síti Směrujte provoz přes zabezpečené mechanismy řízení přístupu, uplatňujte zásady filtrování a inspekce pro interakce s AI a chraňte před riziky, jako jsou prompt injection a neoprávněné cesty přístupu.
Zabezpečení přístupu k datům AI	Chraňte citlivá data používaná v promtech AI, ukotvení a ve výstupech. Použijte zásady klasifikace, označování a ochrany před únikem informací, kontrolujte přístup k připojeným zdrojům dat a monitorujte rizika nadměrného sdílení a vystavení dat v interakcích S AI.
Vytvářejte agenty bezpečně	Zabezpečte vývoj a nasazení agentů AI vynucováním standardů ověřování, autorizace a zpracování dat. Integrujte mechanismy bezpečnosti obsahu, vyžadujte validaci a red teaming a zaveďte bezpečné procesy publikování a nasazování.
Detekce a reakce na AI	Monitorujte aktivitu umělé inteligence a detekujte hrozby, jako jsou zneužití, anomálie a útoky založené na výzev. Integrujte signály AI do operací zabezpečení, povolte pracovní postupy vyšetřování a reakce a průběžně vylepšujte možnosti detekce a reakce.

Další kroky

Zahajte workshop o umělé inteligenci.