Vytvoření silného stavu zabezpečení pro AI

Vaše bezpečnostní opatření AI jsou důležitou součástí celkové strategie zabezpečení. AI upřednostňuje konkrétní prvky strategie kybernetické bezpečnosti, jako je ochrana dat. Tento článek vám pomůže vyvinout strategii a priority pro zabezpečení umělé inteligence. Další články v této kolekci vám pomůžou identifikovat konkrétní prvky kybernetické bezpečnosti, které vám pomohou určit prioritu při přijetí doprovodných rutin, nástrojů a nových aplikací AI.

Stav zabezpečení je definován jako celková schopnost vaší organizace v oblasti kybernetické bezpečnosti spolu s úrovní přípravy a provozního stavu pro řešení probíhajících kybernetických bezpečnostních hrozeb. Tento stav by měl být kvantifikovatelný a měřitelný, podobně jako jakákoli jiná důležitá metrika, která se týká provozního stavu nebo pohody vaší organizace.

Vytvoření silného stavu zabezpečení pro AI zahrnuje práci ve vaší organizaci, zejména vedoucí pracovníky ve vaší organizaci, na vývoji strategie a sady priorit a cílů. Pak identifikujete technickou práci potřebnou k dosažení cílů a vedete různé týmy k jejich dosažení. Články v této knihovně poskytují metodologii s pokyny, které jsou specifické pro AI:

Připravte prostředí pomocí základní ochrany zabezpečení. Pravděpodobně již máte řadu těchto ochran.
Objevte aplikace AI, které se používají ve vaší organizaci, včetně typů dat, která aplikace používají.
Chraňte využití nástrojů AI ve vaší organizaci. To zahrnuje možnosti ochrany dat specifické pro AI a zajištění toho, aby vaše organizace implementovala silnou ochranu před hrozbami.
Řídit AI pro dodržování předpisů.

Diagram znázorňující proces implementace zabezpečení pro AI

Tuto knihovnu použijte společně s následujícími architekturami v Microsoft Learn:

Na obrázku:

V této knihovně (zabezpečení pro knihovnu AI) se dozvíte, jak implementovat funkce pro zabezpečení aplikací a dat AI ve vašem prostředí. Tyto ochrany pomáhají vytvořit základ nulové důvěryhodnosti.
Využijte architekturu přechodu na nulovou důvěryhodnost , abyste mohli pokračovat směrem k komplexnímu zabezpečení. Každý z obchodních scénářů nulové důvěry zvyšuje také zabezpečení aplikací a dat umělé inteligence.
Využijte architekturu přechodu na cloud pro AI k vývoji kompletního plánu přechodu na AI, včetně generování a negenerující umělé inteligence. Tato knihovna obsahuje strategie pro výběr technologií AI, procesů zabezpečení a řízení AI a prostředků pro návrh a implementaci AI.

Porozumíte motivacím vedoucích pracovníků vaší firmy

Silný stav zabezpečení umělé inteligence umožňuje inovace – umožňuje organizacím vytvářet a nasazovat AI s jistotou a flexibilitou. Cílem je umožnit organizaci s jistotou vytvářet, nasazovat a škálovat systémy AI a zároveň chránit před riziky, která by mohla podkopávat důvěru, dodržování předpisů nebo provozní stabilitu. Díky vložení zabezpečení do základů iniciativ umělé inteligence můžou organizace uvolnit plný potenciál umělé inteligence zodpovědně a zajistit, aby zůstal strategickým aktivem, nikoli zdrojem neúmyslných škod.

Začněte vyvíjet strategii a priority tím, že získáte soulad s vedoucími pracovníky vaší firmy. Co motivuje vedoucí pracovníky a proč se zajímají o váš stav zabezpečení pro AI? Následující tabulka obsahuje ukázkové perspektivy, ale je důležité, abyste se seznámili s jednotlivými vedoucími a týmy a seznámili se se sdíleným porozuměním jejich motivaci.

Role	Proč je vytváření silného stavu zabezpečení pro AI důležité
Výkonný ředitel (GENERÁLNÍ ŘEDITEL)	Systémy AI stále více utvářejí strategická rozhodnutí a interakce zákazníků. Porušení nebo manipulace s AI může vést k špatným rozhodnutím, regulační kontrole, poškození pověsti a ztrátě důvěry. Silné zabezpečení AI je zásadní pro organizaci, aby chránila pověst společnosti, zajistila právní dodržování předpisů a zajistila úspěšnou transformaci umělé inteligence.
Hlavní marketingový ředitel (CMO)	Nástroje AI podporují přehledy zákazníků, cílení a přizpůsobení. Pokud dojde k ohrožení zabezpečení, můžou tyto nástroje vést k úniku dat, zkresleným výstupům nebo poškození značky kvůli nevhodnému obsahu nebo cílení. Zabezpečení AI zajišťuje důvěru v zapojení zákazníků, zachování integrity značky, zabránění katastrofám pr a předvedení závazku společnosti chránit ochranu osobních údajů zákazníka.
Ředitel informačních technologií (CIO)	Zabezpečené prostředí AI je nezbytné k zajištění spolehlivosti systému, zabránění neoprávněnému přístupu a zachování provozní odolnosti. To umožňuje ředitelům informačních technologií s jistotou integrovat technologie AI, které zlepšují podnikání, aniž by podnik vystavovali zbytečnému riziku.
Ředitel pro zabezpečení informací (CISO)	AI zavádí nové možnosti útoku a nová rizika a zároveň zvětšují stávající rizika. Mezi nové možnosti útoku patří výzvy, odpovědi, modely, data RAG, kontextový protokol modelu (MCP), trénovací data a otrava dat, útoky s jailbreakem, zabezpečení dat a další. CISO musí vést úsilí při modelování hrozeb a zabezpečení kanálů AI, aby zachoval stav podnikového zabezpečení. Robustní zabezpečení umělé inteligence je rozšířením celkové strategie kybernetické obrany, která chrání prostředky organizace, dodržuje architektury zabezpečení a udržuje důvěru zákazníků a zúčastněných stran v době inteligentních systémů.
Technický ředitel (CTO)	Silný bezpečnostní přístup AI je pro CTO kritický k ochraně technologických prostředků organizace a zajištění, že systémy umělé inteligence fungují spolehlivě podle očekávání. Díky vložení zabezpečení do životního cyklu vývoje umělé inteligence pomáhá CTO zabránit porušení citlivých algoritmů a udržovat vysokou kvalitu a důvěru v produkty řízené AI. To umožňuje inovacím pokračovat bez zbytečného rizika.
Provozní ředitel (COO)	AI automatizuje kritické procesy v dodavatelském řetězci, logistikě a provozu. Útoky na systémy umělé inteligence můžou narušit služby, zvýšit provozní riziko a způsobit nákladná zpoždění. Silný stav zabezpečení AI zajišťuje kontinuitu a efektivitu podnikových procesů.
Finanční ředitel (CFO)	Finanční ředitelé považují robustní zabezpečení AI za nezbytné pro ochranu organizace. Pomáhá vyhnout se nepředvídatelným finančním ztrátám a zajistit soulad se zákony a vykazováním povinností.

Řešení vyvíjejícího se prostředí hrozeb pro AI

GenAI zavádí nové oblasti útoku a efektivně mění prostředí rizika. Kromě správy tradičních vektorů hrozeb musí vedoucí zabezpečení a rizika řešit také zvýšená rizika, jako je únik dat a nadměrné sdílení dat, a nová rizika, jako jsou injekce příkazů, zranitelnosti modelu a nesprávné informace. Řešení rozvíjejících se hrozeb je zásadní pro umožnění důvěryhodné umělé inteligence.

Na obrázku:

Útoky GenAI představují nová a amplifikovaná rizika.
Vektory hrozeb, které zůstávají beze změny, zahrnují vaše aplikace, identity, koncové body, síť, data a cloudové prostředky.
GenAI zavádí nové oblasti útoku, včetně výzev, odpovědí, orchestrace AI, trénovacích dat, dat RAG (Retrieval-Augmented Generování dat, což znamená data, která vyplývají z interakcí vašich dat nebo jiných externích dat s jazykovými modely), modelů AI a modulů plug-in AI.
GenAI zavádí nová zesílená rizika, včetně úniku dat, útoků typu jailbreak (narušení zabezpečení zařízení, která jsou jinak chráněná), nepřímého podání instrukcí a zranitelnosti modelu.

Mezi nejběžnější bezpečnostní incidenty v AI v současné době patří:

Únik a nadměrné sdílení dat – Uživatelé můžou vytékat citlivá data do stínových aplikací umělé inteligence (aplikace, které neschválí váš IT tým). Uživatelé můžou také přistupovat k citlivým datům pomocí aplikací AI.
Ohrožení zabezpečení a nově vznikající hrozby – chybní aktéři můžou zneužít chyby zabezpečení v aplikacích AI pro přístup k cenným prostředkům.
Nedodržení předpisů – předpisy, včetně nově vznikajících předpisů umělé inteligence, mohou zvýšit nejistotu. Přijetí AI nedodržující předpisy může zvýšit odpovědnost.

Následující dva ukázkové scénáře zvýrazňují potřebu vytvoření silného stavu zabezpečení pro AI.

Jak dochází k nadměrnému sdílení a úniku dat?

V tomto příkladu zaměstnanec Contoso Adele vyhledá a použije citlivá data s několika aplikacemi AI.

Krok	Popis	Nemitigovaná rizika
1	Adele zaslechne člena týmu, který zmiňuje Project Obsidian. Používá Microsoft 365 Copilot k vyhledání dalších informací. Copilot jí poskytuje souhrn a odkaz na dokumenty.	Copilot může zpracovávat citlivá data bez omezení. Citlivá data se přeexponují zaměstnancům, včetně těch, kteří by neměli mít přístup.
2	Adele nadále používá Copilot k vyhledání a shromáždění dalších informací o Project Obsidian.	Neexistují žádné ovládací prvky pro detekci anomálií v aplikacích AI.
3	Ze zvědavosti chce Adele zjistit, co by ChatGPT mohlo sumarizovat, proto vloží obsah souboru do ChatGPT.	Neexistuje žádná ochrana před únikem informací (DLP), aby se zabránilo úniku dat aplikacím AI pro spotřebitele.
4	Podrobnosti o projektu byly předčasně odhaleny, což vedlo k narušení dat. Společnost Contoso proto zakázala všechny aplikace AI na pracovišti.	Zákaz uživatelské umělé inteligence může přímo vést ke zvýšení tmavého využití.

Společnost Contoso mohla tato rizika zmírnit tím, že by prováděla přípravu, zjišťování a ochranu využití aplikací AI.

Fáze	Popis
Příprava	Pomocí nástroje Entra a SharePoint Advanced Management můžete nastavit správnou velikost přístupu zaměstnanců k prostředkům. Pomocí Purview Information Protection klasifikovat a označovat citlivá data.
Objevte	Využijte Purview DSPM pro AI ke zjišťování rizik dat. Použijte zprávu o posouzení nadměrného sdílení k vyhodnocení rizik nadměrného sdílení.
Chránit	Vynucujte Purview DLP pro Microsoft 365 Copilot , abyste zabránili Copilotu v sumarizaci citlivých dat. Pomocí Purview Insider Risk Management můžete detekovat a vyšetřovat anomální aktivity. Pomocí adaptivní ochrany můžete dynamicky omezit přístup pro vysoce rizikové uživatele. K blokování vysoce rizikových aplikací použijte Defender for Cloud Apps . Podmíněný přístup Entra použijte k tomu, aby adele před udělením přístupu k ChatGPT přijímala podmínky použití. Pomocí technologie Purview endpoint DLP zablokujte vkládání citlivých dat do spotřebitelských AI aplikací.

Jak může AI zavést riziko dodržování předpisů?

V tomto dalším příkladu je Jane pověřena vedením správy AI pro Contoso.

Krok	Popis	Nemitigovaná rizika
1	Jane se snaží převést regulační požadavky do realizovatelných kontrol, které mohou IT týmy implementovat.	Nedostatek odborníků, kteří jsou dobře obeznámeni s regulačními požadavky i technologiemi.
2	Jane začne připravovat na posouzení rizik, ale neví, jaké systémy AI se vytvářejí a používají ve společnosti Contoso. Nemá také přehled o využití a potenciálních rizicích dodržování předpisů.	Žádná viditelnost do AI systémů nasazených v prostředí. Žádné zásady správného řízení využití AI.
3	Po několika interních rozhovorech si Jane uvědomí, že vývojáři vytvářejí přibližně 14 aplikací umělé inteligence současně s různými standardy zabezpečení, bezpečnosti a kontrol ochrany osobních údajů.	Vývojáři nemají přehled o ovládacích prvcích integrovaných v systémech AI.
4	Některé aplikace umělé inteligence používají osobní údaje bez standardních mantinely k vyhodnocení rizik.	Neprobíhá žádné posouzení rizik.
5	Zákazníci si stěžují na vytváření škodlivého a neuzemněného obsahu společnosti Contoso AI.	Nedostatek ovládacích prvků pro výstupy umělé inteligence

Předpisy umělé inteligence přinášejí nejistotu a stellení rizik odpovědnosti vedoucím zodpovědným za řízení umělé inteligence. Bez jakýchkoli změn společnost Contoso riskuje porušení zákonných požadavků na AI a potenciálně čelí pokutám a škodám na pověsti.

Společnost Contoso mohla tato rizika zmírnit tím, že by prováděla přípravu, zjišťování a ochranu využití aplikací AI.

Fáze	Popis
Příprava	Pomocí Správce dodržování předpisů Purview získáte pokyny k implementaci ovládacích prvků, které můžou pomoct splnit požadavky na dodržování předpisů.
Objevte	Pomocí defenderu pro cloud můžete zjistit prostředky AI nasazené v cloudových prostředích. Pomocí programu Defender for Cloud Apps můžete zjišťovat používané aplikace SaaS AI.
Vláda	Řízení využití AI s auditem Microsoft Purview, správou životního cyklu dat, dodržováním předpisů komunikace a eDiscovery Pomocí sestav AI v Microsoft Foundry můžete vývojářům dokumentovat podrobnosti projektu AI. Pomocí Priva posouzení ochrany osobních údajů můžete proaktivně vyhodnocovat rizika ochrany osobních údajů každého projektu AI. Pomocí zabezpečení obsahu Azure AI můžete zmírnit rizika škodlivého nebo neuzemněného obsahu.

Díky proaktivnímu využívání možností zásad správného řízení můžou organizace při přechodu na AI vyhodnotit a řešit rizika.

Pět kroků k implementaci efektivního zabezpečení pro AI

Vzhledem k tomu, že povědomí o rizicích spojených s rychlou implementací GenAI roste, mnoho organizací aktivně reaguje tím, že věnuje značné prostředky na zlepšení bezpečnostních opatření. Vedoucí pracovníci v oblasti zabezpečení a rizik mohou podniknout několik kroků k vytvoření cesty k bezpečným a zabezpečeným inovacím umělé inteligence.

Tyto doporučené postupy se zaměřují na podporu prostředí pro spolupráci a implementaci účinných bezpečnostních opatření, která budou podporovat pokroky GenAI při zachování zájmů organizace.

Krok 1 – Vytvoření bezpečnostního týmu pro AI

Většina společností uznává, že je potřeba vytvořit vyhrazené křížové týmy pro řízení jedinečných bezpečnostních problémů, které představuje umělá inteligence. Vyhrazené bezpečnostní týmy zajišťují, aby byly pečlivě testovány systémy AI, byly rychle identifikovány a zmírňovány ohrožení zabezpečení a protokoly zabezpečení se průběžně aktualizují, aby se udržely krok s vyvíjejícími se hrozbami.

Osmdesát procent respondentů průzkumu má v současné době (45%) nebo plánuje mít (35%) vyhrazený tým pro řešení zabezpečení umělé inteligence. Více než 6 z 10 uvedlo, že jejich týmy budou hlásit osobě, která má na starosti rozhodování v oblasti bezpečnosti, což zajišťuje nejen pozorný dohled, ale také strategickou vizi a vedení při řešení rizik souvisejících s umělou inteligencí.

Zejména medián velikosti týmu nebo zamýšlené velikosti týmu těchto vyhrazených bezpečnostních týmů byl 24 zaměstnanců, což zdůrazňuje podstatné zdroje, které společnosti věnují na ochranu svých iniciativ umělé inteligence. Když byla zohledněna velikost společnosti, velikost týmů se lišila.

Tady je několik osvědčených postupů, které mohou organizace použít k úspěšnému vytvoření efektivního týmu pro zabezpečení napříč funkcemi u umělé inteligence.

Vytvoření výboru pro AI pro podporu spolupráce napříč odděleními

Zabezpečení umělé inteligence je kolektivní úsilí, které přesahuje oddělení IT. Podpořit spolupráci mezi týmy, jako jsou zabezpečení, IT, právní předpisy, dodržování předpisů a řízení rizik, a vytvářet komplexní strategie zabezpečení. Různé perspektivy a odborné znalosti zvýší efektivitu protokolů zabezpečení.

Pronájem různorodých dovedností

Vytvoření úspěšného bezpečnostního týmu pro AI vyžaduje rovnováhu dovedností. Hledejte členy týmu s odbornými znalostmi v oblasti datových věd, kybernetické bezpečnosti, softwarového inženýrství a strojového učení. Tato rozmanitost zajišťuje, aby byly pokryty různé aspekty zabezpečení, od technického vývoje po prevenci hrozeb.

Stanovení jasných rolí a zodpovědností

Pro efektivní produktivitu jasně definujte roli jednotlivých členů týmu. Zajistěte, aby všichni pochopili své konkrétní povinnosti, které podporují odpovědnost a vyhýbají se překrývání v úsilí.

Investujte do průběžného trénování a vývoje

Rychlý vývoj technologií AI vyžaduje průběžné vzdělávání bezpečnostních týmů. Poskytnout přístup k školicím programům a workshopům, které se zaměřují na postupy, vznikající hrozby a etické aspekty související se zabezpečením AI. Tato investice nejen posiluje členy týmu, ale také zajišťuje, že organizace zůstane před potenciálními zranitelnostmi.

Krok 2 – Optimalizace prostředků pro zabezpečení GenAI

Zavedení aplikací umělé inteligence v organizacích není jen revoluce v provozu, ale také nutností významných změn v přidělování prostředků a rozpočtu, zejména v oblasti zabezpečení IT.

Významná většina vedoucích pracovníků v oblasti zabezpečení a rizik (78%) se domnívá, že se jejich rozpočet na zabezpečení IT zvýší, aby vyhovoval jedinečným výzvám a příležitostem, které přináší AI. Tato úprava je zásadní z několika důvodů. Systémy AI vyžadují k bezpečnému provozu robustní bezpečnostní infrastrukturu. To může zahrnovat upgrade stávajících systémů zabezpečení, implementaci přísnějších kontrol přístupu a vylepšení zabezpečení a zásad správného řízení dat. K splnění nově vznikajících regulačních požadavků umělé inteligence můžou být potřeba i další zdroje informací.

Dříve v tomto článku Microsoft doporučuje udělat práci k pochopení motivace vedoucích firem a různých obchodních jednotek ve vaší organizaci. Identifikace hlavních obav a sdílených obchodních cílů je důležitým krokem k vyjednávání zdrojů k dosažení cílů.

Přidělení finančních prostředků pro posouzení dodržování předpisů, právní konzultace a audity se stává zásadním předpokladem pro sladění strategie umělé inteligence organizace s oborovým rámcem a zajištění bezpečnějšího, bezpečného a vyhovujícího využití a systémů AI. Stanovení priorit finančních prostředků pro průběžný rozvoj školení a dovedností zaměstnanců, které by mohly zahrnovat specializované školení týkající se nástrojů zabezpečení pro umělou inteligenci, strategie řízení rizik a etické aspekty použití umělé inteligence, je také důležité zvážit při přidělování rozpočtu a zdrojů.

Krok 3 – Provedení přístupu nulové důvěryhodnosti

Při přípravě na přijetí umělé inteligence poskytuje strategie nulové důvěry vedoucím odpovídajícím za bezpečnost a rizika soubor principů, které pomáhají řešit některé z jejich hlavních obav, včetně nadměrného sdílení nebo vystavení dat a stínového IT. Přístup nulové důvěry se přesune ze zaměření zaměřeného na síť na prostředek a zaměření zaměřené na data a zachází s každou žádostí o přístup jako s potenciální hrozbou bez ohledu na její původ.

Nulová důvěra neustále ověřuje identity každého uživatele a zařízení, aby zajistila, že citlivé informace jsou dostupné pouze těm, kteří mají příslušná oprávnění. Díky dynamické úpravě bezpečnostních opatření na základě posouzení v reálném čase minimalizuje nulový vztah důvěryhodnosti riziko úniku dat a chrání organizaci před interními i externími hrozbami. Základem tohoto přístupu jsou nepřetržité ověřování, přístup s nejnižšími oprávněními a správa dynamických rizik, které poskytují robustní a přizpůsobitelnou architekturu zabezpečení, která podporuje úspěch komplexního zabezpečení organizace.

Přijetím nulové důvěry (Zero Trust) můžou organizace zabezpečit svá nasazení AI a vědí, že jejich zabezpečení je průběžně ověřeno a chráněno. Nulová důvěryhodnost umožňuje organizacím využívat AI s jistotou a zajistit, aby výkonné funkce umělé inteligence byly bezpečně a efektivně využity.

Všechny pokyny zabezpečení pro AI poskytované Microsoftem jsou ukotvené k principům nulové důvěryhodnosti. Podle pokynů k zabezpečení doporučených pro GenAI vytváříte silný základ nulové důvěryhodnosti.

Krok 4 – Investice do sdílené odpovědnosti s partnery, kterým důvěřujete

Prostředek, který se často používá k informování strategie a priorit, je model sdílené odpovědnosti. Vaše odpovědnost za zabezpečení použití umělé inteligence ve vaší organizaci je založená na typu používaných aplikací. Partneři, do kterých investujete, sdílí s vámi odpovědnost.

Model sdílené odpovědnosti pomáhá týmům zabezpečení řídit jejich organizaci, aby zvolily:

Aplikace GenAI, které snižují odpovědnost organizací.
Partneři, kteří získali důvěru.

Tento diagram shrnuje rovnováhu zodpovědností za vás i Microsoft. Řada organizací používá model sdílené odpovědnosti k určení priorit používání aplikací SaaS ve spolupráci s důvěryhodnými poskytovateli a ke snížení počtu vlastních aplikací.

Další informace najdete v tématu Model sdílené odpovědnosti AI – Microsoft Azure.

Kromě investic s partnery, kteří získali důvěru, mnoho odborníků na zabezpečení doporučuje konsolidovat nástroje zabezpečení a dodavatele. Microsoft nabízí komplexní řešení zabezpečení pro AI pomocí nástrojů, které spolupracují, což výrazně snižuje objem práce integrace pro bezpečnostní týmy.

Krok 5 – Přijetí komplexního řešení zabezpečení pro AI

AI zavádí specifická rizika, která tradiční bezpečnostní opatření nemusí plně řešit. Zabezpečení pro AI je navržené tak, aby tato rizika zmírňovala.

Významná většina společností plánuje pořizovat specializované nástroje a platformy pro zabezpečení jak používání, tak vývoje aplikací AI. Když se zeptali, jak plánují zabezpečení a ochranu využití a vývoje aplikací umělé inteligence ve svých organizacích, většina respondentů průzkumu (72%) řekla, že plánuje získat nové vyhrazené řešení zabezpečení pro zabezpečení využití a vývoje umělé inteligence, zatímco 64% uvedlo, že plánuje používat stávající řešení zabezpečení k zabezpečení umělé inteligence.

Vedoucí IT a bezpečnostní pracovníci se domnívají, že primárními přispěvateli rozpočtu pro nová řešení pro ochranu a řízení umělé inteligence budou IT oddělení (63%) a oddělení zabezpečení informací / kybernetické bezpečnosti (57%). Tato zjištění ukazují, že kromě toho, že i nadále používat existující řešení zabezpečení vidí organizace potřebu hledat nová řešení, která můžou pomoct řešit amplifikovaná a vznikající rizika umělé inteligence.

Kromě komplexní platformy zabezpečení od Microsoftu poskytuje Microsoft komplexní nástroje zabezpečení pro zabezpečení umělé inteligence od zjišťování nástrojů AI a dat až po ochranu navrženou speciálně pro zmírnění hrozeb AI. Mezi tyto nástroje patří sofistikované řídicí panely a prostředky dodržování předpisů, které vám pomůžou udržet si přehled o rizicích a zákonných povinnostech.

Na následujícím obrázku je souhrnné zobrazení všech možností, které Microsoft poskytuje pro ochranu organizací, které přijímají AI. Tyto funkce jsou uvedené také v následující tabulce.

Hlavní obavy zákazníků	Schopnosti
Prevence úniku a nadměrného sdílení dat	– Řízení přístupu a koncových bodů – Microsoft Entra a Intune – Správa stavu zabezpečení dat pro AI – Microsoft Purview - Klasifikace dat, označování a ochrana – Microsoft Purview – Ochrana před únikem informací – Microsoft Purview – Detekce a reakce na anomálie a rizikové aktivity – Microsoft Purview – Zabezpečení aplikací SaaS – Microsoft Defender
Ochrana AI před ohroženími zabezpečení a vznikajícími hrozbami	– Zabezpečení a zásady správného řízení dat – Microsoft Purview - Hodnocení kontrol kvality, bezpečnosti a zabezpečení – Foundry – Správa stavu zabezpečení pro prostředky AI (aplikace, modely, orchestrátory, sady SDK) – Microsoft Defender – Zásady správného řízení modelu – Azure Portal – Bezpečnostní štít obsahu – Azure AI – Ochrana před hrozbami pro úlohy AI – Microsoft Defender
Řízení AI tak, aby splňovalo zákonné požadavky	– Posouzení dodržování předpisů a standardů AI – Microsoft Purview – Zjišťování a katalog AI – Microsoft Defender - Audity požadavků a odpovědí, správa životního cyklu, eDiscovery, soulad s komunikačními předpisy – Microsoft Purview – sestavy AI pro vývojáře, aby mohli protokolovat podrobnosti a ovládací prvky projektu – Foundry - Posouzení dopadu na ochranu osobních údajů – Microsoft Priva – Zmírnění škodlivého obsahu, nesprávných informací a chráněných materiálů – Azure AI Content Safety

Další kroky pro zabezpečení AI

Tato knihovna vás provede procesem implementace zabezpečení umělé inteligence ve fázovaném přístupu.