Zjišťování aplikací a dat AI

Generativní umělá inteligence (GenAI) je přijímána v nevídané míře, protože organizace aktivně komunikují nebo experimentují s GenAI v různých kapacitách. Týmy zabezpečení můžou zmírnit a spravovat rizika efektivněji tím, že proaktivně získají přehled o využití umělé inteligence v organizaci a implementují odpovídající kontroly. Tento článek popisuje, jak zjistit použití aplikace AI ve vaší organizaci, včetně posouzení rizika pro citlivá data.

Toto je druhý článek v řadě. Před použitím tohoto článku se ujistěte, že jste provedli úlohy v části Příprava na zabezpečení AI , abyste připravili prostředí s funkcemi, které jsou předepsané v tomto článku.

Microsoft poskytuje nástroje, které vám pomůžou získat přehled o rizicích dat, přístupu, uživatelů a aplikací pro AI, které sestavujete a používáte. Tyto funkce vám pomůžou aktivně řešit ohrožení zabezpečení při vytváření silného stavu zabezpečení pro AI.

Následující tabulka popisuje obrázek a také vás provede postupem implementace těchto funkcí.

Krok	Úkol	Scope
1	Získejte přehled o všech identitách agentů vytvořených v sadě Microsoft Copilot Studio a Microsoft Foundry s ID agenta Microsoft Entra.	Agenti vytvořená v aplikaci Microsoft Copilot Studio a Foundry
2	Získejte přehled o využití AI pomocí správy stavu zabezpečení dat (DSPM) Microsoft Purview pro AI. Použijte zásady pro ochranu citlivých dat.	Copiloty, agenti a další aplikace AI, které používají rozsáhlé jazykové moduly třetích stran (LLM), včetně podporovaných webů AI.
3	Objevujte, schvalujte a blokujte aplikace s umělou inteligencí pomocí Microsoft Defender pro cloudové aplikace.	Aplikace AI pro SaaS
4	Objevte nasazené úlohy AI ve vašem prostředí a získejte přehledy o zabezpečení pomocí Microsoft Defenderu pro správu stavu cloudového zabezpečení (CSPM)	Aplikace AI na bázi Azure AI vytvořené na míru

Krok 1 – Získání přehledu o agentech pomocí ID agenta Entra (Preview)

Jak organizace vytvářejí a přijímají agenty umělé inteligence, je obtížné sledovat tyto nelidské aktéry. Velmi důležitá věc, díky které jsou tito agenti mocní – jejich schopnost samostatně zpracovávat složité úkoly a chovat se jako virtuální členové týmu – také vyvolává obavy. Proto je důležité sledovat identity agentů, spravovat jejich životní cyklus a oprávnění a pečlivě zabezpečit přístup k prostředkům vaší organizace.

Id agenta Microsoft Entra (Preview) poskytuje jednotný adresář všech identit agentů vytvořených v sadě Microsoft Copilot Studio a Foundry. Jedná se o první krok, který poskytuje ještě větší viditelnost, ochranu a zásady správného řízení rychle rostoucího objemu agentů v organizacích.

Úkol	Doporučené zdroje informací
Zobrazení všech agentů ve vaší organizaci	přihlaste se do Centra pro správu Microsoft Entra a přejděte do podnikových aplikací. Na panelu filtrů v horní části zobrazení seznamu nastavte rozevírací seznam Typ aplikace na ID agenta (Preview). Seznam podnikových aplikací se okamžitě zpřesní a zobrazí agenty AI (vytvořené přes Copilot Studio nebo Foundry), které jsou zaregistrované ve vašem tenantovi.
Další informace najdete v tomto blogu.	Oznámení ID agenta Microsoft Entra: Zabezpečení a správa agentů AI

Krok 2 – Získání přehledu o využití AI pomocí správy stavu zabezpečení dat (DSPM) pro AI

Microsoft Purview Data Security Posture Management (DSPM) pro AI se zaměřuje na to, jak se AI používá ve vaší organizaci, zejména jak vaše data komunikují s nástroji AI. Funguje s weby využívajícími generativní umělou inteligenci. DSPM pro AI poskytuje podrobnější přehledy o aplikacích Microsoft Copilots a saaS třetích stran, jako je ChatGPT Enterprise a Google Gemini.

Následující diagram znázorňuje jedno z agregovaných zobrazení dopadu použití umělé inteligence na vaše data – citlivé interakce pro generující aplikaci AI.

DSPM pro AI nabízí sadu funkcí, které vám pomůžou bezpečně přijmout AI, aniž byste se museli rozhodnout mezi produktivitou a ochranou:

• Přehledy a analýzy aktivit umělé inteligence ve vaší organizaci
• Zásady připravené k použití pro ochranu dat a zabránění ztrátě dat v AI dotazech.
• Posouzení rizik dat pro identifikaci, nápravu a monitorování potenciálního nadměrného sdílení dat
• Doporučené akce založené na datech ve vašem tenantovi
• Kontrolní mechanismy dodržování předpisů pro aplikaci optimálních zásad zpracování a ukládání dat

Aby bylo možné monitorovat interakce s weby AI třetích stran, musí být zařízení nasazená do Microsoft Purview. Pokud jste postupovali podle pokynů v části Příprava na zabezpečení AI, zaregistrovali jste zařízení do správy v Microsoft Intune a pak jste tato zařízení zapsali do programu Defender for Endpoint. Onboarding zařízení je sdílen napříč Microsoft 365 (včetně Microsoft Purview) a Microsoft Defender for Endpoint (MDE).

Pomocí následujících zdrojů informací můžete zjistit aplikace a data AI s DSPM pro AI.

Úkol	Doporučené zdroje informací
Ujistěte se, že jsou zařízení nasazená do Microsoft Purview.	Pokud zařízení ještě nejsou onboardovaná do Defenderu for Endpoint, existuje několik metod, jak je připojit. Podívejte se na nasazení zařízení s Windows ve službě Microsoft 365.
Vysvětlení požadavků a fungování DSPM pro AI	Důležité informace o nasazení správy stavu zabezpečení dat Microsoft Purview pro AI
Začínáme používat DSPM pro AI	Jak používat správu stavu zabezpečení dat pro AI
Přezkoumání podporovaných AI stránek	Podporované AI stránky od Microsoft Purview pro zabezpečení dat a zajištění shody s předpisy

Krok 3 – Zjišťování, schválení a blokování aplikací AI v programu Microsoft Defender for Cloud Apps

Microsoft Defender for Cloud Apps pomáhá týmům zabezpečení zjišťovat aplikace a využití SaaS GenAI.

Katalog aplikací Defender for Cloud Apps obsahuje kategorii Generative AI pro velké jazykové modely (LLM), jako je Microsoft Bing Chat, Google Bard, ChatGPT a další. Defender for Cloud Apps přidal do katalogu více než tisíc generativních aplikací souvisejících s AI, což poskytuje přehled o tom, jak se ve vaší organizaci používají generující aplikace AI a pomáhají vám je bezpečně spravovat.

Pomocí Defenderu for Cloud Apps můžete:

• Filtrování aplikací generující AI
• Seznamte se s aplikacemi AI, které se používají ve vaší organizaci.
• Podívejte se na připravená posouzení rizik pro každou aplikaci, včetně 90 a dalších rizikových faktorů napříč zabezpečením a dodržováním právních předpisů.
• Schválení nebo zrušení schválení (blokování) používání konkrétních aplikací
• Vytvořte zásady, které budou dál zjišťovat aplikace umělé inteligence na základě nastavených kritérií, včetně skóre rizika, počtu uživatelů za den a dalších. Aplikace, které splňují kritéria, můžete dokonce automaticky zrušit.

Pro další kroky použijte následující zdroje informací.

Úkol	Doporučené zdroje informací
Pilotování a nasazení Defenderu pro Cloud Apps	Jak testuji a nasadím Microsoft Defender for Cloud Apps?
Projděte si tento videokurz	Zjistěte, které aplikace generující AI se ve vašem prostředí používají pomocí defenderu pro cloudové aplikace.
Zobrazení zjištěných aplikací	Zobrazení zjištěných aplikací pomocí řídicího panelu Cloud Discovery
Vyhledání cloudové aplikace a výpočet rizikového skóre	Katalog cloudových aplikací a skóre rizika – Microsoft Defender for Cloud Apps
Řízení zjištěných aplikací	Řízení zjištěných aplikací – Microsoft Defender for Cloud Apps

Krok 4 – Zjištění nasazených úloh AI ve vašem prostředí a získání přehledů o zabezpečení pomocí Microsoft Defenderu pro cloud

Plán Správa stavu zabezpečení cloudu v programu Defender (CSPM) v programu Microsoft Defender for Cloud poskytuje možnosti správy stavu zabezpečení AI počínaje zjišťováním aplikací AI integrovaných ve vašich prostředích:

• Objevování generativního kusovníku AI, který zahrnuje komponenty aplikací, data a artefakty AI od kódu až po cloud.
• Posílení stavu zabezpečení aplikací umělé inteligence s integrovanými doporučeními a prozkoumáním a nápravou rizik zabezpečení
• Analýza cesty útoku k identifikaci a nápravě rizik

Pomocí Průzkumníka zabezpečení cloudu identifikujte generující úlohy a modely AI spuštěné ve vašem prostředí. Průzkumník zabezpečení cloudu obsahuje předkonfigurované dotazy:

• Používané úlohy a modely AI
• Generativní AI zranitelná úložiště kódu, která zřizují Azure OpenAI
• Kontejnery se spuštěnými image kontejnerů se známými zranitelnostmi generativní AI.

Můžete také nakonfigurovat vlastní dotazy.

Pro další kroky použijte následující zdroje informací.

Úkol	Doporučené zdroje informací
Informace o správě stavu zabezpečení AI	Správa stavu zabezpečení AI pomocí Defenderu pro cloud
Objevte úlohy AI	Používané úlohy a modely AI
Prozkoumejte rizika generativních AI artefaktů před nasazením	Rizika pro přednasazení generativních artefaktů umělé inteligence

Další krok pro zabezpečení AI

Po zjištění využití AI ve vaší organizaci je dalším krokem použití ochrany:

• Ochrana citlivých dat používaných s aplikacemi AI
• Implementace ochrany před hrozbami speciálně pro použití umělé inteligence

Podívejte se na další článek v této sérii: Jak můžu chránit organizaci při používání aplikací AI?