Zabezpečení agentů AI ve velkém měřítku pomocí Microsoft Agentu 365

S tím, jak organizace přijímají agenty umělé inteligence ve velkém, se jejich zabezpečení stává kritickým problémem. Microsoft Agent 365 rozšiřuje stávající infrastrukturu zabezpečení – Microsoft Defender, Microsoft Entra a Microsoft Purview – na agenty s účelovými funkcemi pro zabezpečení agentů.

Tento článek popisuje, jak Microsoft Agent 365 zabezpečuje agenty AI.

Distribuovaný model zabezpečení s centralizovanou viditelností

Agenti umělé inteligence představují nové výzvy zabezpečení, mezi které patří:

  • Nekontrolovaný nárůst počtu agentů od uživatelem vytvořených agentů a agentů SaaS, které zvětšují plochu pro útok
  • Privilegovaní agenti s nadměrným přístupem k prostředkům
  • Zneužití nástrojů, když jsou agenti manipulováni k zneužití autorizovaných nástrojů
  • Chybně nakonfigurovaní nebo zranitelní agenti bez správného ověřování nebo hranic
  • Tradiční hrozby umělé inteligence, jako je zavedení připravenosti a únik dat, které se teď rozšiřují ve všech interakcích agentů

V rámci Microsoft Agenta 365 teď Microsoft Defender, Microsoft Entra a Microsoft Purview poskytují pro agenty účelové ovládací prvky. Odborníci na zabezpečení nadále pracují v nástrojích, které už používají, s přehledy agentů a doporučeními, které se zobrazují přímo na portálu jednotlivých produktů.

Přehled agenta 365 v Centrum pro správu Microsoftu 365 poskytuje centralizovaný přehled o agentech umělé inteligence v celé organizaci, včetně přehledů využití a signálů zabezpečení, které správcům pomáhají provádět akce.

Snímek obrazovky zobrazující stránku s přehledem agenta 365 v Centru pro správu Microsoftu 365

Týmy zabezpečení definují požadavky zásad správného řízení vytvořením šablon zásad, jako jsou například přístupové balíčky v Microsoft Entra. Během onboardingu it týmy tyto šablony aplikují na agenty a zajišťují vynucení zásad správného řízení a dodržování předpisů od začátku.

Řízení přístupu pomocí Microsoft Entra

Agenti, kteří se rozrůstají nebo hromadí nadměrná oprávnění, vytvářejí riziko. Microsoft Entra poskytuje přehled o všech identitách agentů a pomáhá vynucovat přístup s nejnižšími oprávněními:

  • Viditelnost identit agentů – získejte úplný přehled všech agentů ve vaší organizaci, včetně agentů s Entra ID agenta, agentů, které zaregistrujete sami, a stínových agentů.

    Snímek obrazovky znázorňující kartu identit agentů v Centru pro správu Microsoftu 365

  • Podmíněný přístup a ochrana identit – Rozšíření zásad podmíněného přístupu a ochrany identit od uživatelů po agenty Vynucujte rozhodnutí o přístupu v reálném čase na základě kontextu agenta, úrovně rizika a citlivosti prostředků.

    Snímek obrazovky zobrazující stránku podmíněného přístupu v Centru pro správu Microsoftu 365

  • Secure Access Service Edge (SASE) – Monitorujte a blokujte škodlivé a nevyhovující síťové přenosy z agentů spuštěných na uživatelských zařízeních, včetně agentů Copilot Studio.

  • Zásady správného řízení a životní cyklus agentů – Zajistěte, aby agenti měli zodpovědné sponzory, kteří poskytují dohled, a spravujte přístup, aby nepřetrvalo déle, než je potřeba.

Další informace o řízení přístupu:

Zabezpečení dat pomocí Microsoft Purview

Agenti vytvářejí, přistupují k datům a sdílejí je napříč systémy – zvyšují riziko nadměrného sdílení a ohrožení citlivých dat. Microsoft Purview řídí, k jakým datovým agentům mají přístup a jak ho používají, a pomáhá plnit povinnosti dodržování předpisů v rámci životního cyklu agenta:

  • Správa stavu zabezpečení dat – Získejte hloubkovou viditelnost interakce pro agenty a identifikujte rizika expozice dat související s AI.
  • Popisky citlivosti – Agenti dědí a dodržují popisky citlivosti dat a zajišťují konzistentní ochranu dat napříč interakcemi lidí a agentů.
  • Ochrana před únikem informací – Zablokuje agentům přístup k citlivému obsahu na základě popisků a zásad zabezpečení dat.
  • Řízení rizik insiderů a dodržování komunikace – Detekce rizikových aktivit a monitorování interakcí při porušení zásad.
  • Auditování – Protokolujte a auditujte všechny interakce agentů pro kontrolu dodržování předpisů a forenzní šetření.
  • Správa životního cyklu dat – Použijte zásady uchovávání a odstranění na obsah vygenerovaný agentem, aby se data uchovávala pouze v případě potřeby.
  • eDiscovery – Vyhledávání, zachování a export interakcí agentů a výstupů pro podporu právních, regulačních a interních šetření.
  • Správce dodržování předpisů – Posouzení instancí agentů proti předpisům AI s využitím integrovaných posouzení ke sledování a zlepšení stavu dodržování předpisů

Snímek obrazovky zobrazující stránku Agent v Microsoft Purview

Další informace o zabezpečení dat a dodržování předpisů:

Ochrana před hrozbami pomocí Microsoft Defender

Agenti je možné manipulovat k nesprávnému použití autorizovaných nástrojů, nesprávně nakonfigurováni bez správného ověření, nebo cílit pomocí útoků injektáží výzvy. Microsoft Defender identifikuje tato rizika a umožňuje rychlou reakci:

  • Správa stavu zabezpečení agenta – Identifikace a náprava chybných konfigurací a rizik ohrožení agenta Vizualizujte cesty útoku od agentů k důležitým prostředkům.

    Snímek obrazovky znázorňující kartu Přehled na stránce Agent v programu Microsoft Defender

  • Detekce a blokování hrozeb – Detekce podezřelých aktivit agentů, příjem výstrah a blokování škodlivých volání nástrojů v reálném čase.

    Snímek obrazovky zobrazující stránku Incident v Programu Microsoft Defender

  • Vyšetřování a vyhledávání hrozeb – Shromážděte protokoly pozorovatelnosti jednotného agenta a vyhledávejte hrozby napříč činnostmi agenta.

    Snímek obrazovky zobrazující stránku pro vyšetřování a vyhledávání hrozeb v programu Microsoft Defender.

Další informace o ochraně před hrozbami:

Další kroky

Další informace o Microsoft Agentu 365:

  • Last updated on