Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
Tento článek obsahuje doporučení zabezpečení pro organizace, které spouštějí úlohy AI na Azure. Pokyny se zaměřují na služby platformy AI na Azure, včetně Microsoft Foundry.
Zabezpečení prostředků AI
Chraňte Azure prostředky, které podporují úlohy AI. Začněte standardizovanými bezpečnostními opatřeními a pak použijte pokyny specifické pro službu na základě služeb AI, které používáte.
Použijte standardní hodnoty zabezpečení Azure Standardy zabezpečení Azure poskytují doporučené bezpečnostní kontroly pro služby Azure. Pro služby, které podporují vaše úlohy AI, použijte standardní hodnoty zabezpečení v Azure.
Postupujte podle pokynů k zabezpečení Azure Well-Architected Frameworku. Pomocí Well-Architected Framework můžete vyhodnotit požadavky na zabezpečení pro vaše úlohy AI. Projděte si relevantní Azure Service Guides, kde najdete doporučení specifická pro konkrétní služby.
Zabezpečení modelů AI
Chraňte modely AI před hrozbami, které můžou manipulovat s jejich chováním nebo ohrozit úlohy, které je používají. K omezení těchto rizik použijte ochranu před hrozbami a ochranná opatření modelů. Postupujte následovně:
Použijte Microsoft Defender for Cloud. Povolte příslušné Defender for Cloud ochrany pro vaše prostředí AI. Projděte si doporučení zabezpečení a vyřešte rizika na základě požadavků vaší organizace na zabezpečení. Viz ochrana před hrozbami AI v Microsoft Defender for Cloud.
Chraňte modely a agenty před injekcí promptu. Pomocí funkce Prompt Shields můžete detekovat vstupy, které se pokoušejí obejít instrukce modelu nebo manipulovat s chováním modelu. Chraňte uživatelské prompty a externí obsah, který modely nebo agenti zpracovávají. V Microsoft Foundry nakonfigurujte Prompt Shields prostřednictvím ovládacích prvků ochranných mantinelů. Podívejte se na Prompt Shields.
Používejte důvěryhodné zdroje modelů. Vytvořte řízení pro výběr a nasazení modelů. Před schválením modelu pro použití v organizaci vyhodnoťte poskytovatele modelu a požadavky na zabezpečení. U modelů z externích nebo komunitních zdrojů použijte dodatečnou kontrolu.
Zabezpečení přístupu k AI
Řiďte přístup k prostředkům AI na základě toho, kdo nebo co potřebuje přístup. K omezení neoprávněného přístupu použijte ověřování založené na identitě a princip nejmenších oprávnění. Použijte příslušná opatření pro uživatele, agenty AI a služby Azure. Postupujte následovně:
Ověřujte uživatele pomocí Microsoft Entra ID. Pokud ji služba Azure podporuje, použijte místo klíčů rozhraní API Microsoft Entra ID. Ověřování založené na identitě poskytuje centralizovanou kontrolu nad tím, kdo má přístup k prostředkům AI, a snižuje závislost na uložených přihlašovacích údajích. Pokud služba vyžaduje klíče, chraňte je a pravidelně je obměňujte.
Udělte agentům AI vlastní spravované identity. Přiřaďte identity agentům AI, abyste mohli řídit, k čemu má každý agent přístup. Použijte Microsoft Entra ID agenta ke správě identit agentů a řízení jejich přístupu. Microsoft Foundry může zřizovat identity agentů, které agenti používají pro přístup k navazujícím prostředkům bez uložení přihlašovacích údajů ve výzvě nebo kódu. Podívejte se na koncepty identity agenta v Microsoft Foundry.
Omezte nástroje a oprávnění agenta. Udělte každému agentovi přístup jenom k nástrojům a prostředkům potřebným pro jeho schválené úlohy. Pomocí identity agenta ověřte následná volání a udělte této identitě oprávnění podle principu nejmenších oprávnění. Zkontrolujte oprávnění při změně schopností agenta.
Zabezpečení dat AI
Určete, ke kterým datům má každá úloha umělé inteligence přístup. Definujte jasné hranice dat a použijte mechanismy řízení pro omezení neoprávněného přístupu k datům nebo jejich zpřístupnění. Postupujte následovně:
Definujte hranice dat pro úlohy AI. Určete, ke kterým datům má každá aplikace nebo agent přístup na základě svého účelu a oprávnění. Vynucujte tyto hranice prostřednictvím řízení identit a přístupu k datům, aby úloha AI nemohla načítat data mimo její schválený rozsah.
Izolujte data na základě požadavků na zabezpečení. Určete, jestli úlohy AI vyžadují samostatná datová prostředí na základě požadavků na zabezpečení nebo dodržování předpisů. Pokud by úlohy neměly sdílet přístup ke stejným datům, použijte logickou nebo fyzickou izolaci.
Použijte opatření zabezpečení dat. Chraňte data používaná úlohami AI na základě jejich požadavků na zabezpečení a dodržování předpisů. Viz zabezpečení dat pro AI a analýzu.