Poznámka:
Přístup k této stránce vyžaduje autorizaci. Můžete se zkusit přihlásit nebo změnit adresáře.
Přístup k této stránce vyžaduje autorizaci. Můžete zkusit změnit adresáře.
Tento článek popisuje organizační proces vytváření úloh AI v Azure. Tento článek obsahuje doporučení k provádění klíčových rozhodnutí o návrhu a procesu při přijímání úloh AI ve velkém měřítku. Zaměřuje se na pokyny specifické pro umělou inteligenci týkající se organizace prostředků a připojení.
Vytvoření zásad správného řízení AI
Zásady správného řízení AI vyžadují správnou organizaci prostředků a správu zásad, aby se zajistily zabezpečené, vyhovující a nákladově efektivní operace. Abyste mohli efektivně chránit citlivá data a řídit přístup k prostředkům AI, musíte vytvořit jasné hranice zásad správného řízení. Postupujte následovně:
Vytvořte samostatné skupiny pro správu pro internetové a interní úlohy umělé inteligence. Oddělení skupin pro správu vytváří kritické hranice zásad správného řízení dat mezi externími ("online") a interními ("podnikovými") aplikacemi AI. Toto oddělení brání externím uživatelům v přístupu k citlivým interním obchodním datům, zatímco udržujete odpovídající řízení přístupu. Přístup je v souladu s principy architektury skupiny pro řízení přistávací zóny Azure a podporuje přenášení zásad napříč typy úloh.
Použijte zásady specifické pro umělou inteligenci pro každou skupinu správy. Začněte se základními zásadami z cílových zón Azure a přidejte definice Azure Policy pro Foundry, Foundry Tools, Azure AI Vyhledávač a Azure Virtual Machines. Vynucování zásad zajišťuje jednotné řízení umělé inteligence na vaší platformě a snižuje ruční dohled nad dodržováním předpisů.
Nasaďte AI prostředky v předplatných určených pro specifické úlohy. Prostředky AI musí dědit zásady správného řízení ze skupiny pro správu úloh místo předplatných platformy. Toto oddělení brání úzkým místům ve vývoji, která vytváří kontrola týmu platformy, a umožňuje pracovním týmům pracovat s příslušnou autonomií. Nasaďte úlohy AI do předplatných cílových zón aplikace v prostředích cílové zóny Azure.
Vytvoření sítě AI
Sítě AI zahrnují návrh síťové infrastruktury, bezpečnostní opatření a efektivní vzorce přenosu dat pro úlohy AI. Abyste zabránili přerušení sítě a zachovali konzistentní výkon, musíte implementovat správné kontrolní mechanismy zabezpečení a možnosti připojení. Postupujte následovně:
Aktivujte Azure DDoS Protection pro internetové AI úlohy.Azure DDoS Protection chrání vaše služby AI před potenciálními přerušeními a výpadky, které způsobují útoky na odepření služeb. Ochrana před útoky DDoS na úrovni virtuální sítě chrání před záplavami provozu, které cílí na internetové aplikace a udržují dostupnost služeb během útoků.
Zabezpečení provozního přístupu k úlohám AI pomocí Azure Bastion Pomocí jumpboxu a Azure Bastion zabezpečte provozní přístup k úlohám AI a předejdete přímému internetovému vystavení rozhraní pro správu. Tento přístup vytvoří zabezpečenou bránu pro úlohy správy při zachování izolace sítě pro prostředky AI.
Zvolte vhodné připojení pro místní zdroje dat. Organizace, které přenášejí velké objemy dat z místních zdrojů do cloudových prostředí, potřebují připojení s velkou šířkou pásma, aby podporovaly požadavky na výkon úloh AI.
Použití Azure ExpressRoute pro přenos dat ve vysokém objemu dat.Azure ExpressRoute poskytuje vyhrazené připojení pro velké objemy dat, zpracování v reálném čase nebo úlohy, které vyžadují konzistentní výkon. ExpressRoute zahrnuje funkci FastPath , která zlepšuje výkon cesty k datům tak, že bránu ExpressRoute vynechává pro konkrétní toky provozu.
Použít Službu Azure VPN Gateway pro střední přenos dat.Službu Azure VPN Gateway funguje dobře pro střední objemy dat, zřídka se jedná o přenos dat nebo v případě, že je vyžadován veřejný přístup k internetu. VPN Gateway nabízí jednodušší nastavení a nákladově efektivní operaci pro menší datové sady v porovnání s ExpressRoute. Pro úlohy AI použijte odpovídající topologii a návrh , včetně sítě VPN typu site-to-site pro připojení mezi místy a vpn typu point-to-site pro zabezpečený přístup k zařízením.
Zajištění spolehlivosti AI
Spolehlivost umělé inteligence vyžaduje strategické umístění oblastí a plánování redundance, aby se zajistil konzistentní výkon a vysoká dostupnost. Organizace musí řešit hostování modelu, umístění dat a zotavení po havárii, aby zachovaly spolehlivé služby AI. Potřebujete naplánovat strategii regionálního nasazení, abyste se vyhnuli přerušení služeb a optimalizovali výkon. Postupujte následovně:
Nasaďte koncové body AI napříč několika oblastmi pro produkční úlohy. Produkční úlohy AI vyžadují hostování alespoň ve dvou oblastech, aby poskytovaly redundanci a zajistily vysokou dostupnost. Nasazení ve více regionech umožňují rychlejší automatické přepnutí a obnovení během regionálních poruch. Pro Azure OpenAI v systému Foundry použijte globální nasazení, která automaticky směrují požadavky do oblastí s dostupnou kapacitou. V případě regionálních nasazení implementujte Azure API Management pro vyrovnávání zatížení požadavků rozhraní API napříč koncovými body AI.
Před nasazením ověřte dostupnost služby AI v cílových oblastech. Různé oblasti poskytují různé úrovně dostupnosti služby AI a podpory funkcí. Zkontrolujte dostupnost služby Azure podle oblastí a ověřte, že jsou dostupné požadované služby AI. Azure nasazovací modely OpenAI zahrnují globální standard, globální předprovisionování, regionální standard a regionální předprovisionované možnosti s různými schématy regionální dostupnosti.
Vyhodnoťte místní limity kvót a požadavky na kapacitu. Nástroje Foundry mají místní limity předplatného, které ovlivňují nasazení velkých modelů a úlohy odvozování. Kontaktujte podpora Azure proaktivně, pokud očekáváte, že kapacita překročí standardní kvóty, aby se zabránilo přerušení služeb během škálování.
Optimalizujte uspořádání dat pro aplikace generace rozšířené o načítání. Umístění úložiště dat výrazně ovlivňuje výkon aplikace ve scénářích RAG. Společné umístění dat s modely AI ve stejné oblasti snižuje latenci a zlepšuje efektivitu načítání dat, i když konfigurace mezi oblastmi zůstávají pro konkrétní obchodní požadavky přijatelné.
Replikace důležitých prostředků AI do sekundárních oblastí pro zajištění kontinuity podnikových procesů Provozní kontinuita vyžaduje replikaci jemně vyladěných modelů, datových sad RAG, trénovaných modelů a trénovacích dat do sekundárních oblastí. Replikace prostředků umožňuje rychlejší obnovení během výpadků a udržuje dostupnost služeb v různých scénářích selhání.
Vytvoření základu AI
Základ AI poskytuje základní infrastrukturu a hierarchii prostředků, která podporuje úlohy AI v Azure. Zahrnuje nastavení škálovatelných a zabezpečených prostředí, která odpovídají potřebám zásad správného řízení a provozu. Silný základ AI umožňuje efektivní nasazení a správu úloh AI. Zajišťuje také zabezpečení a flexibilitu pro budoucí růst.
Použití cílové zóny Azure
Doporučeným výchozím bodem přípravy prostředí Azure je cílová zóna Azure. Poskytuje předdefinované nastavení pro prostředky platformy a aplikací. Jakmile je platforma nasazená, můžete úlohy AI nasadit do vyhrazených cílových zón aplikací.
Pokud vaše organizace používá Azure cílové zóny pro úlohy, pak je dál používat pro úlohy, které používají AI. Úlohy AI nasadíte do běžných cílových zón aplikací stejně jako jakékoli jiné úlohy. Viz AI v cílových zónách Azure. Obrázek 2 níže znázorňuje, jak se úlohy AI integrují do cílové zóny Azure.
Vytvoření prostředí AI
Pokud nepoužíváte cílovou zónu Azure, postupujte podle doporučení v tomto článku a sestavte prostředí AI. Následující diagram znázorňuje základní hierarchii prostředků. Segmentuje interní úlohy AI a úlohy umělé inteligence přístupné z internetu. Interní úlohy používají politiku k odepření online přístupu pro zákazníky. Toto oddělení chrání interní data před vystavením externím uživatelům. Vývoj umělé inteligence by měl používat tzv. "jumpbox" ke správě prostředků a dat AI.
Obrázek 3 Základní hierarchie prostředků pro úlohy AI
Další kroky
Dalším krokem je sestavení a nasazení úloh AI do prostředí AI. Následující odkazy vám použijí k vyhledání pokynů k architektuře, které vyhovují vašim potřebám. Začněte s architekturami typu platforma jako služba (PaaS). PaaS je doporučeným přístupem k přijetí AI Microsoft.