Co jsou kontejnery Azure AI?
Služby Azure AI poskytují několik kontejnerů Dockeru , které umožňují používat stejná rozhraní API, která jsou k dispozici v Místním prostředí Azure. Díky těmto kontejnerům získáte flexibilitu přiblížíte službám Azure AI vaše data z důvodu dodržování předpisů, zabezpečení nebo jiných provozních důvodů. Podpora kontejnerů je aktuálně dostupná pro podmnožinu služeb Azure AI.
Kontejnerizace je přístup k distribuci softwaru, ve které se aplikace nebo služba, včetně jejích závislostí a konfigurace, zabalí společně jako image kontejneru. S malou nebo žádnou úpravou je možné image kontejneru nasadit na hostitele kontejneru. Kontejnery jsou navzájem izolované a základní operační systém s menšími nároky než virtuální počítač. Kontejnery je možné vytvořit instanci z imagí kontejnerů pro krátkodobé úlohy a v případě potřeby je odebrat.
Funkce a výhody
- Neměnná infrastruktura: Umožňuje týmům DevOps využívat konzistentní a spolehlivou sadu známých systémových parametrů a zároveň se přizpůsobovat změnám. Kontejnery poskytují flexibilitu pro otáčení v rámci předvídatelného ekosystému a zabránění posunu konfigurace.
- Kontrola nad daty: Vyberte, kde se vaše data zpracovávají službami Azure AI. To může být nezbytné, pokud nemůžete odesílat data do cloudu, ale potřebujete přístup k rozhraním API služeb Azure AI. Podpora konzistence v hybridních prostředích – napříč daty, správou, identitou a zabezpečením
- Kontrola nad aktualizacemi modelu: Flexibilita při správě verzí a aktualizace modelů nasazených v jejich řešeních
- Přenosná architektura: Umožňuje vytvořit přenosnou aplikační architekturu, kterou je možné nasadit v Azure, místně i na hraničních zařízeních. Kontejnery je možné nasadit přímo do služby Azure Kubernetes Service, Azure Container Instances nebo do clusteru Kubernetes nasazeného do služby Azure Stack. Další informace najdete v tématu Nasazení Kubernetes do služby Azure Stack.
- Vysoká propustnost / nízká latence: Zákazníkům umožňuje škálovat požadavky na vysokou propustnost a nízkou latenci tím, že službám Azure AI umožníte, aby běžely fyzicky blízko své aplikační logiky a dat. Kontejnery nezasahují transakce za sekundu (TPS) a je možné je provést tak, aby vertikálně navyšoval a zvládal poptávku, pokud poskytnete potřebné hardwarové prostředky.
- Škálovatelnost: Díky stále rostoucí popularitě kontejnerizace a softwaru pro orchestraci kontejnerů, jako je Kubernetes, je škálovatelnost v popředí technologického pokroku. Vývoj aplikací, který je založen na škálovatelném základu clusteru, zajišťuje vysokou dostupnost.
Kontejnery ve službách Azure AI
Kontejnery Azure AI poskytují následující sadu kontejnerů Dockeru, z nichž každá obsahuje podmnožinu funkcí ze služeb ve službách Azure AI. Pokyny a umístění obrázků najdete v následujících tabulkách.
Poznámka:
Viz Instalace a spuštění kontejnerů Document Intelligence pro pokyny ke kontejneru Azure AI Document Intelligence a umístění imagí.
Rozhodovací kontejnery
| Service | Kontejner | Popis | Dostupnost |
|---|---|---|---|
| Detektor anomálií | Detektor anomálií (obrázek) | Rozhraní API Detektor anomálií umožňuje monitorovat a zjišťovat odchylky v datech časových řad pomocí strojového učení. | Obecně dostupné |
Jazykové kontejnery
| Service | Kontejner | Popis | Dostupnost |
|---|---|---|---|
| LUIS | LUIS (image) | Načte natrénovaný nebo publikovaný model Language Understanding, označovaný také jako aplikace LUIS, do kontejneru Dockeru a poskytuje přístup k předpovědím dotazů z koncových bodů rozhraní API kontejneru. Můžete shromažďovat protokoly dotazů z kontejneru a nahrávat je zpět na portál LUIS, aby se zlepšila přesnost predikce aplikace. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Služba jazyka | Extrakce klíčových frází (obrázek) | Extrahuje klíčové fráze k identifikaci hlavních bodů. Například pro vstupní text „The food was delicious and there were wonderful staff“ (Jídlo bylo výborné a personál byl úžasný),vrací rozhraní API hlavní body: „food“ (jídlo) a „wonderful staff“ (úžasný personál). | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Služba jazyka | Rozpoznávání jazyka textu (obrázek) | V případě až 120 jazyků zjistí, ve kterém jazyce je vstupní text napsaný, a hlásí jeden kód jazyka pro každý dokument odeslaný na žádost. Kód jazyka spárovaný se skóre označuje sílu skóre. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Služba jazyka | Analýza mínění (obrázek) | Analyzuje nezpracovaný text s informacemi o pozitivním nebo negativním mínění. Tato verze analýzy mínění vrací popisky mínění (například kladné nebo záporné) pro každý dokument a větu v něm. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Služba jazyka | Analýza textu pro stav (obrázek) | Extrahujte a označte lékařské informace z nestrukturovaného klinického textu. | Obecně dostupné |
| Služba jazyka | Rozpoznávání pojmenovaných entit (obrázek) | Extrahujte pojmenované entity z textu. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Služba jazyka | Rozpoznávání vlastních pojmenovaných entit (obrázek) | Extrahujte pojmenované entity z textu pomocí vlastního modelu, který vytvoříte pomocí dat. | Obecně dostupné |
| Služba jazyka | Shrnutí (obrázek) | Sumarizovat text z různých zdrojů | Public Preview. Tento kontejner se může spustit také v odpojených prostředích. |
| Překladatel | Translator (obrázek) | Přeložit text v několika jazycích a dialektech | Obecně dostupné. Vrátný – požádat o přístup. Tento kontejner se může spustit také v odpojených prostředích. |
Kontejnery služby Speech
| Service | Kontejner | Popis | Dostupnost |
|---|---|---|---|
| Rozhraní API služby Speech | Převod řeči na text (obrázek) | Přepisuje plynulou řeč v reálném čase do textové podoby. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Rozhraní API služby Speech | Vlastní řeč na text (obrázek) | Přepisuje průběžnou řeč v reálném čase do textu pomocí vlastního modelu. | Obecně dostupné Tento kontejner se může spustit také v odpojených prostředích. |
| Rozhraní API služby Speech | Neurální text na řeč (obrázek) | Převede text na přirozeně zvukovou řeč pomocí technologie hluboké neurální sítě, což umožňuje přirozeněji syntetizovaný řeč. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Rozhraní API služby Speech | Identifikace jazyka řeči (obrázek) | Určuje jazyk mluveného zvuku. | Náhled |
Kontejnery zpracování obrazu
| Service | Kontejner | Popis | Dostupnost |
|---|---|---|---|
| Azure AI Vision | Čtení OCR (image) | Kontejner Read OCR umožňuje extrahovat tištěný a ručně psaný text z obrázků a dokumentů s podporou formátů JPEG, PNG, BMP, PDF a TIFF. Další informace najdete v dokumentaci k rozhraní API pro čtení. | Obecně dostupné. Tento kontejner se může spustit také v odpojených prostředích. |
| Prostorová analýza | Prostorová analýza (obrázek) | Analyzuje streamované video v reálném čase, aby porozuměl prostorovým vztahům mezi lidmi, jejich pohybem a interakcemi s objekty ve fyzických prostředích. | Náhled |
Některé kontejnery se navíc podporují v nabídce prostředků s více službami Azure AI. Můžete vytvořit jeden prostředek All-In-One služeb Azure a použít stejný fakturační klíč napříč podporovanými službami pro následující služby:
- Azure AI Vision
- LUIS
- Služba jazyka
Požadavky
Před použitím kontejnerů Azure AI musíte splnit následující požadavky:
Docker Engine: Musíte mít nainstalovaný Docker Engine místně. Docker poskytuje balíčky, které konfigurují prostředí Dockeru v systémech macOS, Linux a Windows. Ve Windows musí být Docker nakonfigurovaný tak, aby podporoval kontejnery Linuxu. Kontejnery Dockeru je také možné nasadit přímo do služby Azure Kubernetes Service nebo Azure Container Instances.
Docker musí být nakonfigurovaný tak, aby se kontejnery mohly připojit a odesílat fakturační data do Azure.
Znalost služby Microsoft Container Registry a Dockeru: Měli byste mít základní znalosti o konceptech Služby Microsoft Container Registry i Dockeru, jako jsou registry, úložiště, kontejnery a image kontejnerů a také znalosti základních docker příkazů.
Základní informace o Dockeru a kontejnerech najdete v článku Docker Overview (Přehled Dockeru).
Jednotlivé kontejnery můžou mít také vlastní požadavky, včetně požadavků na přidělení serveru a paměti.
Zabezpečení kontejnerů služeb Azure AI
Zabezpečení by mělo být primárním cílem při vývoji aplikací. Důležitost zabezpečení je metrika pro úspěch. Při navrhování softwarového řešení, které zahrnuje kontejnery Azure AI, je důležité pochopit omezení a možnosti, které máte k dispozici. Další informace o zabezpečení sítě najdete v tématu Konfigurace virtuálních sítí služeb Azure AI.
Důležité
Ve výchozím nastavení není v rozhraní API kontejneru služeb Azure AI žádné zabezpečení . Důvodem je to, že kontejner nejčastěji běží jako součást podu, který je chráněn před vnějším síťovým mostem. Je však možné, aby uživatelé vytvořili vlastní infrastrukturu ověřování, aby se přibližné metody ověřování používané při přístupu ke cloudovým službám Azure AI.
Následující diagram znázorňuje výchozí a nezabezpečený přístup:
Jako příklad alternativního a zabezpečeného přístupu můžou spotřebitelé kontejnerů Azure AI rozšířit kontejner o front-inovou komponentu a zachovat privátní koncový bod kontejneru. Pojďme se podívat na scénář, ve kterém jako bránu příchozího přenosu dat používáme Istio . Istio podporuje ověřování https/TLS a klientským certifikátem. V tomto scénáři front-end Istio zpřístupňuje přístup ke kontejneru a prezentuje klientský certifikát, který je schválen předem u istio.
Nginx je další oblíbená volba ve stejné kategorii. Istio i Nginx fungují jako síť služeb a nabízejí další funkce, jako je vyrovnávání zatížení, směrování a řízení rychlosti.
Sítě kontejnerů
Kontejnery Azure AI se vyžadují k odesílání informací o měření pro účely fakturace. Pokud nechcete povolit seznam různých síťových kanálů, na které kontejnery Azure AI spoléhají, zabráníte tomu, aby kontejner fungoval.
Seznam povolených domén a portů služeb Azure AI
Hostitel by měl povolit port 443 a následující domény:
*.cognitive.microsoft.com*.cognitiveservices.azure.com
Zakázání hloubkové kontroly paketů
Hloubková kontrola paketů (DPI) je typ zpracování dat, který podrobně kontroluje data odesílaná přes počítačovou síť a obvykle provádí akce blokováním, přesměrováním nebo protokolováním.
Zakažte DPI na zabezpečených kanálech, které kontejnery Azure AI vytvářejí na serverech Microsoftu. Pokud to neuděláte, zabráníte správnému fungování kontejneru.
Ukázky pro vývojáře
Ukázky pro vývojáře jsou k dispozici v našem úložišti GitHub.
Další kroky
Seznamte se s recepty kontejnerů, které můžete používat se službami Azure AI.
Nainstalujte a prozkoumejte funkce poskytované kontejnery ve službách Azure AI: