Co jsou kontejnery Azure Cognitive Services?

Azure Cognitive Services poskytuje několik kontejnerů Dockeru , které umožňují používat stejná rozhraní API, která jsou k dispozici v místním prostředí Azure. Díky těmto kontejnerům získáte flexibilitu při přiblížení služeb Cognitive Services k vašim datům z důvodu dodržování předpisů, zabezpečení nebo z jiných provozních důvodů. Podpora kontejnerů je v současné době k dispozici pro podmnožinu služeb Azure Cognitive Services.

Kontejnerizace je přístup k distribuci softwaru, ve kterém jsou aplikace nebo služba, včetně konfigurace závislostí & , zabaleny společně jako image kontejneru. Image kontejneru je možné nasadit na hostitele kontejneru s malými nebo žádnými úpravami. Kontejnery jsou od sebe a od základního operačního systému izolované a mají menší nároky než virtuální počítač. Kontejnery je možné vytvořit instanci z imagí kontejnerů pro krátkodobé úkoly a odebrat, když už je nepotřebujete.

Funkce a výhody

  • Neměnná infrastruktura: Umožňuje týmům DevOps využívat konzistentní a spolehlivou sadu známých systémových parametrů a zároveň se přizpůsobit změnám. Kontejnery poskytují flexibilitu při otáčení v rámci předvídatelného ekosystému a zabraňují posunu konfigurace.
  • Kontrola nad daty: Zvolte, kde se budou data zpracovávat službami Cognitive Services. To může být nezbytné, pokud nemůžete posílat data do cloudu, ale potřebujete přístup k rozhraní API služeb Cognitive Services. Podpora konzistence v hybridních prostředích – napříč daty, správou, identitou a zabezpečením.
  • Kontrola nad aktualizacemi modelů: Flexibilita při správě verzí a aktualizacích modelů nasazených v jejich řešeních.
  • Přenosná architektura: Umožňuje vytvořit architekturu přenosných aplikací, kterou je možné nasadit v Azure, v místním prostředí i na hraničních zařízeních. Kontejnery je možné nasadit přímo do Azure Kubernetes Service, Azure Container Instances nebo do clusteru Kubernetes nasazeného ve službě Azure Stack. Další informace najdete v tématu Nasazení Kubernetes do služby Azure Stack.
  • Vysoká propustnost / nízká latence: Poskytněte zákazníkům možnost škálovat vysoké požadavky na propustnost a nízkou latenci tím, že povolíte, aby služby Cognitive Services běžely fyzicky blízko aplikační logiky a datům. Kontejnery nezasahují na počet transakcí za sekundu (TPS) a pokud poskytnete potřebné hardwarové prostředky, můžete vertikálně navýšit kapacitu i vertikálně navýšit kapacitu, aby zvládly poptávku.
  • Škálovatelnost: Se stále rostoucí popularitou softwaru pro kontejnerizaci a orchestraci kontejnerů, jako je Kubernetes; škálovatelnost je v popředí technologického pokroku. Vývoj aplikací vychází ze škálovatelného clusteru a zajišťuje vysokou dostupnost.

Kontejnery ve službě Azure Cognitive Services

Kontejnery Azure Cognitive Services poskytují následující sadu kontejnerů Dockeru, z nichž každý obsahuje podmnožinu funkcí ze služeb v Azure Cognitive Services. Pokyny a umístění obrázků najdete v následujících tabulkách.

Poznámka

Informace o použití služeb AI Rozpoznávání formulářů a umístěních imagí najdete v tématu Instalace a spuštění kontejnerů Rozpoznávání formulářů.

Kontejnery rozhodnutí

Služba Kontejner Popis Dostupnost
Detektor anomálií Detektor anomálií (obrázek) Rozhraní API Detektor anomálií umožňuje monitorovat a zjišťovat abnormality v datech časových řad pomocí strojového učení. Obecná dostupnost

Jazykové kontejnery

Služba Kontejner Popis Dostupnost
LUIS LUIS (obrázek) Načte trénovaný nebo publikovaný model Language Understanding, označovaný také jako aplikace LUIS, do kontejneru Dockeru a poskytne přístup k předpovědím dotazů z koncových bodů rozhraní API kontejneru. Můžete shromáždit protokoly dotazů z kontejneru a nahrát je zpět na portál LUIS , abyste zlepšili přesnost predikcí aplikace. Obecně dostupné.
Tento kontejner může běžet také v odpojených prostředích.
Jazyková služba Extrakce klíčových frází (obrázek) Extrahuje klíčové fráze k identifikaci hlavních bodů. Například pro vstupní text „The food was delicious and there were wonderful staff“ (Jídlo bylo výborné a personál byl úžasný),vrací rozhraní API hlavní body: „food“ (jídlo) a „wonderful staff“ (úžasný personál). Obecně dostupné.
Tento kontejner může běžet také v odpojených prostředích.
Jazyková služba Rozpoznávání jazyka textu (obrázek) Až pro 120 jazyků zjistí, ve kterém jazyce je vstupní text napsán, a pro každý dokument odeslaný na žádost zobrazí kód jednoho jazyka. Kód jazyka spárovaný se skóre označuje sílu skóre. Obecně dostupné.
Tento kontejner může běžet také v odpojených prostředích.
Jazyková služba Analýza mínění (obrázek) Analyzuje nezpracovaný text a vyhledá stopy o pozitivním nebo negativním mínění. Tato verze analýzy mínění vrací popisky mínění (například kladné nebo záporné) pro každý dokument a větu v ní. Obecně dostupné.
Tento kontejner může běžet také v odpojených prostředích.
Jazyková služba Analýza textu pro stav (obrázek) Extrahujte a označte lékařské informace z nestrukturovaného klinického textu. Obecná dostupnost
Jazyková služba Vlastní rozpoznávání pojmenovaných entit (obrázek) Extrahujte pojmenované entity z textu pomocí vlastního modelu, který vytvoříte pomocí dat. Preview
Translator Translator (obrázek) Překlad textu v několika jazycích a dialektech Obecně dostupné. Gated – žádost o přístup.
Tento kontejner může běžet také v odpojených prostředích.

Kontejnery služby Speech

Poznámka

Pokud chcete používat kontejnery služby Speech, budete muset vyplnit online formulář žádosti.

Služba Kontejner Popis Dostupnost
Rozhraní API služby Speech Převod řeči na text (obrázek) Přepisuje plynulou řeč v reálném čase do textové podoby. Obecně dostupné.
Tento kontejner může běžet také v odpojených prostředích.
Rozhraní API služby Speech Vlastní řeč na text (obrázek) Přepisuje souvislou řeč v reálném čase na text pomocí vlastního modelu. Obecná dostupnost
Tento kontejner může běžet také v odpojených prostředích.
Rozhraní API služby Speech Neurální text na řeč (obrázek) Převádí text na přirozeně znějící řeč pomocí technologie hluboké neurální sítě, což umožňuje přirozenější syntetizovanou řeč. Obecně dostupné.
Tento kontejner se také může spouštět v odpojených prostředích.
Rozhraní API služby Speech Rozpoznávání jazyka řeči (obrázek) Určuje jazyk mluveného zvuku. Hraděný náhled

Kontejnery zpracování obrazu

Služba Kontejner Popis Dostupnost
Počítačové zpracování obrazu Čtení OCR (image) Kontejner Read OCR umožňuje extrahovat tištěný a ručně psaný text z obrázků a dokumentů s podporou formátů souborů JPEG, PNG, BMP, PDF a TIFF. Další informace najdete v dokumentaci k rozhraní API pro čtení. Obecně dostupné. Gated – žádost o přístup.
Tento kontejner se také může spouštět v odpojených prostředích.
Prostorová analýza Prostorová analýza (obrázek) Analyzuje video streamované v reálném čase, aby porozuměl prostorovým vztahům mezi lidmi, jejich pohybem a interakcemi s objekty ve fyzickém prostředí. Preview

Některé kontejnery jsou navíc podporovány v nabídce prostředků více služeb Cognitive Services. Můžete vytvořit jeden prostředek služeb Cognitive Services All-In-One a použít stejný fakturační klíč pro všechny podporované služby pro následující služby:

  • Počítačové zpracování obrazu
  • LUIS
  • Služba jazyka

Požadavky

Před použitím kontejnerů Azure Cognitive Services musíte splnit následující požadavky:

Modul Docker: Musíte mít místně nainstalovaný modul Docker. Docker poskytuje balíčky, které konfigurují prostředí Dockeru v systémech macOS, Linux a Windows. Ve Windows musí být Docker nakonfigurovaný tak, aby podporoval kontejnery Linuxu. Kontejnery Dockeru je také možné nasadit přímo do Azure Kubernetes Service nebo Azure Container Instances.

Docker musí být nakonfigurovaný tak, aby se kontejnery mohly připojit k Azure a odesílat do Azure fakturační data.

Znalost služby Microsoft Container Registry a Dockeru: Měli byste mít základní znalosti o konceptech Microsoft Container Registry a Dockeru, jako jsou registry, úložiště, kontejnery a image kontejnerů, a také základní docker příkazy.

Základní informace o Dockeru a kontejnerech najdete v článku Docker Overview (Přehled Dockeru).

Jednotlivé kontejnery můžou mít také své vlastní požadavky, včetně požadavků na přidělení serveru a paměti.

Zabezpečení kontejnerů Azure Cognitive Services

Zabezpečení by mělo být při vývoji aplikací primárním cílem. Důležitost zabezpečení je metrika pro úspěch. Při navrhování softwarového řešení, které zahrnuje kontejnery Služeb Cognitive Services, je důležité pochopit omezení a možnosti, které máte k dispozici. Další informace o zabezpečení sítě najdete v tématu Konfigurace virtuálních sítí služeb Azure Cognitive Services.

Důležité

Rozhraní API kontejneru služeb Cognitive Services ve výchozím nastavení neobsahuje žádné zabezpečení . Důvodem je to, že kontejner se nejčastěji spouští jako součást podu, který je zvnějšku chráněný síťovým mostem. Je však možné povolit ověřování, které funguje stejně jako ověřování používané při přístupu ke cloudovým službám Cognitive Services.

Následující diagram znázorňuje výchozí a nezabezpečený přístup:

Zabezpečení kontejneru

Alternativním a bezpečným přístupem je, že uživatelé kontejnerů Cognitive Services můžou rozšířit kontejner o přední komponentu a zachovat tak privátní koncový bod kontejneru. Podívejme se na scénář, ve kterém jako bránu příchozího přenosu dat použijeme Istio . Istio podporuje https/TLS a ověřování klientských certifikátů. V tomto scénáři front-end Istio zpřístupňuje přístup ke kontejneru a prezentuje klientský certifikát, který je předem schválen istio.

Nginx je další oblíbenou volbou ve stejné kategorii. Istio i Nginx fungují jako síť služeb a nabízejí další funkce, včetně funkcí, jako je vyrovnávání zatížení, směrování a řízení rychlosti.

Sítě kontejnerů

Kontejnery Služeb Cognitive Services se vyžadují k odeslání informací o měření pro účely fakturace. Pokud se nepodaří vypsat seznam různých síťových kanálů, na které se kontejnery cognitive Services spoléhají, kontejner nebude fungovat.

Seznam povolených domén a portů služeb Cognitive Services

Hostitel by měl mít port 443 seznamu povolených a následující domény:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

Zákaz hloubkové kontroly paketů

Hloubková kontrola paketů (DPI) je typ zpracování dat, které podrobně kontroluje data odesílaná přes počítačovou síť a obvykle odpovídajícím způsobem blokuje, směruje nebo protokoluje.

Zakažte DPI u zabezpečených kanálů, které kontejnery Cognitive Services vytvářejí na serverech Microsoftu. Pokud to neuděláte, zabráníte správnému fungování kontejneru.

Ukázky pro vývojáře

Ukázky pro vývojáře jsou k dispozici v našem úložišti GitHub.

Další kroky

Seznamte se s recepty na kontejnery , které můžete použít se službami Cognitive Services.

Nainstalujte a prozkoumejte funkce poskytované kontejnery ve službách Azure Cognitive Services: