Azure Cognitive Services-containrar

Azure Cognitive Services tillhandahåller flera Docker-containrar som gör att du kan använda samma API:er som är tillgängliga i Azure lokalt. Med hjälp av dessa containrar får du flexibiliteten att föra Cognitive Services närmare dina data av efterlevnads-, säkerhets- eller andra driftsskäl. Stöd för containrar är för närvarande tillgängligt för en delmängd av Azure Cognitive Services.

Containerisering är en metod för programvarudistribution där ett program eller en tjänst, inklusive dess beroendekonfiguration & , paketeras tillsammans som en containeravbildning. Med liten eller ingen ändring kan en containeravbildning distribueras på en containervärd. Containrar isoleras från varandra och det underliggande operativsystemet, med ett mindre fotavtryck än en virtuell dator. Containrar kan instansieras från containeravbildningar för kortsiktiga uppgifter och tas bort när de inte längre behövs.

Funktioner och fördelar

  • Oföränderlig infrastruktur: Gör det möjligt för DevOps-team att utnyttja en konsekvent och tillförlitlig uppsättning kända systemparametrar samtidigt som de kan anpassa sig till förändringar. Containrar ger flexibiliteten att pivoter inom ett förutsägbart ekosystem och undvika konfigurationsavvikelser.
  • Kontroll över data: Välj var dina data ska bearbetas av Cognitive Services. Detta kan vara viktigt om du inte kan skicka data till molnet men behöver åtkomst till API:er för Cognitive Services. Stöd för konsekvens i hybridmiljöer – för data, hantering, identitet och säkerhet.
  • Kontroll över modelluppdateringar: Flexibilitet vid versionshantering och uppdatering av modeller som distribueras i deras lösningar.
  • Portabel arkitektur: Gör det möjligt att skapa en portabel programarkitektur som kan distribueras i Azure, lokalt och på gränsenheter. Containrar kan distribueras direkt till Azure Kubernetes Service, Azure Container Instances eller till ett Kubernetes-kluster som distribuerats till Azure Stack. Mer information finns i Distribuera Kubernetes till Azure Stack.
  • Högt dataflöde/låg svarstid: Ge kunderna möjlighet att skala för krav på högt dataflöde och låg svarstid genom att göra det möjligt för Cognitive Services att köra fysiskt nära sin programlogik och sina data. Containrar begränsar inte transaktioner per sekund (TPS) och kan göras för att skala upp och ut för att hantera efterfrågan om du tillhandahåller nödvändiga maskinvaruresurser.
  • Skalbarhet: Med den ständigt växande populariteten för programvara för containerorkestrering och containerorkestrering, till exempel Kubernetes; skalbarhet ligger i framkant när det gäller tekniska framsteg. Programutveckling bygger på en skalbar klustergrund och erbjuder hög tillgänglighet.

Containrar i Azure Cognitive Services

Azure Cognitive Services-containrar tillhandahåller följande uppsättning Docker-containrar, som var och en innehåller en delmängd funktioner från tjänster i Azure Cognitive Services. Du hittar instruktioner och bildplatser i tabellerna nedan. Det finns också en lista över containeravbildningar .

Anteckning

Se Installera och köra Formigenkänning-containrar för Tillämpade AI-tjänster Formigenkänning containerinstruktioner och avbildningsplatser.

Beslutscontainrar

Tjänst Container Beskrivning Tillgänglighet
Avvikelseidentifiering Avvikelseidentifiering (bild) Med Avvikelseidentifiering-API:et kan du övervaka och identifiera avvikelser i dina tidsseriedata med maskininlärning. Allmänt tillgänglig

Språkcontainrar

Tjänst Container Beskrivning Tillgänglighet
LUIS LUIS (bild) Läser in en tränad eller publicerad Language Understanding modell, även känd som en LUIS-app, i en Docker-container och ger åtkomst till frågeförutsägelserna från containerns API-slutpunkter. Du kan samla in frågeloggar från containern och ladda upp dem tillbaka till LUIS-portalen för att förbättra appens förutsägelseprecision. Allmänt tillgänglig.
Den här containern kan också köras i frånkopplade miljöer.
Språktjänst Extrahering av nyckelfraser (bild) Extraherar nyckelfraser för att identifiera huvudpunkterna. Exempel: För den inmatade texten ”Maten var härlig och personalen var underbar” returnerar API:et de huvudsakliga diskussionsämnena: ”mat” och ”underbar personal”. Allmänt tillgänglig.
Den här containern kan också köras i frånkopplade miljöer.
Språktjänst Identifiering av textspråk (bild) För upp till 120 språk identifierar vilket språk indatatexten är skriven i och rapporterar en enda språkkod för varje dokument som skickas på begäran. Språkkoden paras med poäng som anger styrkan hos poängen. Allmänt tillgänglig.
Den här containern kan också köras i frånkopplade miljöer.
Språktjänst Attitydanalys (bild) Analyserar råtext för ledtrådar om positiv eller negativ attityd. Den här versionen av attitydanalysen returnerar sentimentetiketter (till exempel positiva eller negativa) för varje dokument och mening i det. Allmänt tillgänglig.
Den här containern kan också köras i frånkopplade miljöer.
Språktjänst Textanalys för hälsa Extrahera och märka medicinsk information från ostrukturerad klinisk text. Allmänt tillgänglig
Översättare Översättare Översätt text på flera språk och dialekter. Gated preview – begär åtkomst.
Den här containern kan också köras i frånkopplade miljöer.

Speech-containrar

Anteckning

Om du vill använda Speech-containrar måste du fylla i ett formulär för onlinebegäran.

Tjänst Container Beskrivning Tillgänglighet
Speech Service API Tal till text (bild) Transkriberar kontinuerlig realtidsöversättning av tal till text. Allmänt tillgänglig.
Den här containern kan också köras i frånkopplade miljöer.
Speech Service API Anpassat tal till text (bild) Transkriberar kontinuerligt tal i realtid till text med hjälp av en anpassad modell. Allmänt tillgänglig
Speech Service API Neural text till tal (bild) Konverterar text till naturligt klingande tal med hjälp av djup neural nätverksteknik, vilket möjliggör mer naturligt syntetiserat tal. Allmänt tillgänglig.
container kan också köras i frånkopplade miljöer.
Speech Service API Identifiering av talspråk (bild) Avgör språket för talat ljud. Gated preview

Containrar för visuellt innehåll

Tjänst Container Beskrivning Tillgänglighet
Visuellt innehåll Läs OCR (bild) Med containern Read OCR kan du extrahera tryckt och handskriven text från bilder och dokument med stöd för JPEG-, PNG-, BMP-, PDF- och TIFF-filformat. Mer information finns i läs API-dokumentationen. Allmänt tillgänglig. Den här containern kan också köras i frånkopplade miljöer.
Rumslig analys Rumslig analys (bild) Analyserar strömmande video i realtid för att förstå rumsliga relationer mellan människor, deras rörelse och interaktioner med objekt i fysiska miljöer. Förhandsgranskning

Dessutom stöds vissa containrar i Cognitive Services-resurserbjudandet för flera tjänster . Du kan skapa en enda Cognitive Services Allt-i-ett-resurs och använda samma faktureringsnyckel för tjänster som stöds för följande tjänster:

  • Visuellt innehåll
  • LUIS
  • Språktjänst

Förutsättningar

Du måste uppfylla följande krav innan du använder Azure Cognitive Services-containrar:

Docker Engine: Du måste ha Docker Engine installerat lokalt. Docker tillhandahåller paket som konfigurerar Docker-miljön på macOS, Linux och Windows. På Windows måste Docker konfigureras för att stödja Linux-containrar. Docker-containrar kan också distribueras direkt till Azure Kubernetes Service eller Azure Container Instances.

Docker måste konfigureras så att containrarna kan ansluta till och skicka faktureringsdata till Azure.

Kunskaper om Microsoft Container Registry och Docker: Du bör ha grundläggande kunskaper om både Microsoft Container Registry och Docker-begrepp som register, lagringsplatser, containrar och containeravbildningar samt kunskaper om grundläggande docker kommandon.

En introduktion till grunderna för Docker och containrar finns i Docker-översikt.

Enskilda containrar kan också ha sina egna krav, inklusive krav på server- och minnesallokering.

Azure Cognitive Services-containersäkerhet

Säkerhet bör vara ett primärt fokus när du utvecklar program. Vikten av säkerhet är ett mått för framgång. När du skapar en programvarulösning som innehåller Cognitive Services-containrar är det viktigt att du förstår de begränsningar och funktioner som är tillgängliga för dig. Mer information om nätverkssäkerhet finns i Konfigurera virtuella Azure Cognitive Services-nätverk.

Viktigt

Som standard finns det ingen säkerhet i Cognitive Services-container-API:et. Anledningen till detta är att containern oftast körs som en del av en podd som skyddas från utsidan av en nätverksbrygga. Det är dock möjligt att aktivera autentisering som fungerar identiskt med den autentisering som används vid åtkomst till molnbaserade Cognitive Services.

Diagrammet nedan illustrerar standardmetoden och den icke-säkra metoden:

Container security

Som en alternativ och säker metod kan konsumenter av Cognitive Services-containrar utöka en container med en komponent som är riktad framåt och hålla containerslutpunkten privat. Nu ska vi titta på ett scenario där vi använder Istio som en ingress-gateway. Istio stöder HTTPS/TLS och klientcertifikatautentisering. I det här scenariot exponerar Istio-klientdelen containeråtkomsten och visar klientcertifikatet som godkänns i förväg med Istio.

Nginx är ett annat populärt val i samma kategori. Både Istio och Nginx fungerar som ett tjänstnät och erbjuder ytterligare funktioner, till exempel belastningsutjämning, routning och hastighetskontroll.

Nätverk för containrar

Cognitive Services-containrarna krävs för att skicka avläsningsinformation för faktureringsändamål. Om du inte tillåter listan över olika nätverkskanaler som Cognitive Services-containrarna förlitar sig på kommer containern inte att fungera.

Tillåt lista cognitive services-domäner och portar

Värden bör tillåta listport 443 och följande domäner:

  • *.cognitive.microsoft.com
  • *.cognitiveservices.azure.com

Inaktivera djup paketinspektion

Djup paketinspektion (DPI) är en typ av databehandling som inspekterar i detalj de data som skickas via ett datornätverk och vanligtvis vidtar åtgärder genom att blockera, dirigera om eller logga in dem i enlighet med detta.

Inaktivera DPI på de säkra kanaler som Cognitive Services-containrarna skapar till Microsoft-servrar. Om du inte gör det hindrar du containern från att fungera korrekt.

Utvecklarexempel

Utvecklarexempel finns på vår GitHub lagringsplats.

Nästa steg

Lär dig mer om containerrecept som du kan använda med Cognitive Services.

Installera och utforska funktionerna i containrar i Azure Cognitive Services: