Co to są kontenery usługi Azure AI?
Usługi Azure AI udostępniają kilka kontenerów platformy Docker, które umożliwiają korzystanie z tych samych interfejsów API, które są dostępne na platformie Azure, lokalnie. Użycie tych kontenerów zapewnia elastyczność przybliżania usług Azure AI do danych ze względów zgodności, zabezpieczeń lub innych powodów operacyjnych. Obsługa kontenerów jest obecnie dostępna dla podzbioru usług Azure AI.
Konteneryzacja to podejście do dystrybucji oprogramowania, w której aplikacja lub usługa, w tym jej zależności i konfiguracja, jest spakowana razem jako obraz kontenera. W przypadku niewielkiej lub braku modyfikacji obraz kontenera można wdrożyć na hoście kontenera. Kontenery są odizolowane od siebie i bazowego systemu operacyjnego o mniejszym rozmiarze niż maszyna wirtualna. Kontenery mogą być tworzone z obrazów kontenerów na potrzeby krótkoterminowych zadań i usuwane, gdy nie są już potrzebne.
Funkcje i korzyści
- Niezmienna infrastruktura: umożliwia zespołom DevOps wykorzystanie spójnego i niezawodnego zestawu znanych parametrów systemu przy jednoczesnym dostosowaniu się do zmian. Kontenery zapewniają elastyczność obrotu w przewidywalnym ekosystemie i unikanie dryfu konfiguracji.
- Kontrola nad danymi: wybierz miejsce przetwarzania danych przez usługi Azure AI. Może to być niezbędne, jeśli nie możesz wysyłać danych do chmury, ale potrzebujesz dostępu do interfejsów API usług Azure AI. Obsługa spójności w środowiskach hybrydowych — między danymi, zarządzaniem, tożsamością i zabezpieczeniami.
- Kontrola nad aktualizacjami modeli: elastyczność przechowywania wersji i aktualizowania modeli wdrożonych w ich rozwiązaniach.
- Przenośna architektura: umożliwia tworzenie przenośnej architektury aplikacji, którą można wdrożyć na platformie Azure, lokalnie i na urządzeniach brzegowych. Kontenery można wdrażać bezpośrednio w usłudze Azure Kubernetes Service, Azure Container Instances lub w klastrze Kubernetes wdrożonym w usłudze Azure Stack. Aby uzyskać więcej informacji, zobacz Wdrażanie rozwiązania Kubernetes w usłudze Azure Stack.
- Wysoka przepływność/małe opóźnienie: zapewniają klientom możliwość skalowania pod kątem wymagań dotyczących wysokiej przepływności i małych opóźnień, umożliwiając usługom Azure AI uruchamianie fizycznie blisko logiki aplikacji i danych. Kontenery nie wywrócą transakcji na sekundę (TPS) i mogą być wykonywane w celu skalowania zarówno w górę, jak i w poziomie w celu obsługi zapotrzebowania, jeśli zapewnisz niezbędne zasoby sprzętowe.
- Skalowalność: wraz z coraz większą popularnością konteneryzacji i oprogramowania orkiestracji kontenerów, takiego jak Kubernetes, skalowalność jest liderem rozwoju technologicznego. Opierając się na skalowalnej podstawie klastra, programowanie aplikacji zaspokaja wysoką dostępność.
Kontenery w usługach Azure AI
Kontenery usługi Azure AI udostępniają następujący zestaw kontenerów platformy Docker, z których każdy zawiera podzbiór funkcji z usług w usługach azure AI. Instrukcje i lokalizacje obrazów można znaleźć w poniższych tabelach.
Uwaga
Zobacz Instalowanie i uruchamianie kontenerów analizy dokumentów dla instrukcji kontenera usługi Azure AI Document Intelligence i lokalizacji obrazów.
Kontenery decyzyjne
| Service | Kontener | opis | Dostępność |
|---|---|---|---|
| Narzędzie do wykrywania anomalii | Narzędzie do wykrywania anomalii (obraz) | Interfejs API Narzędzie do wykrywania anomalii umożliwia monitorowanie i wykrywanie nieprawidłowości w danych szeregów czasowych za pomocą uczenia maszynowego. | Ogólnie dostępne |
Kontenery języka
| Service | Kontener | opis | Dostępność |
|---|---|---|---|
| LUIS | LUIS (obraz) | Ładuje wytrenowany lub opublikowany model usługi Language Understanding, znany również jako aplikacja usługi LUIS, do kontenera platformy Docker i zapewnia dostęp do przewidywań zapytań z punktów końcowych interfejsu API kontenera. Możesz zbierać dzienniki zapytań z kontenera i przekazywać je z powrotem do portalu usługi LUIS, aby poprawić dokładność przewidywania aplikacji. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Usługa językowa | Wyodrębnianie kluczowych fraz (obraz) | Wyodrębnia kluczowe frazy, aby zidentyfikować główne punkty. Na przykład dla tekstu wejściowego „Jedzenie było pyszne, a serwowała je doskonała obsługa” interfejs API zwraca główne tematy wypowiedzi: „jedzenie” i „doskonała obsługa”. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Usługa językowa | Wykrywanie języka tekstu (obraz) | W przypadku maksymalnie 120 języków wykrywa język, w którym jest napisany tekst wejściowy, i zgłasza jeden kod języka dla każdego dokumentu przesłanego na żądanie. Kod języka jest powiązany z oceną, co wskazuje siłę oceny. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Usługa językowa | Analiza tonacji (obraz) | Analizuje nieprzetworzone tekst pod kątem wskazówek dotyczących pozytywnej lub negatywnej tonacji. Ta wersja analizy tonacji zwraca etykiety tonacji (na przykład pozytywne lub negatywne) dla każdego dokumentu i zdania w nim. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Usługa językowa | analiza tekstu dla kondycji (obraz) | Wyodrębnianie i etykietowanie informacji medycznych z tekstu klinicznego bez struktury. | Ogólnie dostępne |
| Usługa językowa | Rozpoznawanie jednostek nazwanych (obraz) | Wyodrębnij nazwane jednostki z tekstu. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Usługa językowa | Niestandardowe rozpoznawanie nazwanych jednostek (obraz) | Wyodrębnij nazwane jednostki z tekstu przy użyciu modelu niestandardowego utworzonego przy użyciu danych. | Ogólnie dostępne |
| Usługa językowa | Podsumowanie (obraz) | Podsumowywanie tekstu z różnych źródeł. | Publiczna wersja zapoznawcza. Ten kontener może również działać w środowiskach bez połączenia. |
| Translator | Translator (obraz) | Tłumaczenie tekstu w kilku językach i dialektach. | Ogólnie dostępne. Gated — żądanie dostępu. Ten kontener może również działać w środowiskach bez połączenia. |
Kontenery usługi Mowa
| Service | Kontener | opis | Dostępność |
|---|---|---|---|
| Interfejs API usługi rozpoznawania mowy | Zamiana mowy na tekst (obraz) | Przekształca w czasie rzeczywistym ciągłą mowę na tekst. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Interfejs API usługi rozpoznawania mowy | Zamiana mowy niestandardowej na tekst (obraz) | Transkrybuje ciągłą mowę w czasie rzeczywistym na tekst przy użyciu modelu niestandardowego. | Ogólnie dostępne Ten kontener może również działać w środowiskach bez połączenia. |
| Interfejs API usługi rozpoznawania mowy | Neuronowy tekst do mowy (obraz) | Konwertuje tekst na naturalnie brzmiącą mowę przy użyciu głębokiej technologii sieci neuronowej, co pozwala na bardziej naturalną syntetyzowany mowę. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Interfejs API usługi rozpoznawania mowy | Identyfikacja języka mowy (obraz) | Określa język mówionego dźwięku. | Podgląd |
Kontenery przetwarzania obrazów
| Service | Kontener | opis | Dostępność |
|---|---|---|---|
| Azure AI Vision | Odczyt OCR (obraz) | Kontener Read OCR umożliwia wyodrębnianie tekstu drukowanego i odręcznego z obrazów i dokumentów z obsługą formatów plików JPEG, PNG, BMP, PDF i TIFF. Aby uzyskać więcej informacji, zobacz dokumentację interfejsu API odczytu. | Ogólnie dostępne. Ten kontener może również działać w środowiskach bez połączenia. |
| Analiza przestrzenna | Analiza przestrzenna (obraz) | Analizuje wideo przesyłane strumieniowo w czasie rzeczywistym, aby zrozumieć relacje przestrzenne między osobami, ich ruchem i interakcjami z obiektami w środowiskach fizycznych. | Podgląd |
Ponadto niektóre kontenery są obsługiwane w ofercie wielosługowych usług Azure AI. Możesz utworzyć jeden zasób All-In-One usługi Azure AI i użyć tego samego klucza rozliczeniowego w obsługiwanych usługach dla następujących usług:
- Azure AI Vision
- LUIS
- Usługa językowa
Wymagania wstępne
Przed użyciem kontenerów usługi Azure AI należy spełnić następujące wymagania wstępne:
Aparat platformy Docker: aparat platformy Docker musi być zainstalowany lokalnie. Platforma Docker udostępnia pakiety, które konfigurują środowisko platformy Docker w systemach macOS, Linux i Windows. W systemie Windows platforma Docker musi być skonfigurowana do obsługi kontenerów systemu Linux. Kontenery platformy Docker można również wdrażać bezpośrednio w usłudze Azure Kubernetes Service lub w usłudze Azure Container Instances.
Platforma Docker musi być skonfigurowana tak, aby umożliwić kontenerom łączenie się z platformą Azure i wysyłanie danych rozliczeniowych do platformy Azure.
Znajomość usługi Microsoft Container Registry i Platformy Docker: musisz mieć podstawową wiedzę na temat zarówno usługi Microsoft Container Registry, jak i pojęć platformy Docker, takich jak rejestry, repozytoria, kontenery i obrazy kontenerów, a także znajomość podstawowych docker poleceń.
Aby uzyskać podstawowe informacje na temat platformy Docker i kontenerów, zapoznaj się z artykułem Docker overview (Przegląd platformy Docker).
Poszczególne kontenery mogą również mieć własne wymagania, w tym wymagania dotyczące alokacji serwera i pamięci.
Zabezpieczenia kontenerów usług Azure AI
Zabezpieczenia powinny być głównym celem podczas tworzenia aplikacji. Znaczenie zabezpieczeń to metryka sukcesu. Podczas tworzenia architektury rozwiązania programowego, które obejmuje kontenery usługi Azure AI, ważne jest, aby zrozumieć ograniczenia i możliwości dostępne dla Ciebie. Aby uzyskać więcej informacji na temat zabezpieczeń sieci, zobacz Konfigurowanie sieci wirtualnych usług Azure AI.
Ważne
Domyślnie w interfejsie API kontenera usług Azure AI nie ma zabezpieczeń . Przyczyną jest to, że najczęściej kontener będzie uruchamiany jako część zasobnika, który jest chroniony z zewnątrz przez mostek sieciowy. Jednak użytkownicy mogą tworzyć własną infrastrukturę uwierzytelniania w celu zbliżenia metod uwierzytelniania używanych podczas uzyskiwania dostępu do usług Azure AI opartych na chmurze.
Na poniższym diagramie przedstawiono domyślne i niebezpieczne podejście:
Przykładem alternatywnego i bezpiecznego podejścia użytkownicy kontenerów sztucznej inteligencji platformy Azure mogą rozszerzyć kontener za pomocą składnika frontonu, zachowując prywatny punkt końcowy kontenera. Rozważmy scenariusz, w którym używamy platformy Istio jako bramy ruchu przychodzącego. Usługa Istio obsługuje uwierzytelnianie https/TLS i certyfikat klienta. W tym scenariuszu fronton Istio uwidacznia dostęp do kontenera, przedstawiając certyfikat klienta zatwierdzony wcześniej za pomocą rozwiązania Istio.
Nginx to kolejny popularny wybór w tej samej kategorii. Zarówno Istio, jak i Nginx działają jako siatka usług i oferują dodatkowe funkcje, takie jak równoważenie obciążenia, routing i kontrola szybkości.
Sieć kontenerów
Kontenery sztucznej inteligencji platformy Azure są wymagane do przesyłania informacji o pomiarach na potrzeby rozliczeń. Niepowodzenie listy dozwolonych różnych kanałów sieciowych, z których korzystają kontenery usługi Azure AI, uniemożliwi działanie kontenera.
Lista dozwolonych domen i portów usług azure AI
Host powinien zezwalać na port 443 i następujące domeny:
*.cognitive.microsoft.com*.cognitiveservices.azure.com
Wyłączanie głębokiej inspekcji pakietów
Głęboka inspekcja pakietów (DPI) to typ przetwarzania danych, który sprawdza szczegółowo dane wysyłane za pośrednictwem sieci komputerowej i zwykle podejmuje działania przez blokowanie, przekierowywanie lub rejestrowanie ich odpowiednio.
Wyłącz dpi na bezpiecznych kanałach tworzonych przez kontenery usługi Azure AI na serwerach firmy Microsoft. Niepowodzenie w tym celu uniemożliwi prawidłowe działanie kontenera.
Przykłady dla deweloperów
Przykłady dla deweloperów są dostępne w naszym repozytorium GitHub.
Następne kroki
Dowiedz się więcej o przepisach kontenerów, których można używać z usługami Azure AI.
Instalowanie i eksplorowanie funkcji udostępnianych przez kontenery w usługach Azure AI: