Wdrażanie i uruchamianie kontenerów w wystąpieniu kontenera platformy Azure

Artykuł
10/05/2024

Poniższe kroki umożliwiają łatwe skalowanie aplikacji usług azure AI w chmurze za pomocą usługi Azure Container Instances. Konteneryzacja pomaga skoncentrować się na tworzeniu aplikacji, zamiast na zarządzaniu infrastrukturą. Aby uzyskać więcej informacji na temat korzystania z kontenerów, zobacz funkcje i korzyści.

Wymagania wstępne

Przepis działa z dowolnym kontenerem usług Azure AI. Przed użyciem przepisu należy utworzyć zasób usług Azure AI. Każda usługa azure AI, która obsługuje kontenery, zawiera artykuł "Jak zainstalować" na potrzeby instalowania i konfigurowania usługi dla kontenera. Niektóre usługi wymagają pliku lub zestawu plików jako danych wejściowych dla kontenera. Ważne jest, aby zrozumieć i pomyślnie użyć kontenera przed użyciem tego rozwiązania.

Zasób platformy Azure dla używanej usługi Azure AI.
Adres URL punktu końcowego zasobu usługi Azure AI — przejrzyj adres URL punktu końcowego usługi "Jak zainstalować" dla kontenera, aby dowiedzieć się, gdzie znajduje się adres URL punktu końcowego w witrynie Azure Portal i jak wygląda prawidłowy przykład adresu URL. Dokładny format może ulec zmianie z usługi na usługę.
Klucz zasobu usługi Azure AI — klucze znajdują się na stronie Klucze zasobu platformy Azure. Potrzebujesz tylko jednego z dwóch kluczy. Klucz jest ciągiem 32 znaków alfanumerycznych.
Pojedynczy kontener usług AI platformy Azure na hoście lokalnym (komputerze). Upewnij się, że możesz:
- Przeciągnij obraz za docker pull pomocą polecenia .
- Uruchom kontener lokalny pomyślnie z wszystkimi wymaganymi ustawieniami konfiguracji za docker run pomocą polecenia .
- Wywołaj punkt końcowy kontenera, uzyskując odpowiedź HTTP 2xx i odpowiedź JSON z powrotem.

Wszystkie zmienne w nawiasach kątowych , <>należy zastąpić własnymi wartościami. To zastąpienie obejmuje nawiasy kątowe.

Ważne

Kontener usługi LUIS wymaga .gz pliku modelu, który jest ściągany w czasie wykonywania. Kontener musi mieć dostęp do tego pliku modelu za pośrednictwem instalacji woluminu z wystąpienia kontenera. Aby przekazać plik modelu, wykonaj następujące kroki:

Utwórz udział plików platformy Azure. Zanotuj nazwę konta, klucz i nazwę udziału plików usługi Azure Storage, ponieważ będą one potrzebne później.
wyeksportuj model usługi LUIS (spakowana aplikacja) z portalu usługi LUIS.
W witrynie Azure Portal przejdź do strony Przegląd zasobu konta magazynu i wybierz pozycję Udziały plików.
Wybierz nazwę niedawno utworzonego udziału plików, a następnie wybierz pozycję Przekaż. Następnie przekaż spakowana aplikację.

Witryna Azure Portal
Interfejs wiersza polecenia

Tworzenie zasobu wystąpienia kontenera platformy Azure przy użyciu witryny Azure Portal

Przejdź do strony Tworzenie wystąpień kontenera.

Na karcie Podstawowe wprowadź następujące szczegóły:

Ustawienie	Wartość
Subskrypcja	Wybierz subskrypcję.
Grupa zasobów	Wybierz dostępną grupę zasobów lub utwórz nową, taką jak `cognitive-services`.
Nazwa kontenera	Wprowadź nazwę, na przykład `cognitive-container-instance`. Nazwa musi być w niższych limitach.
Lokalizacja	Wybierz region do wdrożenia.
Typ obrazu	Jeśli obraz kontenera jest przechowywany w rejestrze kontenerów, który nie wymaga poświadczeń, wybierz pozycję `Public`. Jeśli uzyskiwanie dostępu do obrazu kontenera wymaga poświadczeń, wybierz pozycję `Private`. Zapoznaj się z repozytoriami kontenerów i obrazami , aby uzyskać szczegółowe informacje na temat tego, czy obraz kontenera jest `Public` czy `Private` też ("publiczna wersja zapoznawcza").
Nazwa obrazu	Wprowadź lokalizację kontenera usług AI platformy Azure. Lokalizacja jest używana jako argument polecenia `docker pull` . Zapoznaj się z repozytoriami kontenerów i obrazami, aby uzyskać dostępne nazwy obrazów i odpowiednie repozytorium. Nazwa obrazu musi być w pełni kwalifikowana, określając trzy części. Najpierw rejestr kontenerów, a następnie repozytorium, na koniec nazwę obrazu: `<container-registry>/<repository>/<image-name>`. Oto przykład, `mcr.microsoft.com/azure-cognitive-services/keyphrase` który reprezentuje obraz wyodrębniania kluczowych fraz w usłudze Microsoft Container Registry w repozytorium usług Azure AI. Innym przykładem jest `containerpreview.azurecr.io/microsoft/cognitive-services-speech-to-text` reprezentacja obrazu zamiany mowy na tekst w repozytorium Microsoft rejestru kontenerów w wersji zapoznawczej kontenera.
Typ systemu operacyjnego	`Linux`
Rozmiar	Zmień rozmiar sugerowanych zaleceń dla określonego kontenera usługi Azure AI: 2 rdzenie procesora CPU 4 GB

Na karcie Sieć wprowadź następujące szczegóły:

Ustawienie Wartość

Porty Ustaw port TCP na 5000. Uwidacznia kontener na porcie 5000.

Ustawienie	Wartość
Porty	Ustaw port TCP na `5000`. Uwidacznia kontener na porcie 5000.

Na karcie Zaawansowane wprowadź wymagane zmienne środowiskowe dla ustawień rozliczeń kontenera zasobu usługi Azure Container Instance:

Key	Wartość
`ApiKey`	Skopiowane ze strony Klucze i punkt końcowy zasobu. Jest to ciąg 32 znaków alfanumerycznych bez spacji ani kreski, `xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx`.
`Billing`	Adres URL punktu końcowego skopiowany ze strony Klucze i punkt końcowy zasobu.
`Eula`	`accept`

Wybierz pozycję Przejrzyj i utwórz
Po zakończeniu weryfikacji kliknij przycisk Utwórz , aby zakończyć proces tworzenia
Po pomyślnym wdrożeniu zasobu jest gotowy

Tworzenie zasobu usługi Azure Container Instance z poziomu interfejsu wiersza polecenia platformy Azure

Poniższy kod YAML definiuje zasób usługi Azure Container Instance. Skopiuj i wklej zawartość do nowego pliku o nazwie my-aci.yaml i zastąp wartości z komentarzami własnymi. Zapoznaj się z formatem szablonu , aby uzyskać prawidłowy kod YAML. Zapoznaj się z repozytoriami kontenerów i obrazami, aby uzyskać dostępne nazwy obrazów i odpowiednie repozytorium. Aby uzyskać więcej informacji na temat dokumentacji YAML dla wystąpień kontenerów, zobacz YaML reference: Azure Container Instances (Dokumentacja YAML: Azure Container Instances).

apiVersion: 2018-10-01
location: # < Valid location >
name: # < Container Group name >
properties:
  imageRegistryCredentials: # This is only required if you are pulling a non-public image that requires authentication to access. For example Text Analytics for health.
  - server: containerpreview.azurecr.io
    username: # < The username for the preview container registry >
    password: # < The password for the preview container registry >
  containers:
  - name: # < Container name >
    properties:
      image: # < Repository/Image name >
      environmentVariables: # These env vars are required
        - name: eula
          value: accept
        - name: billing
          value: # < Service specific Endpoint URL >
        - name: apikey
          value: # < Service specific API key >
      resources:
        requests:
          cpu: 4 # Always refer to recommended minimal resources
          memoryInGb: 8 # Always refer to recommended minimal resources
      ports:
        - port: 5000
  osType: Linux
  volumes: # This node, is only required for container instances that pull their model in at runtime, such as LUIS.
  - name: aci-file-share
    azureFile:
      shareName: # < File share name >
      storageAccountName: # < Storage account name>
      storageAccountKey: # < Storage account key >
  restartPolicy: OnFailure
  ipAddress:
    type: Public
    ports:
    - protocol: tcp
      port: 5000
tags: null
type: Microsoft.ContainerInstance/containerGroups

Uwaga

Nie wszystkie lokalizacje mają taką samą dostępność procesora CPU i pamięci. Zapoznaj się z tabelą lokalizacji i zasobów , aby uzyskać listę dostępnych zasobów dla kontenerów na lokalizację i system operacyjny.

Będziemy polegać na pliku YAML utworzonym az container create dla polecenia . W interfejsie wiersza polecenia platformy Azure wykonaj az container create polecenie zastępując je <resource-group> własnym. Ponadto w przypadku zabezpieczania wartości we wdrożeniu YAML należy zapoznać się z bezpiecznymi wartościami.

az container create -g <resource-group> -f my-aci.yaml

Dane wyjściowe polecenia są Running... prawidłowe, po pewnym czasie dane wyjściowe zmieni się na ciąg JSON reprezentujący nowo utworzony zasób ACI. Obraz kontenera jest na chwilę niedostępny, ale zasób jest teraz wdrażany.

Napiwek

Zwróć szczególną uwagę na lokalizacje usług Azure AI w publicznej wersji zapoznawczej, ponieważ kod YAML będzie musiał odpowiednio dostosować się do lokalizacji.

Wybierz pozycję Przegląd i skopiuj adres IP. Będzie to numeryczny adres IP, taki jak 55.55.55.55.
Otwórz nową kartę przeglądarki i użyj adresu IP, na przykład http://<IP-address>:5000 (http://55.55.55.55:5000). Zostanie wyświetlona strona główna kontenera z informacją, że kontener jest uruchomiony.
Wybierz pozycję Opis interfejsu API usługi, aby wyświetlić stronę struktury Swagger dla kontenera.
Wybierz dowolny z interfejsów API POST i wybierz pozycję Wypróbuj. Parametry są wyświetlane wraz z danymi wejściowymi. Wypełnij parametry.
Wybierz pozycję Wykonaj , aby wysłać żądanie do wystąpienia kontenera.

Pomyślnie utworzono i użyto kontenerów usługi Azure AI w usłudze Azure Container Instance.

Sprawdzanie, czy kontener jest uruchomiony

Istnieje kilka sposobów sprawdzania, czy kontener jest uruchomiony. Znajdź zewnętrzny adres IP i uwidoczniony port danego kontenera i otwórz ulubioną przeglądarkę internetową. Użyj różnych adresów URL żądań, które są zgodne z instrukcjami, aby sprawdzić, czy kontener jest uruchomiony. Przykładowe adresy URL żądań wymienione w tym miejscu to http://localhost:5000, ale określony kontener może się różnić. Upewnij się, że korzystasz z zewnętrznego adresu IP kontenera i uwidocznij port.

Adres URL żądania	Purpose
`http://localhost:5000/`	Kontener zawiera stronę główną.
`http://localhost:5000/ready`	Żądany przy użyciu polecenia GET ten adres URL zapewnia weryfikację, że kontener jest gotowy do akceptowania zapytania względem modelu. To żądanie może służyć do sond gotowości i gotowości platformy Kubernetes.
`http://localhost:5000/status`	Ten adres URL sprawdza również, czy klucz api-key używany do uruchamiania kontenera jest prawidłowy bez powodowania zapytania punktu końcowego. To żądanie może służyć do sond gotowości i gotowości platformy Kubernetes.
`http://localhost:5000/swagger`	Kontener zawiera pełen zestaw dokumentacji dla punktów końcowych oraz funkcję Wypróbuj. Dzięki tej funkcji możesz wprowadzić ustawienia w formularzu HTML opartym na sieci Web i utworzyć zapytanie bez konieczności pisania kodu. Po powrocie zapytania zostanie udostępnione przykładowe polecenie CURL, aby zademonstrować wymagane nagłówki HTTP i format treści.

Strona główna kontenera

Uwaga

Jeśli używasz analiza tekstu dla kontenera kondycji, użyj następującego adresu URL do przesyłania zapytań:http://localhost:5000/text/analytics/v3.2-preview.1/entities/health

Udostępnij za pośrednictwem