Używanie kontenerów platformy Docker w środowiskach bez połączenia

Artykuł
09/01/2024

Kontenery umożliwiają uruchamianie interfejsów API usług AI platformy Azure we własnym środowisku i doskonale nadają się do konkretnych wymagań dotyczących zabezpieczeń i ładu danych. Odłączone kontenery umożliwiają używanie kilku z tych interfejsów API odłączonych od Internetu. Obecnie następujące kontenery można uruchamiać w następujący sposób:

Zamiana mowy na tekst
Zamiana mowy niestandardowej na tekst
Neuronowy tekst na mowę
Tłumaczenie tekstu (Standardowa)
Język sztucznej inteligencji platformy Azure
Azure AI Vision — odczyt
Analiza dokumentów

Przed podjęciem próby uruchomienia kontenera platformy Docker w środowisku offline upewnij się, że znasz kroki pomyślnego pobrania i użycia kontenera. Na przykład:

Wymagania i zalecenia dotyczące komputera hosta.
Polecenie platformy Docker pull , którego użyjesz do pobrania kontenera.
Jak sprawdzić, czy kontener jest uruchomiony.
Jak wysyłać zapytania do punktu końcowego kontenera po jego uruchomieniu.

Żądanie dostępu do używania kontenerów w środowiskach bez połączenia

Wypełnij formularz żądania i prześlij go, aby zażądać dostępu do kontenerów odłączonych od Internetu.

Formularz żąda informacji o Tobie, Firmie i scenariuszu użytkownika, dla którego będziesz używać kontenera. Po przesłaniu formularza zespół usług azure AI przegląda go i wysyła do Ciebie wiadomości e-mail z decyzją w ciągu 10 dni roboczych.

Ważne

W formularzu należy użyć adresu e-mail skojarzonego z identyfikatorem subskrypcji platformy Azure.
Zasób platformy Azure używany do uruchamiania kontenera musi zostać utworzony przy użyciu zatwierdzonego identyfikatora subskrypcji platformy Azure.
Sprawdź pocztę e-mail (skrzynki odbiorczej i foldery wiadomości-śmieci), aby uzyskać aktualizacje stanu aplikacji firmy Microsoft.

Po zatwierdzeniu będzie można uruchomić kontener po pobraniu go z rejestru Microsoft Container Registry (MCR), opisanego w dalszej części artykułu.

Jeśli subskrypcja platformy Azure nie została zatwierdzona, nie będzie można uruchomić kontenera.

Dostęp jest ograniczony do klientów, którzy spełniają następujące wymagania:

Twoja organizacja powinna być identyfikowana jako strategiczny klient lub partner z firmą Microsoft.
Oczekuje się, że odłączone kontenery będą działać w pełni w trybie offline, dlatego przypadki użycia muszą spełniać jedno z poniższych lub podobnych wymagań:
- Środowisko lub urządzenia z zerową łącznością z Internetem.
- Lokalizacja zdalna, która od czasu do czasu ma dostęp do Internetu.
- Organizacja zgodnie ze ścisłymi regulacjami nie wysyła żadnych danych z powrotem do chmury.
Aplikacja została ukończona zgodnie z instrukcjami — zwróć szczególną uwagę na wskazówki podane w całej aplikacji, aby zapewnić wszystkie niezbędne informacje wymagane do zatwierdzenia.

Kupowanie planu cenowego warstwy zobowiązania dla odłączonych kontenerów

Tworzenie nowego zasobu

Zaloguj się do witryny Azure Portal i wybierz pozycję Utwórz nowy zasób dla jednej z odpowiednich usług azure AI wymienionych powyżej.
Wprowadź odpowiednie informacje, aby utworzyć zasób. Pamiętaj, aby wybrać pozycję Warstwa zobowiązania odłączone kontenery jako warstwę cenową.
Uwaga
- Opcja zakupu warstwy zobowiązania będzie widoczna tylko w przypadku zatwierdzenia przez firmę Microsoft.
- Szczegóły cennika są tylko przykładowe.
Wybierz pozycję Przejrzyj i utwórz w dolnej części strony. Przejrzyj informacje i wybierz pozycję Utwórz.

Konfigurowanie kontenera pod kątem rozłączonego użycia

Zapoznaj się z następującą dokumentacją, aby uzyskać instrukcje dotyczące pobierania i konfigurowania kontenera pod kątem rozłączonego użycia:

Usługa rozpoznawania mowy

Usługa językowa

Nazwy zmiennych środowiskowych we wdrożeniach platformy Kubernetes

Niektóre kontenery sztucznej inteligencji platformy Azure, na przykład translator, wymagają od użytkowników przekazania nazw zmiennych środowiskowych, które zawierają dwukropki (:) podczas uruchamiania kontenera. Będzie to działać prawidłowo w przypadku korzystania z platformy Docker, ale platforma Kubernetes nie akceptuje dwukropków w nazwach zmiennych środowiskowych. Aby rozwiązać ten problem, możesz zastąpić dwukropki podwójnymi znakami podkreślenia (__) podczas wdrażania na platformie Kubernetes. Zobacz następujący przykład dopuszczalnego formatu dla nazw zmiennych środowiskowych:

        env:  
        - name: Mounts__License
          value: "/license"
        - name: Mounts__Output
          value: "/output"

Ten przykład zastępuje domyślny format Mounts:License nazw zmiennych środowiskowych i Mounts:Output w poleceniu docker run.

Aktualizacje obrazu kontenera i licencji

Pliki licencji kontenera są używane jako klucze do odszyfrowywania niektórych plików w każdym obrazie kontenera. Jeśli te zaszyfrowane pliki zostaną zaktualizowane w nowym obrazie kontenera, plik licencji może zakończyć się niepowodzeniem, nawet jeśli pracował z poprzednią wersją obrazu kontenera. Aby uniknąć tego problemu, zalecamy pobranie nowego pliku licencji z punktu końcowego zasobu dla kontenera udostępnionego w witrynie Azure Portal po pobraniu nowych wersji obrazu z mcr.microsoft.com.

Aby pobrać nowy plik licencji, możesz dodać DownloadLicense=True go do polecenia docker run wraz z instalacją licencji, kluczem interfejsu API i punktem końcowym rozliczeń. Aby uzyskać szczegółowe instrukcje, zapoznaj się z dokumentacją kontenera.

Rekordy użycia

W przypadku obsługi kontenerów platformy Docker w środowisku odłączonym kontener będzie zapisywać rekordy użycia na woluminie, w którym są zbierane w czasie. Możesz również wywołać punkt końcowy REST, aby wygenerować raport dotyczący użycia usługi.

Argumenty dotyczące przechowywania dzienników

Po uruchomieniu w środowisku odłączonym instalacja wyjściowa musi być dostępna dla kontenera w celu przechowywania dzienników użycia. Na przykład należy uwzględnić -v /host/output:{OUTPUT_PATH} element i Mounts:Output={OUTPUT_PATH} w poniższym przykładzie, zastępując {OUTPUT_PATH} ciąg ścieżką, w której będą przechowywane dzienniki:

docker run -v /host/output:{OUTPUT_PATH} ... <image> ... Mounts:Output={OUTPUT_PATH}

Pobieranie rekordów przy użyciu punktów końcowych kontenera

Kontener udostępnia dwa punkty końcowe do zwracania rekordów dotyczących jego użycia.

Pobieranie wszystkich rekordów

Następujący punkt końcowy zawiera raport podsumowujący wszystkie dane użycia zebrane w zainstalowanym katalogu rekordów rozliczeniowych.

https://<service>/records/usage-logs/

Zostanie zwrócony kod JSON podobny do poniższego przykładu.

{
  "apiType": "noop",
  "serviceName": "noop",
  "meters": [
    {
      "name": "Sample.Meter",
      "quantity": 253
    }
  ]
}

Pobieranie rekordów dla określonego miesiąca

Następujący punkt końcowy udostępni raport podsumowujący użycie w danym miesiącu i roku.

https://<service>/records/usage-logs/{MONTH}/{YEAR}

zwróci odpowiedź JSON podobną do poniższego przykładu:

{
  "apiType": "string",
  "serviceName": "string",
  "meters": [
    {
      "name": "string",
      "quantity": 253
    }
  ]
}

Zakup planu zobowiązania w celu korzystania z kontenerów w środowiskach bez połączenia

Plany zobowiązania dotyczące odłączonych kontenerów mają okres zobowiązania w roku kalendarzowym. Po zakupie planu zostanie naliczona opłata za pełną cenę natychmiast. W okresie zobowiązania nie można zmienić planu zobowiązania, ale możesz zakupić dodatkowe jednostki w cenie proporcjonalnej do pozostałych dni w roku. Masz do północy (UTC) ostatniego dnia zobowiązania, aby zakończyć plan zobowiązania.

Możesz wybrać inny plan zobowiązania w ustawieniach cenowych warstwy zobowiązania zasobu.

Kończ plan zobowiązania

Jeśli zdecydujesz, że nie chcesz kontynuować zakupu planu zobowiązania, możesz ustawić automatyczne odnawianie zasobu na Nie odnawiaj automatycznie. Plan zobowiązania wygaśnie po wyświetlonej dacie zakończenia zobowiązania. Po tej dacie nie zostaną naliczone opłaty za plan zobowiązania. Będziesz mieć możliwość dalszego używania zasobu platformy Azure do nawiązywania wywołań interfejsu API, naliczanych według cennika płatności zgodnie z rzeczywistym użyciem. Do północy (UTC) ostatniego dnia roku do zakończenia planu zobowiązania dla odłączonych kontenerów i nie są naliczane opłaty za następujący rok.

Rozwiązywanie problemów

Jeśli uruchamiasz kontener z włączoną instalacją danych wyjściowych i rejestrowaniem, kontener generuje pliki dziennika, które są pomocne w rozwiązywaniu problemów występujących podczas uruchamiania lub uruchamiania kontenera.

Napiwek

Aby uzyskać więcej informacji na temat rozwiązywania problemów i wskazówek, zobacz Temat Odłączone kontenery — często zadawane pytania.

Następne kroki

Omówienie kontenerów sztucznej inteligencji platformy Azure

Udostępnij za pośrednictwem