Jak wdrożyć modele Azure OpenAI za pomocą usługi Studio AI platformy Azure

  • Artykuł

Uwaga

Usługa Azure AI Studio jest obecnie dostępna w publicznej wersji zapoznawczej. Ta wersja zapoznawcza jest udostępniana bez umowy dotyczącej poziomu usług i nie zalecamy korzystania z niej w przypadku obciążeń produkcyjnych. Niektóre funkcje mogą być nieobsługiwane lub ograniczone. Aby uzyskać więcej informacji, zobacz Uzupełniające warunki korzystania z wersji zapoznawczych platformy Microsoft Azure.

Usługa Azure OpenAI Service oferuje zróżnicowany zestaw modeli z różnymi możliwościami i punktami cenowymi. Dostępność różni się w zależności od regionu Wdrożenia modeli usługi Azure OpenAI można tworzyć w usłudze Studio AI platformy Azure i korzystać z nich przy użyciu przepływu monitów lub ulubionego narzędzia. Aby dowiedzieć się więcej na temat szczegółów poszczególnych modeli, zobacz Modele usługi Azure OpenAI.

Wdrażanie modelu usługi Azure OpenAI z katalogu modeli

Aby zmodyfikować model usługi Azure OpenAI i wchodzić z nim w interakcje w środowisku zabaw usługi Azure AI Studio , najpierw musisz wdrożyć podstawowy model usługi Azure OpenAI w projekcie. Po wdrożeniu modelu i udostępnieniu go w projekcie możesz użyć jego punktu końcowego interfejsu API REST w stanie rzeczywistym lub dostosować się do własnych danych i innych składników (osadzanie, indeksy itp.).

  1. Wybierz model, który chcesz wdrożyć z katalogu modeli usługi Azure AI Studio. Możesz też zainicjować wdrożenie, wybierając pozycję + Utwórz z your project>deployments

  2. Wybierz pozycję Wdróż w projekcie na stronie szczegółów karty modelu.

  3. Wybierz projekt, do którego chcesz wdrożyć model. W przypadku modeli usługi Azure OpenAI filtr zawartości usługi Azure AI Sejf ty jest automatycznie włączony.

  4. Wybierz Wdróż.

  5. Lądujesz na placu zabaw. Wybierz pozycję Wyświetl kod , aby uzyskać przykłady kodu, których można użyć do korzystania z wdrożonego modelu w aplikacji.

Regionalne limity dostępności i limitów przydziału modelu

W przypadku modeli usługi Azure OpenAI domyślny limit przydziału dla modeli różni się w zależności od modelu i regionu. Niektóre modele mogą być dostępne tylko w niektórych regionach. Aby uzyskać więcej informacji, zobacz Zarządzanie normami i limitami przydziału usługi Azure OpenAI Service.

Limit przydziału wdrażania i wnioskowania modelu

W przypadku modeli usługi Azure OpenAI wdrażanie i wnioskowanie zużywa limit przydziału przypisany do subskrypcji w poszczególnych regionach w jednostkach tokenów na minuty (TPM). Po zarejestrowaniu się w usłudze Azure AI Studio otrzymujesz domyślny limit przydziału dla większości dostępnych modeli. Następnie przypiszesz moduł TPM do każdego wdrożenia podczas jego tworzenia, a dostępny limit przydziału dla tego modelu zostanie zmniejszony o tę kwotę. Możesz nadal tworzyć wdrożenia i przypisywać je modułu TPM do momentu osiągnięcia limitu przydziału.

W takim przypadku można tworzyć tylko nowe wdrożenia tego modelu, wykonując następujące czynności:

  • Zażądaj większego limitu przydziału, przesyłając formularz zwiększenia limitu przydziału.
  • Dostosuj przydzielony limit przydziału dla innych wdrożeń modelu, aby zwolnić tokeny dla nowych wdrożeń w portalu Azure OpenAI.

Zobacz Limit przydziału usługi Azure AI Studio i Zarządzanie limitem przydziału usługi Azure OpenAI, aby dowiedzieć się więcej o limitach przydziału.

Następne kroki

  • Dowiedz się więcej o tym, co można zrobić w usłudze Azure AI Studio
  • Uzyskaj odpowiedzi na często zadawane pytania w artykule Azure AI FAQ (Często zadawane pytania dotyczące sztucznej inteligencji platformy Azure)