Tworzenie i wdrażanie Azure OpenAI w zasobie Microsoft Foundry Models (wersja klasyczna)

Dotyczy tylko:Portal Foundry (klasyczny). Ten artykuł nie jest dostępny dla nowego portalu Foundry. Dowiedz się więcej o nowym portalu.

Uwaga

Linki w tym artykule mogą otwierać zawartość w nowej dokumentacji Microsoft Foundry zamiast dokumentacji Foundry (klasycznej), którą oglądasz teraz.

W tym artykule opisano, jak rozpocząć pracę z usługą Azure OpenAI i przedstawiono instrukcje krok po kroku dotyczące tworzenia zasobu i wdrażania modelu. Zasoby można tworzyć na Azure na kilka różnych sposobów:

• Portal Azure
• Interfejsy API REST, Azure CLI, program PowerShell lub biblioteki klienckie
• szablony Azure Resource Manager (ARM)

W tym artykule zapoznasz się z przykładami tworzenia i wdrażania zasobów w portalu Azure przy użyciu Azure CLI i programu PowerShell.

Wymagania wstępne

• Subskrypcja Azure. Utwórz je bezpłatnie.
• Uprawnienia dostępu do tworzenia zasobów Azure OpenAI oraz wdrażania modeli.

Tworzenie zasobu

W poniższych krokach pokazano, jak utworzyć zasób Azure OpenAI w portalu Azure.

Identyfikowanie zasobu

1. Zaloguj się przy użyciu subskrypcji Azure w portalu Azure.

2. Wybierz Utwórz zasób i wyszukaj Azure OpenAI. Po zlokalizowaniu usługi wybierz pozycję Utwórz.

   

3. Na stronie Utwórz Azure OpenAI podaj następujące informacje dotyczące pól na karcie Basics:

   Pole	Opis
   Subskrypcji	Subskrypcja Azure używana w procesie onboardingu Azure OpenAI.
   Grupa zasobów	Grupa zasobów platformy Azure, która będzie zawierać zasób Azure OpenAI. Możesz utworzyć nową grupę lub użyć istniejącej grupy.
   Region	Lokalizacja wystąpienia. Różne lokalizacje mogą wprowadzać opóźnienia, ale nie mają wpływu na dostępność zasobu w czasie wykonywania.
   Nazwa	Opisowa nazwa zasobu Azure OpenAI, taka jak MyOpenAIResource.
   Poziom cenowy	Piętro cenowe zasobu. Obecnie tylko warstwa Standardowa jest dostępna dla Azure OpenAI. Aby uzyskać więcej informacji na temat cennika, odwiedź stronę cennika Azure OpenAI

   

4. Wybierz pozycję Dalej.

Konfigurowanie zabezpieczeń sieci

Karta Sieć zawiera trzy opcje dla typu zabezpieczeń:

• Opcja 1: Wszystkie sieci, w tym Internet, mogą uzyskiwać dostęp do tego zasobu.
• Opcja 2: Wybrane sieci, skonfiguruj zabezpieczenia sieciowe dla zasobu narzędzi Foundry Tools.
• Opcja 3: Wyłączone, żadne sieci nie mogą uzyskać dostępu do tego zasobu. Możesz skonfigurować połączenia prywatnych punktów końcowych, które będą wyłącznym sposobem uzyskiwania dostępu do tego zasobu.

W zależności od wybranej opcji może być konieczne podanie dodatkowych informacji.

Opcja 1. Zezwalaj na wszystkie sieci

Pierwsza opcja umożliwia wszystkim sieciom, w tym Internetowi, dostęp do zasobu. Ta opcja jest ustawieniem domyślnym. Dla tej opcji nie są wymagane żadne dodatkowe ustawienia.

Opcja 2. Zezwalaj tylko na określone sieci

Druga opcja umożliwia zidentyfikowanie określonych sieci, które mogą uzyskiwać dostęp do zasobu. Po wybraniu tej opcji strona zostanie zaktualizowana w celu uwzględnienia następujących wymaganych pól:

Pole	Opis
Sieć wirtualna	Określ sieci wirtualne, które mają dozwolony dostęp do zasobu. Domyślną nazwę sieci wirtualnej można edytować w portalu Azure.
Podsieci	Określ podsieci, które mają dozwolony dostęp do zasobu. Domyślną nazwę podsieci można edytować w portalu Azure.

Sekcja Zapora zawiera opcjonalne pole Zakres adresów , którego można użyć do skonfigurowania ustawień zapory dla zasobu.

Opcja 3. Wyłączanie dostępu do sieci

Trzecia opcja umożliwia wyłączenie dostępu sieciowego do zasobu. Po wybraniu tej opcji strona zostanie zaktualizowana w celu uwzględnienia tabeli prywatnego punktu końcowego .

Jako opcję możesz dodać prywatny punkt końcowy w celu uzyskania dostępu do zasobu. Wybierz pozycję Dodaj prywatny punkt końcowy i ukończ konfigurację punktu końcowego.

Potwierdź konfigurację i utwórz zasób

1. Wybierz pozycję Dalej i skonfiguruj dowolne tagi dla zasobu zgodnie z potrzebami.

2. Wybierz pozycję Dalej , aby przejść do ostatniego etapu procesu: Przeglądanie i przesyłanie.

3. Potwierdź ustawienia konfiguracji i wybierz pozycję Utwórz.

4. Portal Azure wyświetla powiadomienie, gdy nowy zasób jest dostępny. Wybierz pozycję Przejdź do zasobu.

   

Wdrażanie modelu

Przed wygenerowaniem tekstu lub wnioskowania należy wdrożyć model. Możesz wybrać jeden z kilku dostępnych modeli w portalu Foundry.

Aby wdrożyć model, wykonaj następujące kroki:

1. Zaloguj się do Microsoft Foundry. Upewnij się, że przełącznik New Foundry jest wyłączony. Te kroki odnoszą się do rozwiązania Foundry (wersja klasyczna).

   

2. W sekcji Keep building with Foundry (Kontynuuj tworzenie za pomocą narzędzia Foundry ) wybierz pozycję Wyświetl wszystkie zasoby.

3. Znajdź i wybierz zasób.

   Ważne

   W tym kroku może zostać zaproponowane uaktualnienie zasobu Azure OpenAI do usługi Foundry. Zobacz porównanie dwóch typów zasobów i szczegółowe informacje na temat uaktualniania zasobów i wycofywania na tej stronie. Wybierz pozycję Anuluj , aby kontynuować bez uaktualnienia typu zasobu. Alternatywnie wybierz pozycję Dalej.

   Zobacz dodatkowe informacje o zasobie Foundry w tym artykule.

4. Wybierz pozycję Wdrożenia w sekcji Udostępnione zasoby w okienku po lewej stronie. (W przypadku zaktualizowania do Foundry w poprzednim kroku wybierz pozycję Modele + punkty końcowe w sekcji Moje zasoby w okienku po lewej stronie).

5. Wybierz pozycję + Wdróż model>podstawowy, aby otworzyć okno wdrażania.

6. Wybierz żądany model, a następnie wybierz pozycję Potwierdź. Aby uzyskać listę modeli dostępnych w poszczególnych regionach, zobacz Dostępność w regionach dla Foundry Models sprzedawanych przez Azure.

7. W następnym oknie skonfiguruj następujące pola:

   Pole	Opis
   Nazwa wdrożenia	Starannie wybierz nazwę. Nazwa wdrożenia jest używana w kodzie do wywoływania modelu przy użyciu bibliotek klienckich i interfejsów API REST.
   Typ wdrożenia	Standardowa, Global-Batch, Global-Standard, Provisioned-Managed. Dowiedz się więcej o opcjach typu wdrożenia.
   Szczegóły wdrożenia (opcjonalnie)	Możesz ustawić opcjonalne ustawienia zaawansowane zgodnie z potrzebami dla zasobu. — W przypadku filtru zawartości przypisz go do wdrożenia. — W przypadku Limit szybkości tokenów na minutę (Tokens per Minute Rate Limit), dostosuj liczbę tokenów na minutę (TPM), aby ustawić odpowiedni limit szybkości dla Twojego wdrożenia. Tę wartość można modyfikować w dowolnym momencie za pomocą menu Przydziały . Limit przydziału dynamicznego umożliwia korzystanie z większego limitu przydziału, gdy dostępna jest dodatkowa pojemność.

   Ważne

   W przypadku uzyskiwania dostępu do modelu za pośrednictwem interfejsu API należy odwołać się do nazwy wdrożenia, a nie podstawowej nazwy modelu w wywołaniach interfejsu API, co jest jedną z kluczowych różnic między OpenAI a Azure OpenAI. Interfejs OpenAI wymaga tylko nazwy modelu. Azure OpenAI zawsze wymaga nazwy wdrożenia, nawet w przypadku korzystania z parametru modelu. W naszej dokumentacji często mamy przykłady, w których nazwy wdrożeń są reprezentowane jako identyczne z nazwami modeli, aby pomóc wskazać, który model działa z określonym punktem końcowym interfejsu API. Ostatecznie nazwy wdrożeń mogą być zgodne z dowolną konwencją nazewnictwa najlepszą dla twojego przypadku użycia.

8. Wybierz pozycję Wdróż.

9. Szczegóły wdrożenia zawiera wszystkie informacje o nowym wdrożeniu. Po zakończeniu wdrażania stan prowizjonowania modelu zmieni się na Zakończono pomyślnie.

Wymagania wstępne

• Subskrypcja Azure. Utwórz je bezpłatnie.
• Uprawnienia dostępu do tworzenia zasobów Azure OpenAI oraz wdrażania modeli.
• Azure CLI. Aby uzyskać więcej informacji, zobacz Jak zainstalować Azure CLI.

Zaloguj się do Azure CLI

Sign in do Azure CLI lub wybierz Otwórz program CloudShell w poniższych krokach.

Tworzenie grupy zasobów Azure

Aby utworzyć zasób Azure OpenAI, potrzebujesz grupy zasobów Azure. Podczas tworzenia nowego zasobu za pomocą Azure CLI można również utworzyć nową grupę zasobów lub poinstruować Azure, aby korzystała z istniejącej grupy. W poniższym przykładzie pokazano, jak utworzyć nową grupę zasobów o nazwie OAIResourceGroup za pomocą polecenia az group create . Grupa zasobów została utworzona w lokalizacji Wschodnie USA.

az group create \
--name OAIResourceGroup \
--location eastus

Tworzenie zasobu

Użyj polecenia az cognitiveservices account create aby utworzyć zasób Azure OpenAI w grupie zasobów. W poniższym przykładzie utworzysz zasób o nazwie MyOpenAIResource w grupie zasobów OAIResourceGroup . Po wypróbowaniu przykładu zaktualizuj kod, aby używał żądanych wartości dla grupy zasobów i nazwy zasobu, wraz z identyfikatorem subskrypcji Azure <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Pobieranie informacji o zasobie

Po utworzeniu zasobu, możesz używać różnych poleceń, aby znaleźć przydatne informacje na temat Twojego Azure OpenAI w instancji Microsoft Foundry Models. W poniższych przykładach pokazano, jak pobrać podstawowy adres URL punktu końcowego interfejsu API REST i klucze dostępu dla nowego zasobu.

Uzyskiwanie adresu URL punktu końcowego

Użyj polecenia az cognitiveservices account show , aby pobrać podstawowy adres URL punktu końcowego interfejsu API REST dla zasobu. W tym przykładzie kierujemy dane wyjściowe polecenia za pośrednictwem jq, procesora JSON, w celu zlokalizowania wartości .properties.endpoint.

Po wypróbowaniu przykładu zaktualizuj kod, aby używał wartości dla grupy <zasobów myResourceGroupName> i zasobu <myResourceName>.

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Pobierz podstawowy klucz API

Aby pobrać klucze dostępu dla zasobu, użyj polecenia az cognitiveservices account keys list . W tym przykładzie kierujemy dane wyjściowe polecenia za pośrednictwem jq, procesora JSON, w celu zlokalizowania wartości .key1.

Po wypróbowaniu przykładu zaktualizuj kod, aby używał twoich wartości dla grupy zasobów i zasobu.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Wdrażanie modelu

Aby wdrożyć model, użyj komendy az cognitiveservices account deployment create. W poniższym przykładzie wdrożysz wystąpienie gpt-4o modelu i nadasz mu nazwę MyModel. Po wypróbowaniu przykładu zaktualizuj kod, aby używał twoich wartości dla grupy zasobów i zasobu. Nie trzeba zmieniać wartości model-version, model-format, sku-capacity ani sku-name.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-nameAkceptuje następujące typy wdrożeń: Standard, , GlobalBatchGlobalStandardi ProvisionedManaged. Dowiedz się więcej o opcjach typu wdrożenia.

Ważne

W przypadku uzyskiwania dostępu do modelu za pośrednictwem interfejsu API należy odwołać się do nazwy wdrożenia, a nie podstawowej nazwy modelu w wywołaniach interfejsu API, co jest jedną z kluczowych różnic między OpenAI a Azure OpenAI. Interfejs OpenAI wymaga tylko nazwy modelu. Azure OpenAI zawsze wymaga nazwy wdrożenia, nawet w przypadku korzystania z parametru modelu. W naszych dokumentach często mamy przykłady, w których nazwy wdrożeń są reprezentowane jako identyczne z nazwami modeli, aby pomóc wskazać, który model działa z określonym punktem końcowym interfejsu API. Ostatecznie nazwy wdrożeń mogą być zgodne z dowolną konwencją nazewnictwa najlepszą dla twojego przypadku użycia.

Usuń model z Twojego zasobu

Możesz usunąć dowolny model wdrożony w zasobie za pomocą polecenia az cognitiveservices account deployment delete. W poniższym przykładzie usuniesz model o nazwie MyModel. Po wypróbowaniu przykładu zaktualizuj kod, aby używał wartości dla grupy zasobów, zasobu i wdrożonego modelu.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Usuwanie zasobu

Jeśli chcesz posprzątać po tych ćwiczeniach, możesz usunąć zasób Azure OpenAI za pomocą Azure CLI. Możesz również usunąć grupę zasobów. Jeśli zdecydujesz się usunąć grupę zasobów, wszystkie zasoby zawarte w grupie również zostaną usunięte.

Aby usunąć grupę zasobów i skojarzone z nią zasoby, użyj polecenia az cognitiveservices account delete .

Jeśli nie zamierzasz nadal korzystać z zasobów utworzonych w tych ćwiczeniach, uruchom następujące polecenie, aby usunąć grupę zasobów. Pamiętaj, aby zaktualizować przykładowy kod, aby używał Twoich wartości dla grupy zasobów i zasobu.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Wymagania wstępne

• Subskrypcja Azure. Utwórz je bezpłatnie.
• Azure PowerShell. Aby uzyskać więcej informacji, zobacz Jak zainstalować Azure PowerShell.
• Uprawnienia dostępu do tworzenia zasobów Azure OpenAI oraz wdrażania modeli.

Zaloguj się do Azure PowerShell

Sign in to Azure PowerShell lub wybierz Otwórz program CloudShell w poniższych krokach.

Tworzenie grupy zasobów Azure

Aby utworzyć zasób Azure OpenAI, potrzebujesz grupy zasobów Azure. Podczas tworzenia nowego zasobu za pomocą Azure PowerShell można również utworzyć nową grupę zasobów lub poinstruować Azure, aby użyć istniejącej grupy. W poniższym przykładzie pokazano, jak utworzyć nową grupę zasobów o nazwie OAIResourceGroup za pomocą polecenia New-AzResourceGroup . Grupa zasobów została utworzona w lokalizacji Wschodnie USA.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Tworzenie zasobu

Użyj polecenia New-AzCognitiveServicesAccount aby utworzyć zasób Azure OpenAI w grupie zasobów. W poniższym przykładzie utworzysz zasób o nazwie MyOpenAIResource w grupie zasobów OAIResourceGroup . Po wypróbowaniu przykładu zaktualizuj kod, aby używał żądanych wartości dla grupy zasobów i nazwy zasobu, wraz z identyfikatorem subskrypcji Azure <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Pobieranie informacji o zasobie

Po utworzeniu zasobu, możesz używać różnych poleceń, aby znaleźć przydatne informacje na temat Twojego Azure OpenAI w instancji Microsoft Foundry Models. W poniższych przykładach pokazano, jak pobrać podstawowy adres URL punktu końcowego interfejsu API REST i klucze dostępu dla nowego zasobu.

Uzyskiwanie adresu URL punktu końcowego

Użyj polecenia Get-AzCognitiveServicesAccount , aby pobrać podstawowy adres URL punktu końcowego interfejsu API REST dla zasobu. W tym przykładzie kierujemy dane wyjściowe polecenia przez cmdlet Select-Object, aby zlokalizować endpoint wartość.

Po wypróbowaniu przykładu zaktualizuj kod tak, aby używał wartości dla grupy <myResourceGroupName> zasobów i zasobu <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Pobierz podstawowy klucz API

Aby pobrać klucze dostępu dla zasobu, użyj polecenia Get-AzCognitiveServicesAccountKey . W tym przykładzie kierujemy dane wyjściowe polecenia przez cmdlet Select-Object, aby zlokalizować Key1 wartość.

Po wypróbowaniu przykładu zaktualizuj kod, aby używał twoich wartości dla grupy zasobów i zasobu.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Wdrażanie modelu

Aby wdrożyć model, użyj polecenia New-AzCognitiveServicesAccountDeployment . W poniższym przykładzie wdrożysz wystąpienie gpt-4o modelu i nadasz mu nazwę MyModel. Po wypróbowaniu przykładu zaktualizuj kod, aby używał twoich wartości dla grupy zasobów i zasobu. Nie trzeba zmieniać wartości model-version, model-format, sku-capacity ani sku-name.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Właściwość Name zmiennej $sku akceptuje następujące typy wdrożeń: Standard, , GlobalBatchGlobalStandardi ProvisionedManaged. Dowiedz się więcej o opcjach typu wdrożenia.

Ważne

W przypadku uzyskiwania dostępu do modelu za pośrednictwem interfejsu API należy odwołać się do nazwy wdrożenia, a nie podstawowej nazwy modelu w wywołaniach interfejsu API, co jest jedną z kluczowych różnic między OpenAI a Azure OpenAI. Interfejs OpenAI wymaga tylko nazwy modelu. Azure OpenAI zawsze wymaga nazwy wdrożenia, nawet w przypadku korzystania z parametru modelu. W naszych dokumentach często mamy przykłady, w których nazwy wdrożeń są reprezentowane jako identyczne z nazwami modeli, aby pomóc wskazać, który model działa z określonym punktem końcowym interfejsu API. Ostatecznie nazwy wdrożeń mogą być zgodne z dowolną konwencją nazewnictwa najlepszą dla twojego przypadku użycia.

Usuń model z Twojego zasobu

Dowolny model wdrożony z zasobu można usunąć za pomocą polecenia Remove-AzCognitiveServicesAccountDeployment . W poniższym przykładzie usuniesz model o nazwie MyModel. Po wypróbowaniu przykładu zaktualizuj kod, aby używał wartości dla grupy zasobów, zasobu i wdrożonego modelu.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Usuwanie zasobu

Jeśli chcesz posprzątać po tych ćwiczeniach, możesz usunąć zasób Azure OpenAI poprzez jego usunięcie przy użyciu Azure PowerShell. Możesz również usunąć grupę zasobów. Jeśli zdecydujesz się usunąć grupę zasobów, wszystkie zasoby zawarte w grupie również zostaną usunięte.

Aby usunąć grupę zasobów i skojarzone z nią zasoby, użyj polecenia Remove-AzCognitiveServicesAccount .

Jeśli nie zamierzasz nadal korzystać z zasobów utworzonych w tych ćwiczeniach, uruchom następujące polecenie, aby usunąć grupę zasobów. Pamiętaj, aby zaktualizować przykładowy kod, aby używał Twoich wartości dla grupy zasobów i zasobu.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Następne kroki

• Rozpocznij pracę z blokiem konstrukcyjnym zabezpieczeń Azure OpenAI
• Dowiedz się więcej o modelach Azure OpenAI.
• Aby uzyskać informacje na temat cennika, odwiedź stronę cennika Azure OpenAI