Delen via


Een Azure OpenAI-serviceresource maken en implementeren

In dit artikel wordt beschreven hoe u aan de slag gaat met Azure OpenAI Service en stapsgewijze instructies biedt voor het maken van een resource en het implementeren van een model. U kunt resources in Azure op verschillende manieren maken:

  • Azure Portal
  • De REST API's, de Azure CLI, PowerShell of clientbibliotheken
  • ARM-sjablonen (Azure Resource Manager)

In dit artikel bekijkt u voorbeelden voor het maken en implementeren van resources in Azure Portal en met de Azure CLI.

Vereisten

Notitie

Op dit moment moet u een toepassing indienen om toegang te krijgen tot de Azure OpenAI-service. Als u toegang wilt aanvragen, vult u dit formulier in. Als u hulp nodig hebt, opent u een probleem in deze opslagplaats om contact op te nemen met Microsoft.

Een resource maken

In de volgende stappen ziet u hoe u een Azure OpenAI-resource maakt in Azure Portal.

De resource identificeren

  1. Meld u aan met uw Azure-abonnement in Azure Portal.

  2. Selecteer Een resource maken en zoek naar De Azure OpenAI. Wanneer u de service zoekt, selecteert u Maken.

    Schermopname van het maken van een nieuwe Azure OpenAI-serviceresource in Azure Portal.

  3. Geef op de pagina Azure OpenAI maken de volgende informatie op voor de velden op het tabblad Basisbeginselen :

    Veld Beschrijving
    Abonnement Het Azure-abonnement dat wordt gebruikt in uw Azure OpenAI Service-onboardingtoepassing.
    Resourcegroep De Azure-resourcegroep die uw Azure OpenAI-resource bevat. U kunt een nieuwe groep maken of een bestaande groep gebruiken.
    Regio De locatie van uw exemplaar. Verschillende locaties kunnen latentie veroorzaken, maar deze hebben geen invloed op de runtime-beschikbaarheid van uw resource.
    Naam Een beschrijvende naam voor uw Azure OpenAI-serviceresource, zoals MyOpenAIResource.
    Prijscategorie De prijscategorie voor de resource. Momenteel is alleen de Standard-laag beschikbaar voor de Azure OpenAI-service. Ga naar de pagina met prijzen van Azure OpenAI voor meer informatie over prijzen

    Schermopname van het configureren van een Azure OpenAI-resource in Azure Portal.

  4. Selecteer Volgende.

Netwerkbeveiliging configureren

Het tabblad Netwerk bevat drie opties voor het beveiligingstype:

  • Optie 1: Alle netwerken, inclusief internet, hebben toegang tot deze resource.
  • Optie 2: Geselecteerde netwerken, netwerkbeveiliging configureren voor uw Azure AI-servicesresource.
  • Optie 3: Uitgeschakeld, geen netwerken hebben toegang tot deze resource. U kunt privé-eindpuntverbindingen configureren die de exclusieve manier zijn om toegang te krijgen tot deze resource.

Schermopname van de netwerkbeveiligingsopties voor een Azure OpenAI-resource in Azure Portal.

Afhankelijk van de optie die u selecteert, moet u mogelijk aanvullende informatie opgeven.

Optie 1: Alle netwerken toestaan

Met de eerste optie hebben alle netwerken, inclusief internet, toegang tot uw resource. Deze optie is de standaardinstelling. Er zijn geen extra instellingen vereist voor deze optie.

Optie 2: Alleen specifieke netwerken toestaan

Met de tweede optie kunt u specifieke netwerken identificeren die toegang hebben tot uw resource. Wanneer u deze optie selecteert, wordt de pagina bijgewerkt met de volgende vereiste velden:

Veld Beschrijving
Virtueel netwerk Geef de virtuele netwerken op die toegang hebben tot uw resource. U kunt de standaardnaam van het virtuele netwerk bewerken in Azure Portal.
Subnetten Geef de subnetten op die toegang hebben tot uw resource. U kunt de standaardsubnetnaam bewerken in Azure Portal.

Schermopname van het configureren van netwerkbeveiliging voor een Azure OpenAI-resource om alleen specifieke netwerken toe te staan.

De sectie Firewall bevat een optioneel adresbereikveld dat u kunt gebruiken om firewallinstellingen voor de resource te configureren.

Optie 3: Netwerktoegang uitschakelen

Met de derde optie kunt u netwerktoegang tot uw resource uitschakelen. Wanneer u deze optie selecteert, wordt de pagina bijgewerkt met de tabel Privé-eindpunt .

Schermopname van het uitschakelen van netwerkbeveiliging voor een Azure OpenAI-resource in Azure Portal.

Als optie kunt u een privé-eindpunt toevoegen voor toegang tot uw resource. Selecteer Privé-eindpunt toevoegen en voltooi de eindpuntconfiguratie.

De configuratie bevestigen en de resource maken

  1. Selecteer Volgende en configureer naar wens tags voor uw resource.

  2. Selecteer Volgende om naar de laatste fase in het proces te gaan: Beoordelen en verzenden.

  3. Bevestig uw configuratie-instellingen en selecteer Maken.

  4. In Azure Portal wordt een melding weergegeven wanneer de nieuwe resource beschikbaar is. Selecteer Naar resource.

    Schermopname van de knop Ga naar resource in Azure Portal.

Een model implementeren

Voordat u tekst of deductie kunt genereren, moet u een model implementeren. U kunt kiezen uit een van de verschillende beschikbare modellen in Azure OpenAI Studio.

Voer de volgende stappen uit om een model te implementeren:

  1. Meld u aan bij Azure OpenAI Studio.

  2. Kies het abonnement en de Azure OpenAI-resource waarmee u wilt werken en selecteer Resource gebruiken.

  3. Selecteer Implementaties onder Beheer.

  4. Selecteer Nieuwe implementatie maken en configureer de volgende velden:

    Veld Beschrijving
    Een model selecteren De modelbeschikbaarheid varieert per regio. Zie de overzichtstabel van het model en de beschikbaarheid van regio's voor een lijst met beschikbare modellen per regio.
    Naam van implementatie Kies zorgvuldig een naam. De implementatienaam wordt in uw code gebruikt om het model aan te roepen met behulp van de clientbibliotheken en de REST API's.
    Implementatietype Standard, Global-Standard, ingericht beheerd. Meer informatie over opties voor implementatietypen.
    Geavanceerde opties (optioneel) U kunt indien nodig optionele geavanceerde instellingen instellen voor uw resource.
    - Wijs voor het inhoudsfilter een inhoudsfilter toe aan uw implementatie.
    - Pas voor de limiet voor tokens per minuut de tokens per minuut (TPM) aan om de effectieve frequentielimiet voor uw implementatie in te stellen. U kunt deze waarde op elk gewenst moment wijzigen met behulp van het menu Quota. Met dynamisch quotum kunt u profiteren van meer quota wanneer er extra capaciteit beschikbaar is.
  5. Selecteer een model in de vervolgkeuzelijst.

  6. Voer een implementatienaam in om het model te identificeren.

    Belangrijk

    Wanneer u het model opent via de API, moet u verwijzen naar de implementatienaam in plaats van de onderliggende modelnaam in API-aanroepen. Dit is een van de belangrijkste verschillen tussen OpenAI en Azure OpenAI. OpenAI vereist alleen de modelnaam. Azure OpenAI vereist altijd de implementatienaam, zelfs wanneer u de modelparameter gebruikt. In onze documenten hebben we vaak voorbeelden waarin implementatienamen worden weergegeven als identiek aan modelnamen om aan te geven welk model met een bepaald API-eindpunt werkt. Uiteindelijk kunnen uw implementatienamen de naamconventie volgen die het beste is voor uw use-case.

  7. Laat voor uw eerste implementatie de geavanceerde opties ingesteld op de standaardwaarden.

  8. Selecteer Maken.

In de tabel implementaties ziet u een nieuwe vermelding die overeenkomt met het zojuist gemaakte model.

Wanneer de implementatie is voltooid, wordt de implementatiestatus van uw model gewijzigd.

Vereisten

Notitie

Op dit moment moet u een toepassing indienen om toegang te krijgen tot de Azure OpenAI-service. Als u toegang wilt aanvragen, vult u dit formulier in. Als u hulp nodig hebt, opent u een probleem in deze opslagplaats om contact op te nemen met Microsoft.

Aanmelden bij de Azure CLI

Meld u aan bij de Azure CLI of selecteer Open CloudShell in de volgende stappen.

Maak een Azure-resourcegroep

Als u een Azure OpenAI-resource wilt maken, hebt u een Azure-resourcegroep nodig. Wanneer u een nieuwe resource maakt via de Azure CLI, kunt u ook een nieuwe resourcegroep maken of Azure instrueren om een bestaande groep te gebruiken. In het volgende voorbeeld ziet u hoe u een nieuwe resourcegroep met de naam OAIResourceGroup maakt met de opdracht az group create . De resourcegroep wordt gemaakt op de locatie VS - oost.

az group create \
--name OAIResourceGroup \
--location eastus

Een resource maken

Gebruik de opdracht az cognitiveservices account create om een Azure OpenAI-resource in de resourcegroep te maken. In het volgende voorbeeld maakt u een resource met de naam MyOpenAIResource in de OAIResourceGroup-resourcegroep . Wanneer u het voorbeeld probeert, werkt u de code bij om de gewenste waarden te gebruiken voor de resourcegroep en resourcenaam, samen met de abonnements-id <>van uw Azure-abonnement.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Informatie over de resource ophalen

Nadat u de resource hebt gemaakt, kunt u verschillende opdrachten gebruiken om nuttige informatie te vinden over uw Azure OpenAI Service-exemplaar. In de volgende voorbeelden ziet u hoe u de basis-URL van het REST API-eindpunt en de toegangssleutels voor de nieuwe resource ophaalt.

De eindpunt-URL ophalen

Gebruik de opdracht az cognitiveservices account show om de BASIS-URL van het REST API-eindpunt voor de resource op te halen. In dit voorbeeld leiden we de opdrachtuitvoer via de jq JSON-processor om de .properties.endpoint waarde te vinden.

Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden te gebruiken voor de resourcegroep myResourceGroupName> en resource< myResourceName>.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

De primaire API-sleutel ophalen

Gebruik de opdracht az cognitiveservices account keys list om de toegangssleutels voor de resource op te halen. In dit voorbeeld leiden we de opdrachtuitvoer via de jq JSON-processor om de .key1 waarde te vinden.

Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden voor de resourcegroep en resource te gebruiken.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Een model implementeren

Als u een model wilt implementeren, gebruikt u de opdracht az cognitiveservices account deployment create . In het volgende voorbeeld implementeert u een exemplaar van het text-embedding-ada-002 model en geeft u dit de naam MyModel. Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden voor de resourcegroep en resource te gebruiken. U hoeft de waarden model-format en sku-capacitysku-name waarden model-versionniet te wijzigen.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name accepteert de volgende implementatietypen: Standard, GlobalStandarden ProvisionedManaged. Meer informatie over opties voor implementatietypen.

Belangrijk

Wanneer u het model opent via de API, moet u verwijzen naar de implementatienaam in plaats van de onderliggende modelnaam in API-aanroepen. Dit is een van de belangrijkste verschillen tussen OpenAI en Azure OpenAI. OpenAI vereist alleen de modelnaam. Azure OpenAI vereist altijd de implementatienaam, zelfs wanneer u de modelparameter gebruikt. In onze documenten hebben we vaak voorbeelden waarin implementatienamen worden weergegeven als identiek aan modelnamen om aan te geven welk model met een bepaald API-eindpunt werkt. Uiteindelijk kunnen uw implementatienamen de naamconventie volgen die het beste is voor uw use-case.

Een model verwijderen uit uw resource

U kunt elk model dat is geïmplementeerd uit uw resource verwijderen met de opdracht az cognitiveservices account deployment delete . In het volgende voorbeeld verwijdert u een model met de naam MyModel. Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden te gebruiken voor de resourcegroep, resource en het geïmplementeerde model.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Een resource verwijderen

Als u na deze oefeningen wilt opschonen, kunt u uw Azure OpenAI-resource verwijderen door de resource te verwijderen via de Azure CLI. U kunt ook de resourcegroep verwijderen. Als u ervoor kiest om de resourcegroep te verwijderen, worden ook alle resources in de groep verwijderd.

Als u de resourcegroep en de bijbehorende resources wilt verwijderen, gebruikt u de opdracht az cognitiveservices account delete .

Als u niet wilt doorgaan met het gebruik van de resources die in deze oefeningen zijn gemaakt, voert u de volgende opdracht uit om uw resourcegroep te verwijderen. Zorg ervoor dat u de voorbeeldcode bijwerkt om uw waarden voor de resourcegroep en resource te gebruiken.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Vereisten

Notitie

Op dit moment moet u een toepassing indienen om toegang te krijgen tot de Azure OpenAI-service. Als u toegang wilt aanvragen, vult u dit formulier in. Als u hulp nodig hebt, opent u een probleem in deze opslagplaats om contact op te nemen met Microsoft.

Aanmelden bij Azure PowerShell

Meld u aan bij Azure PowerShell of selecteer Open CloudShell in de volgende stappen.

Maak een Azure-resourcegroep

Als u een Azure OpenAI-resource wilt maken, hebt u een Azure-resourcegroep nodig. Wanneer u een nieuwe resource maakt via Azure PowerShell, kunt u ook een nieuwe resourcegroep maken of Azure instrueren om een bestaande groep te gebruiken. In het volgende voorbeeld ziet u hoe u een nieuwe resourcegroep met de naam OAIResourceGroup maakt met de opdracht New-AzResourceGroup . De resourcegroep wordt gemaakt op de locatie VS - oost.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Een resource maken

Gebruik de opdracht New-AzCognitiveServicesAccount om een Azure OpenAI-resource te maken in de resourcegroep. In het volgende voorbeeld maakt u een resource met de naam MyOpenAIResource in de OAIResourceGroup-resourcegroep . Wanneer u het voorbeeld probeert, werkt u de code bij om de gewenste waarden te gebruiken voor de resourcegroep en resourcenaam, samen met de abonnements-id <>van uw Azure-abonnement.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Informatie over de resource ophalen

Nadat u de resource hebt gemaakt, kunt u verschillende opdrachten gebruiken om nuttige informatie te vinden over uw Azure OpenAI Service-exemplaar. In de volgende voorbeelden ziet u hoe u de basis-URL van het REST API-eindpunt en de toegangssleutels voor de nieuwe resource ophaalt.

De eindpunt-URL ophalen

Gebruik de opdracht Get-AzCognitiveServicesAccount om de basis-URL van het REST API-eindpunt voor de resource op te halen. In dit voorbeeld leiden we de opdrachtuitvoer via de cmdlet Select-Object om de endpoint waarde te vinden.

Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden voor de resourcegroep <myResourceGroupName> en resource <myResourceName>te gebruiken.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

De primaire API-sleutel ophalen

Gebruik de opdracht Get-AzCognitiveServicesAccountKey om de toegangssleutels voor de resource op te halen. In dit voorbeeld leiden we de opdrachtuitvoer via de cmdlet Select-Object om de Key1 waarde te vinden.

Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden voor de resourcegroep en resource te gebruiken.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Een model implementeren

Gebruik de opdracht New-AzCognitiveServicesAccountDeployment om een model te implementeren. In het volgende voorbeeld implementeert u een exemplaar van het text-embedding-ada-002 model en geeft u dit de naam MyModel. Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden voor de resourcegroep en resource te gebruiken. U hoeft de waarden model-format en sku-capacitysku-name waarden model-versionniet te wijzigen.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

De Name eigenschap van de $sku variabele accepteert de volgende implementatietypen: Standard, GlobalStandarden ProvisionedManaged. Meer informatie over opties voor implementatietypen.

Belangrijk

Wanneer u het model opent via de API, moet u verwijzen naar de implementatienaam in plaats van de onderliggende modelnaam in API-aanroepen. Dit is een van de belangrijkste verschillen tussen OpenAI en Azure OpenAI. OpenAI vereist alleen de modelnaam. Azure OpenAI vereist altijd de implementatienaam, zelfs wanneer u de modelparameter gebruikt. In onze documenten hebben we vaak voorbeelden waarin implementatienamen worden weergegeven als identiek aan modelnamen om aan te geven welk model met een bepaald API-eindpunt werkt. Uiteindelijk kunnen uw implementatienamen de naamconventie volgen die het beste is voor uw use-case.

Een model verwijderen uit uw resource

U kunt elk model dat is geïmplementeerd uit uw resource verwijderen met de opdracht Remove-AzCognitiveServicesAccountDeployment . In het volgende voorbeeld verwijdert u een model met de naam MyModel. Wanneer u het voorbeeld probeert, werkt u de code bij om uw waarden te gebruiken voor de resourcegroep, resource en het geïmplementeerde model.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Een resource verwijderen

Als u na deze oefeningen wilt opschonen, kunt u uw Azure OpenAI-resource verwijderen door de resource te verwijderen via Azure PowerShell. U kunt ook de resourcegroep verwijderen. Als u ervoor kiest om de resourcegroep te verwijderen, worden ook alle resources in de groep verwijderd.

Gebruik de opdracht Remove-AzCognitiveServicesAccount om de resourcegroep en de bijbehorende resources te verwijderen.

Als u niet wilt doorgaan met het gebruik van de resources die in deze oefeningen zijn gemaakt, voert u de volgende opdracht uit om uw resourcegroep te verwijderen. Zorg ervoor dat u de voorbeeldcode bijwerkt om uw waarden voor de resourcegroep en resource te gebruiken.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Volgende stappen