Creare e distribuire una risorsa del Servizio OpenAI di Azure

Questo articolo descrive come iniziare a usare il servizio Azure OpenAI e fornisce istruzioni dettagliate per creare una risorsa e distribuire un modello. È possibile creare risorse in Azure in diversi modi:

• Ilportale di Azure
• API REST, interfaccia della riga di comando di Azure, PowerShell o librerie client
• Modelli di Azure Resource Manager

In questo articolo vengono esaminati gli esempi per la creazione e la distribuzione di risorse nella portale di Azure e con l'interfaccia della riga di comando di Azure.

Prerequisiti

• Una sottoscrizione di Azure. Crearne una gratuitamente.
• Accesso concesso ad Azure OpenAI nella sottoscrizione di Azure desiderata.
• Autorizzazioni di accesso per creare risorse OpenAI di Azure e per distribuire i modelli.

Nota

Attualmente, è necessario inviare un'applicazione per accedere al servizio Azure OpenAI. Per richiedere l'accesso, completare il modulo. Se è necessaria assistenza, aprire un problema in questo repository per contattare Microsoft.

Creare una risorsa

I passaggi seguenti illustrano come creare una risorsa OpenAI di Azure nel portale di Azure.

Identificare la risorsa

1. Accedere con la sottoscrizione di Azure nel portale di Azure.

2. Selezionare Crea una risorsa e cercare Azure OpenAI. Quando si individua il servizio, selezionare Crea.

   

3. Nella pagina Crea Azure OpenAI specificare le informazioni seguenti per i campi nella scheda Informazioni di base:

   Campo	Descrizione
   Abbonamento	La sottoscrizione di Azure usata nell'applicazione di onboarding del servizio OpenAI di Azure.
   Gruppo di risorse	Gruppo di risorse di Azure per contenere la risorsa OpenAI di Azure. È possibile creare un nuovo gruppo o usare un gruppo preesistente.
   Area	Posizione dell'istanza. Posizioni diverse possono introdurre latenza, ma non influiscono sulla disponibilità di runtime della risorsa.
   Nome	Nome descrittivo per la risorsa del servizio Azure OpenAI, ad esempio MyOpenAIResource.
   Piano tariffario	Piano tariffario per la risorsa. Attualmente, solo il livello Standard è disponibile per il servizio OpenAI di Azure. Per altre informazioni sui prezzi, visitare la pagina dei prezzi di Azure OpenAI

   

4. Selezionare Avanti.

Configurare la sicurezza di rete

La scheda Rete presenta tre opzioni per il tipo di sicurezza:

• Opzione 1: tutte le reti, tra cui Internet, possono accedere a questa risorsa.
• Opzione 2: reti selezionate, configurare la sicurezza di rete per la risorsa dei servizi di intelligenza artificiale di Azure.
• Opzione 3: Disabilitata, nessuna rete può accedere a questa risorsa. È possibile configurare connessioni endpoint privato che saranno il modo esclusivo per accedere a questa risorsa.

A seconda dell'opzione selezionata, potrebbe essere necessario fornire informazioni aggiuntive.

Opzione 1: Consenti tutte le reti

La prima opzione consente a tutte le reti, tra cui Internet, di accedere alla risorsa. Questa opzione è l'impostazione predefinita. Per questa opzione non sono necessarie impostazioni aggiuntive.

Opzione 2: Consenti solo reti specifiche

La seconda opzione consente di identificare reti specifiche che possono accedere alla risorsa. Quando si seleziona questa opzione, la pagina viene aggiornata per includere i campi obbligatori seguenti:

Campo	Descrizione
Rete virtuale	Specificare le reti virtuali a cui è consentito l'accesso alla risorsa. È possibile modificare il nome predefinito della rete virtuale nella portale di Azure.
Subnet	Specificare le subnet a cui è consentito l'accesso alla risorsa. È possibile modificare il nome della subnet predefinito nella portale di Azure.

La sezione Firewall fornisce un campo facoltativo Intervallo di indirizzi che è possibile usare per configurare le impostazioni del firewall per la risorsa.

Opzione 3: Disabilitare l'accesso alla rete

La terza opzione consente di disabilitare l'accesso di rete alla risorsa. Quando si seleziona questa opzione, la pagina viene aggiornata per includere la tabella Endpoint privato.

Come opzione, è possibile aggiungere un endpoint privato per l'accesso alla risorsa. Selezionare Aggiungi endpoint privato e completare la configurazione dell'endpoint.

Confermare la configurazione e creare la risorsa

1. Selezionare Avanti e configurare i tag per la risorsa in base alle esigenze.

2. Selezionare Avanti per passare alla fase finale del processo: Rivedi e invia.

3. Verificare le impostazioni di configurazione e selezionare Crea.

Il portale di Azure visualizza una notifica quando la nuova risorsa è disponibile.

Distribuire un modello

Prima di poter generare testo o inferenza, è necessario distribuire un modello. È possibile selezionare uno dei diversi modelli disponibili in Azure OpenAI Studio.

Per distribuire un modello, seguire questa procedura:

1. Accedere ad Azure OpenAI Studio.

2. Scegliere la sottoscrizione e la risorsa OpenAI di Azure da usare e selezionare Usa risorsa.

3. In Gestione selezionare Distribuzioni.

4. Selezionare Crea nuova distribuzione e configurare i campi seguenti:

   Campo	Descrizione
   Seleziona un modello	La disponibilità del modello varia in base all'area geografica. Per un elenco dei modelli disponibili per area, vedere Tabella di riepilogo dei modelli e disponibilità dell'area.
   Nome distribuzione	Scegliere un nome con attenzione. Il nome della distribuzione viene usato nel codice per chiamare il modello usando le librerie client e le API REST.
   Opzioni avanzate (facoltativo)	È possibile impostare le impostazioni avanzate facoltative, in base alle esigenze per la risorsa. - Per Filtro contenuto assegnare un filtro contenuto alla distribuzione. - Per il limite di frequenza dei token al minuto, modificare i token al minuto (TPM) per impostare il limite di velocità effettivo per la distribuzione. È possibile modificare questo valore in qualsiasi momento usando il menu Quote. La quota dinamica consente di sfruttare una maggiore quota quando è disponibile capacità aggiuntiva.

5. Selezionare un modello dall'elenco a discesa.

6. Immettere un nome di distribuzione per identificare il modello.

   Importante

   Quando si accede al modello tramite l'API, è necessario fare riferimento al nome della distribuzione anziché al nome del modello sottostante nelle chiamate API, che è una delle differenze principali tra OpenAI e Azure OpenAI. OpenAI richiede solo il nome del modello. Azure OpenAI richiede sempre il nome della distribuzione, anche quando si usa il parametro del modello. Nella documentazione sono spesso disponibili esempi in cui i nomi di distribuzione sono rappresentati come identici ai nomi dei modelli per indicare quale modello funziona con un determinato endpoint API. In definitiva, i nomi di distribuzione possono seguire qualsiasi convenzione di denominazione sia ottimale per il caso d'uso.

7. Per la prima distribuzione, lasciare le opzioni avanzate impostate sulle impostazioni predefinite.

8. Seleziona Crea.

La tabella distribuzioni mostra una nuova voce corrispondente al modello appena creato.

Al termine della distribuzione, lo stato della distribuzione del modello cambia in modo che abbia esito positivo.

Prerequisiti

• Una sottoscrizione di Azure. Crearne una gratuitamente.
• Accesso concesso ad Azure OpenAI nella sottoscrizione di Azure desiderata.
• Autorizzazioni di accesso per creare risorse OpenAI di Azure e per distribuire i modelli.
• Interfaccia della riga di comando di Azure. Per altre informazioni, vedere Come installare l'interfaccia della riga di comando di Azure.

Nota

Attualmente, è necessario inviare un'applicazione per accedere al servizio Azure OpenAI. Per richiedere l'accesso, completare il modulo. Se è necessaria assistenza, aprire un problema in questo repository per contattare Microsoft.

Accedere all'interfaccia della riga di comando di Azure

Accedere all'interfaccia della riga di comando di Azure o selezionare Apri CloudShell nei passaggi seguenti.

Creare un gruppo di risorse di Azure

Per creare una risorsa OpenAI di Azure, è necessario un gruppo di risorse di Azure. Quando si crea una nuova risorsa tramite l'interfaccia della riga di comando di Azure, è anche possibile creare un nuovo gruppo di risorse o indicare ad Azure di usare un gruppo esistente. L'esempio seguente illustra come creare un nuovo gruppo di risorse denominato OAIResourceGroup con il comando az group create . Il gruppo di risorse viene creato nella località Stati Uniti orientali.

az group create \
--name OAIResourceGroup \
--location eastus

Creare una risorsa

Usare il comando az cognitiveservices account create per creare una risorsa OpenAI di Azure nel gruppo di risorse. Nell'esempio seguente viene creata una risorsa denominata MyOpenAIResource nel gruppo di risorse OAIResourceGroup . Quando si prova l'esempio, aggiornare il codice per usare i valori desiderati per il gruppo di risorse e il nome della risorsa, insieme all'ID <sottoscrizione di Azure.>

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>

Recuperare informazioni sulla risorsa

Dopo aver creato la risorsa, è possibile usare comandi diversi per trovare informazioni utili sull'istanza del servizio OpenAI di Azure. Gli esempi seguenti illustrano come recuperare l'URL di base dell'endpoint dell'API REST e le chiavi di accesso per la nuova risorsa.

Ottenere l'URL dell'endpoint

Usare il comando az cognitiveservices account show per recuperare l'URL di base dell'endpoint DELL'API REST per la risorsa. In questo esempio l'output del comando viene diretto tramite il processore JSON jq per individuare il .properties.endpoint valore.

Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse myResourceGroupName> e la risorsa< myResourceName>.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Ottenere la chiave API primaria

Per recuperare le chiavi di accesso per la risorsa, usare il comando az cognitiveservices account keys list . In questo esempio l'output del comando viene diretto tramite il processore JSON jq per individuare il .key1 valore.

Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse e la risorsa.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Distribuire un modello

Per distribuire un modello, usare il comando az cognitiveservices account deployment create . Nell'esempio seguente si distribuisce un'istanza del text-embedding-ada-002 modello e si assegna il nome MyModel. Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse e la risorsa. Non è necessario modificare i model-versionvalori , model-format o sku-capacitye sku-name .

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name text-embedding-ada-002 \
--model-version "1"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

Importante

Quando si accede al modello tramite l'API, è necessario fare riferimento al nome della distribuzione anziché al nome del modello sottostante nelle chiamate API, che è una delle differenze principali tra OpenAI e Azure OpenAI. OpenAI richiede solo il nome del modello. Azure OpenAI richiede sempre il nome della distribuzione, anche quando si usa il parametro del modello. Nella documentazione sono spesso disponibili esempi in cui i nomi di distribuzione sono rappresentati come identici ai nomi dei modelli per indicare quale modello funziona con un determinato endpoint API. In definitiva, i nomi di distribuzione possono seguire qualsiasi convenzione di denominazione sia ottimale per il caso d'uso.

Eliminare un modello dalla risorsa

È possibile eliminare qualsiasi modello distribuito dalla risorsa con il comando az cognitiveservices account deployment delete . Nell'esempio seguente si elimina un modello denominato MyModel. Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse, la risorsa e il modello distribuito.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Eliminare una risorsa

Per eseguire la pulizia dopo questi esercizi, è possibile rimuovere la risorsa OpenAI di Azure eliminando la risorsa tramite l'interfaccia della riga di comando di Azure. È anche possibile eliminare il gruppo di risorse. Se si sceglie di eliminare il gruppo di risorse, vengono eliminate anche tutte le risorse contenute nel gruppo.

Per rimuovere il gruppo di risorse e le risorse associate, usare il comando az cognitiveservices account delete .

Se non si intende continuare a usare le risorse create in questi esercizi, eseguire il comando seguente per eliminare il gruppo di risorse. Assicurarsi di aggiornare il codice di esempio per usare i valori per il gruppo di risorse e la risorsa.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Prerequisiti

• Una sottoscrizione di Azure. Crearne una gratuitamente.
• Accesso concesso ad Azure OpenAI nella sottoscrizione di Azure desiderata.
• Autorizzazioni di accesso per creare risorse OpenAI di Azure e per distribuire i modelli.
• Azure PowerShell. Per altre informazioni, vedere Come installare Azure PowerShell.

Nota

Attualmente, è necessario inviare un'applicazione per accedere al servizio Azure OpenAI. Per richiedere l'accesso, completare il modulo. Se è necessaria assistenza, aprire un problema in questo repository per contattare Microsoft.

Accedere ad Azure PowerShell

Accedere ad Azure PowerShell o selezionare Apri CloudShell nei passaggi seguenti.

Creare un gruppo di risorse di Azure

Per creare una risorsa OpenAI di Azure, è necessario un gruppo di risorse di Azure. Quando si crea una nuova risorsa tramite Azure PowerShell, è anche possibile creare un nuovo gruppo di risorse o indicare ad Azure di usare un gruppo esistente. L'esempio seguente illustra come creare un nuovo gruppo di risorse denominato OAIResourceGroup con il comando New-AzResourceGroup . Il gruppo di risorse viene creato nella località Stati Uniti orientali.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Creare una risorsa

Usare il comando New-AzCognitiveServicesAccount per creare una risorsa OpenAI di Azure nel gruppo di risorse. Nell'esempio seguente viene creata una risorsa denominata MyOpenAIResource nel gruppo di risorse OAIResourceGroup . Quando si prova l'esempio, aggiornare il codice per usare i valori desiderati per il gruppo di risorse e il nome della risorsa, insieme all'ID <sottoscrizione di Azure.>

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Recuperare informazioni sulla risorsa

Dopo aver creato la risorsa, è possibile usare comandi diversi per trovare informazioni utili sull'istanza del servizio OpenAI di Azure. Gli esempi seguenti illustrano come recuperare l'URL di base dell'endpoint dell'API REST e le chiavi di accesso per la nuova risorsa.

Ottenere l'URL dell'endpoint

Usare il comando Get-AzCognitiveServicesAccount per recuperare l'URL di base dell'endpoint dell'API REST per la risorsa. In questo esempio l'output del comando viene diretto tramite il cmdlet Select-Object per individuare il endpoint valore.

Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo <myResourceGroupName> di risorse e la risorsa <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Ottenere la chiave API primaria

Per recuperare le chiavi di accesso per la risorsa, usare il comando Get-AzCognitiveServicesAccountKey . In questo esempio l'output del comando viene diretto tramite il cmdlet Select-Object per individuare il Key1 valore.

Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse e la risorsa.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Distribuire un modello

Per distribuire un modello, usare il comando New-AzCognitiveServicesAccountDeployment . Nell'esempio seguente si distribuisce un'istanza del text-embedding-ada-002 modello e si assegna il nome MyModel. Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse e la risorsa. Non è necessario modificare i model-versionvalori , model-format o sku-capacitye sku-name .

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'text-embedding-ada-002'
    Version = '2'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Importante

Quando si accede al modello tramite l'API, è necessario fare riferimento al nome della distribuzione anziché al nome del modello sottostante nelle chiamate API, che è una delle differenze principali tra OpenAI e Azure OpenAI. OpenAI richiede solo il nome del modello. Azure OpenAI richiede sempre il nome della distribuzione, anche quando si usa il parametro del modello. Nella documentazione sono spesso disponibili esempi in cui i nomi di distribuzione sono rappresentati come identici ai nomi dei modelli per indicare quale modello funziona con un determinato endpoint API. In definitiva, i nomi di distribuzione possono seguire qualsiasi convenzione di denominazione sia ottimale per il caso d'uso.

Eliminare un modello dalla risorsa

È possibile eliminare qualsiasi modello distribuito dalla risorsa con il comando Remove-AzCognitiveServicesAccountDeployment . Nell'esempio seguente si elimina un modello denominato MyModel. Quando si prova l'esempio, aggiornare il codice per usare i valori per il gruppo di risorse, la risorsa e il modello distribuito.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Eliminare una risorsa

Per eseguire la pulizia dopo questi esercizi, è possibile rimuovere la risorsa OpenAI di Azure eliminando la risorsa tramite Azure PowerShell. È anche possibile eliminare il gruppo di risorse. Se si sceglie di eliminare il gruppo di risorse, vengono eliminate anche tutte le risorse contenute nel gruppo.

Per rimuovere il gruppo di risorse e le risorse associate, usare il comando Remove-AzCognitiveServicesAccount .

Se non si intende continuare a usare le risorse create in questi esercizi, eseguire il comando seguente per eliminare il gruppo di risorse. Assicurarsi di aggiornare il codice di esempio per usare i valori per il gruppo di risorse e la risorsa.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup

Passaggi successivi

• Eseguire chiamate API e generare testo con le guide introduttive del servizio Azure OpenAI.
• Altre informazioni sui modelli di servizio OpenAI di Azure.
• Per informazioni sui prezzi, visitare la pagina dei prezzi di Azure OpenAI