[Problema] Utilizzo Open AI Azure Modello 4o nell'ambito programma monthly trial

Giovanni Cresta 0 Punti di reputazione
2024-09-04T17:09:28.95+00:00

Buon pomeriggio,

ho da poche ore configurato la mia prova mensile di Microsoft Azure, su consiglio di amici tecnici, per procedere con il testing di utilizzo di Open AI (ChatGPT4o) la cui versione consumer a pagamento non soddisfaceva i requisiti per ciò su cui sto lavorando.

Tuttavia, dopo aver seguito tutorial e configurato il tutto, una volta arrivato al chatbot e relative configurazioni, dopo aver scambiato un "ciao" con il chatbot, riscontro sempre una richiesta di aumento della quota in quanto sembra io l'abbia già superata.

Esiste un modo con cui poter utilizzare i 200$ di budget trial per poter utilizzare il modello o non è possibile?

Lascio copia dell'errore:

Requests to the ChatCompletions_Create Operation under Azure OpenAI API version 2024-04-01-preview have exceeded token rate limit of your current OpenAI S0 pricing tier. Please retry after 24 seconds. Please go here: https://aka.ms/oai/quotaincrease if you would like to further increase the default rate limit. | Apim-request-id: * * * *

Ripeto: non capisco come sia possibile superare il token limit con una sola domanda (ho provato sia con risorse in Western Europe che East US ma non sembra cambiare nulla). Dovrebbero esserci 1000 token per minuto di disponibilità, e invece nulla

Qualcuno sa aiutarmi? Grazie mille

Azure
Azure
Una piattaforma e un'infrastruttura di cloud computing per la creazione, la distribuzione e la gestione di applicazioni e servizi tramite una rete mondiale di data center gestiti da Microsoft.
102 domande
0 commenti Nessun commento
{count} voti

1 risposta

Ordina per: Più utili
  1. Nikola Kochmalarski (Convergys Corporation) 675 Punti di reputazione Fornitore Microsoft
    2024-09-05T06:13:43.66+00:00

    Ciao Giovanni,

    prova ad aumentare il token rate limit, come descritto in questo thread della community:

    https://learn.microsoft.com/en-us/answers/questions/1845382/azure-openai-chatbot-server-responded-with-status?orderby=helpful

    Saluti,

    Nikola Kochmalarski

    1 persona ha trovato utile questa risposta.
    0 commenti Nessun commento

Risposta

Le risposte possono essere contrassegnate come risposte accettate dall'autore della domanda. Ciò consente agli utenti di sapere che la risposta ha risolto il problema dell'autore.