Domande frequenti sull'uso di Servizi di Azure AI per le startup.
Come iniziare
Qual è il modo migliore per iniziare a usare Servizio Azure OpenAI per la mia startup?
Vedere il corso Generative AI per principianti su GitHub. Si tratta di un set di istruzioni da 18 lezioni che introduce tutte le funzionalità principali Azure OpenAI e illustra come creare applicazioni con loro.
Come è possibile testare rapidamente le funzionalità di intelligenza artificiale Azure con un approccio basso/senza codice?
Usare Azure AI Foundry portal per testare un'ampia gamma di funzionalità di intelligenza artificiale, tra cui distribuire i modelli Azure OpenAI e applicare i servizi di moderazione dei contenuti.
Disponibilità a livello di area e residenza dei dati
In quali aree Azure è disponibile il servizio OpenAI?
Diversi Azure modelli OpenAI sono limitati a aree diverse. Consulta la tabella delle disponibilità dei modelli per un elenco completo.
In che modo la selezione dell'area influisce sulla latenza e sulle prestazioni dei servizi OpenAI Azure?
L'impatto è minimo, a meno che tu non stia utilizzando la funzione di streaming. La latenza della risposta del modello ha un effetto molto maggiore sulla latenza rispetto alle differenze di regione.
La scelta di usare un server OpenAI dedicato Azure rispetto al piano con pagamento in base al consumo ha anche un impatto maggiore su performance.
Limiti di velocità e gestione delle risorse
Come posso assicurarmi che la mia applicazione possa scalare la sua quota di Azure OpenAI?
Vedere Gestisci quota Servizio Azure OpenAI per comprendere il funzionamento dei limiti delle quote e come gestirli.
Quali sono i limiti di frequenza per Servizio Azure OpenAI e come posso gestirli?
Per i clienti che usano il modello con pagamento in base al consumo (più comune), vedere la pagina Manage Servizio Azure OpenAI quota. Per i clienti che usano un server OpenAI dedicato Azure, vedere la sezione quota della guida correlata.
Come si gestiscono le restrizioni dei token al minuto in Servizio Azure OpenAI?
Prendere in considerazione combinare più distribuzioni di Azure OpenAI in un'architettura avanzata per creare un sistema che offre più token al minuto a più utenti.
Quando è consigliabile usare un Azure server OpenAI (PTU) dedicato anziché il modello con pagamento in base al consumo?
È consigliabile passare dalla velocità effettiva con pagamento in base al consumo a quella con provisioning quando si dispone di requisiti di velocità effettiva ben definiti e prevedibili. In genere, questo è il caso in cui l'applicazione è pronta per la produzione o è già stata distribuita in produzione ed è presente una comprensione del traffico previsto. In questo modo gli utenti possono prevedere accuratamente la capacità necessaria ed evitare la fatturazione imprevista.
Bilanciamento del carico e scalabilità
Come si gestisce il traffico elevato e si garantisce che l'applicazione OpenAI Azure rimanga reattiva?
Creare un servizio di bilanciamento del carico per l'applicazione.
Vedere l'esempio di bilanciamento del carico se si usa il modello con pagamento in base al consumo. Se si usa un server OpenAI dedicato Azure, vedere la guida PTU per informazioni sul bilanciamento del carico.
Sviluppo e test
Come si configura un ambiente di sviluppo per testare Azure applicazioni OpenAI?
Creare una distribuzione online usando il flusso di richiesta nel portale Azure AI Foundry. Quindi, provalo inserendo i valori nell'editor di moduli o nell'editor JSON.
Monitoraggio e metriche
Come posso monitorare e valutare le metriche di utilizzo della mia applicazione di intelligenza artificiale?
Consulta la guida alle metriche di valutazione e monitoraggio per informazioni sul monitoraggio delle metriche di rischio e sicurezza, nonché su una serie di metriche di qualità della risposta.
Quali strumenti è possibile usare per monitorare le prestazioni degli endpoint OpenAI Azure?
Usare la funzionalità monitoraggio di Azure OpenAI Studio. Fornisce dashboard che tengono traccia delle metriche delle prestazioni dei modelli nel tempo.
Implementazione in ambiente di produzione e migliori pratiche
Quali sono alcune procedure consigliate per la distribuzione di applicazioni di IA di produzione in Azure?
Per le migliori pratiche per la distribuzione di un'applicazione di chat, vedere l'architettura di riferimento Baseline Microsoft Foundry.
È possibile fornire esempi o case study sulle implementazioni riuscite di Servizio Azure OpenAI?
Visita il forum della comunità tecnologica Intelligenza Artificiale e Apprendimento Automatico.
Contenuti correlati
Per altre informazioni, vedere Microsoft for Startups.