Lezen in het Engels Bewerken

Delen via


Veelgestelde vragen over AI voor startups

Veelgestelde vragen over het gebruik van Azure AI-services voor start-ups.

Aan de slag

Wat is de beste manier om aan de slag te gaan met azure OpenAI Service voor mijn opstartproces?

Bekijk de Generatieve AI voor beginnerscursus op GitHub. Het is een instructieset van 18 lessen die alle belangrijkste Azure OpenAI-functies introduceert en laat zien hoe u hiermee toepassingen bouwt.

Hoe kan ik azure AI-mogelijkheden snel testen met een benadering met weinig/geen code?

Gebruik Azure AI Studio om verschillende AI-mogelijkheden te testen, waaronder het implementeren van Azure OpenAI-modellen en het toepassen van con tentmodus rationservices.

Regionale beschikbaarheid en gegevenslocatie

In welke Azure-regio's is de OpenAI-service beschikbaar?

Verschillende Azure OpenAI-modellen zijn beperkt tot verschillende regio's. Zie de beschikbaarheidstabel van het model voor een volledige lijst.

Hoe heeft regioselectie invloed op de latentie en prestaties van Azure OpenAI-services?

De impact is minimaal, tenzij u de streamingfunctie gebruikt. De latentie van het eigen antwoord van het model heeft een veel groter effect op latentie dan regioverschillen.

De keuze voor het gebruik van een toegewezen Azure OpenAI-server versus een betalen per gebruik-abonnement heeft ook een grotere invloed op de prestaties.

Frequentielimieten en resourcebeheer

Hoe kan ik ervoor zorgen dat mijn toepassing het Azure OpenAI-quotum kan schalen?

Zie Quotum voor Azure OpenAI-service beheren om te begrijpen hoe quotumlimieten werken en hoe u deze beheert.

Wat zijn de frequentielimieten voor De Azure OpenAI-service en hoe kan ik deze beheren?

Zie de pagina Azure OpenAI Service-quotum beheren voor klanten die gebruikmaken van het model voor betalen per gebruik (meest voorkomend). Zie de sectie quotum van de gerelateerde handleiding voor klanten die een toegewezen Azure OpenAI-server gebruiken.

Hoe kan ik tokenbeperkingen per minuut verwerken in De Azure OpenAI-service?

Overweeg om meerdere Azure OpenAI-implementaties in een geavanceerde architectuur te combineren om een systeem te bouwen dat meer tokens per minuut levert aan meer gebruikers.

Wanneer moet ik een toegewezen Azure OpenAI-server (PTU) gebruiken in plaats van het model betalen per gebruik?

Overweeg om over te schakelen van betalen per gebruik naar ingerichte doorvoer wanneer u goed gedefinieerde, voorspelbare doorvoervereisten hebt. Dit is meestal het geval wanneer de toepassing gereed is voor productie of al in productie is geïmplementeerd en er inzicht is in het verwachte verkeer. Hierdoor kunnen gebruikers de vereiste capaciteit nauwkeurig voorspellen en onverwachte facturering voorkomen.

Taakverdeling en schalen

Hoe kan ik veel verkeer beheren en ervoor zorgen dat mijn Azure OpenAI-toepassing responsief blijft?

Maak een load balancer voor uw toepassing.

Zie het voorbeeld van taakverdeling als u het model betalen per gebruik gebruikt. Als u een toegewezen Azure OpenAI-server gebruikt, raadpleegt u de PTU-handleiding voor informatie over taakverdeling.

Ontwikkelen en testen

Hoe kan ik een ontwikkelomgeving instellen om Azure OpenAI-toepassingen te testen?

Maak een onlineimplementatie met behulp van een promptstroom in Azure AI Studio. Test het vervolgens door waarden in te voeren in de formuliereditor of JSON-editor.

Bewaking en metrische gegevens

Hoe kan ik metrische gegevens over gebruik van mijn AI-toepassing bijhouden en evalueren?

Zie de handleiding met metrische gegevens voor evaluatie en bewaking voor informatie over het bijhouden van metrische gegevens over risico's en veiligheid, evenals een aantal metrische gegevens over de responskwaliteit.

Welke hulpprogramma's kan ik gebruiken om de prestaties van mijn Azure OpenAI-eindpunten te bewaken?

Gebruik de bewakingsfunctie van Azure OpenAI Studio. Het biedt dashboards waarmee de metrische prestatiegegevens van uw modellen in de loop van de tijd worden bijgehouden.

Implementatie en best practices voor productie

Wat zijn enkele aanbevolen procedures voor het implementeren van OpenAI-toepassingen in Azure in productie?

Zie de referentiearchitectuur voor Azure OpenAI-chats voor aanbevolen procedures voor het implementeren van een standaardchattoepassing.

Kunt u voorbeelden of casestudy's geven van geslaagde implementaties van Azure OpenAI Service?

Zie Microsoft voor Startups voor meer informatie.