Läs på engelska Redigera

Dela via


Vanliga frågor och svar om AI för nystartade företag

Vanliga frågor och svar om hur du använder Azure AI-tjänster för nystartade företag.

Komma igång

Vilket är det bästa sättet att komma igång med Azure OpenAI Service för min start?

Kolla in generativ AI för nybörjare på GitHub. Det är en instruktionsuppsättning på 18 lektioner som introducerar alla de viktigaste Azure OpenAI-funktionerna och visar hur du skapar program med dem.

Hur kan jag testa Azure AI-funktioner snabbt med en metod med låg/ingen kod?

Använd Azure AI Studio för att testa en mängd olika AI-funktioner, inklusive distribution av Azure OpenAI-modeller och tillämpning av con tältläge rationstjänster.

Regional tillgänglighet och datahemvist

I vilka Azure-regioner är OpenAI-tjänsten tillgänglig?

Olika Azure OpenAI-modeller är begränsade till olika regioner. En fullständig lista finns i tabellen för modelltillgänglighet .

Hur påverkar valet av region svarstid och prestanda för Azure OpenAI-tjänster?

Effekten är minimal, såvida du inte använder strömningsfunktionen. Svarstiden för modellens eget svar har en mycket större effekt på svarstiden än regionskillnader.

Valet att använda en dedikerad Azure OpenAI-server jämfört med betala per användning-plan har också en större inverkan på prestanda.

Hastighetsbegränsningar och resurshantering

Hur kan jag se till att mitt program kan skala sin Azure OpenAI-kvot?

Se Hantera Azure OpenAI-tjänstkvot för att förstå hur kvotgränser fungerar och hur du hanterar dem.

Vilka är hastighetsgränserna för Azure OpenAI Service och hur kan jag hantera dem?

För kunder som använder modellen betala per användning (vanligast) kan du läsa sidan Hantera Azure OpenAI-tjänstkvot . För kunder som använder en dedikerad Azure OpenAI-server kan du läsa avsnittet om kvoter i den relaterade guiden.

Hur gör jag för att hantera begränsningar för token per minut i Azure OpenAI Service?

Överväg att kombinera flera Azure OpenAI-distributioner i en avancerad arkitektur för att skapa ett system som levererar fler token per minut till fler användare.

När ska jag använda en dedikerad Azure OpenAI-server (PTU) i stället för modellen betala per användning?

Du bör överväga att byta från betala per användning till etablerat dataflöde när du har väldefinierade, förutsägbara dataflödeskrav. Detta är vanligtvis fallet när programmet är redo för produktion eller redan har distribuerats i produktion och det finns en förståelse för den förväntade trafiken. Detta gör det möjligt för användare att korrekt prognostisera den kapacitet som krävs och undvika oväntad fakturering.

Belastningsutjämning och skalning

Hur gör jag för att hantera hög trafik och se till att mitt Azure OpenAI-program förblir responsivt?

Skapa en lastbalanserare för ditt program.

Se exemplet för belastningsutjämning om du använder modellen betala per användning. Om du använder en dedikerad Azure OpenAI-server kan du läsa PTU-guiden för information om belastningsutjämning.

Utveckling och testning

Hur gör jag för att konfigurera en utvecklingsmiljö för att testa Azure OpenAI-program?

Skapa en onlinedistribution med hjälp av promptflöde i Azure AI Studio. Testa sedan genom att ange värden i formulärredigeraren eller JSON-redigeraren.

Övervakning och mått

Hur kan jag spåra och utvärdera användningsstatistik för mitt AI-program?

I guiden Utvärderings- och övervakningsmått finns information om hur du spårar risk- och säkerhetsmått samt ett antal mått för svarskvalitet.

Vilka verktyg kan jag använda för att övervaka prestanda för mina Azure OpenAI-slutpunkter?

Använd övervakningsfunktionen i Azure OpenAI Studio. Den innehåller en instrumentpanel som spårar prestandamåtten för dina modeller över tid.

Produktionsimplementering och metodtips

Vilka är några metodtips för att distribuera OpenAI-program i Azure till produktion?

Se referensarkitekturen för Azure OpenAI-chatt för bästa praxis för att distribuera ett standardchattprogram.

Kan du ge exempel eller fallstudier av lyckade implementeringar av Azure OpenAI Service?

Mer information finns i Microsoft för nystartade företag.