Vad är Azure OpenAI? (Förhandsversion)

Azure OpenAI-tjänsten ger REST API-åtkomst till OpenAI:s kraftfulla språkmodeller, inklusive modellserien GPT-3, Codex och Embeddings. Dessa modeller kan enkelt anpassas till din specifika uppgift, inklusive men inte begränsat till innehållsgenerering, sammanfattning, semantisk sökning och naturligt språk för kodöversättning. Användare kan komma åt tjänsten via REST-API:er, Python SDK eller vårt webbaserade gränssnitt i Azure OpenAI Studio.

Funktionsöversikt

Funktion Azure OpenAI
Tillgängliga modeller GPT-3-basserie
Codex-serien
Inbäddningsserier
Läs mer på sidan Modeller .
Finjusterande Ada
Babbage
Curie
Cushman*
Davinci*
* tillgänglig via begäran
Faktureringsmodell Kommer snart
Stöd för virtuellt nätverk Yes
Hanterad identitet Ja, via Azure Active Directory
Användargränssnittsupplevelse Azure-portalen för kontoresurshantering & ,
Azure OpenAI Service Studio för modellutforskning och finjustering
Regional tillgänglighet USA, södra centrala
Europa, västra
Innehållsfiltrering Frågor och slutföranden utvärderas mot vår innehållsprincip med automatiserade system. Innehåll med hög allvarlighetsgrad filtreras.

Ansvarsfull AI

På Microsoft är vi engagerade i utvecklingen av AI som drivs av principer som sätter människor i första ledet. Generativa modeller som de som är tillgängliga i Azure OpenAI-tjänsten har betydande potentiella fördelar, men utan noggrann design och genomtänkta åtgärder kan sådana modeller generera felaktigt eller till och med skadligt innehåll. Microsoft har gjort betydande investeringar för att skydda sig mot missbruk och oavsiktlig skada, vilket inkluderar krav på att sökande ska visa väldefinierade användningsfall, införliva Microsofts principer för ansvarsfull AI-användning, skapa innehållsfilter för att stödja kunder och tillhandahålla ansvarsfull AI-implementeringsvägledning till registrerade kunder.

Hur gör jag för att få åtkomst till Azure OpenAI?

Hur gör jag för att få åtkomst till Azure OpenAI-tjänsten?

Åtkomsten är för närvarande begränsad när vi navigerar i hög efterfrågan, kommande produktförbättringar och Microsofts engagemang för ansvarsfull AI. För tillfället arbetar vi med kunder med ett befintligt partnerskap med Microsoft, fall av lägre riskanvändning och de som har åtagit sig att införliva åtgärder. Förutom att ansöka om inledande åtkomst måste alla lösningar som använder Azure OpenAI-tjänsten gå igenom en användningsfallsgranskning innan de kan släppas för produktionsanvändning.

Mer specifik information ingår i ansökningsformuläret. Vi uppskattar ditt tålamod när vi arbetar för att på ett ansvarsfullt sätt möjliggöra bredare åtkomst till Azure OpenAI-tjänsten.

Använd här för inledande åtkomst eller för en produktionsgranskning:

Använd nu

Alla lösningar som använder Azure OpenAI-tjänsten måste också genomgå en granskning av användningsfall innan de kan släppas för produktionsanvändning och utvärderas från fall till fall. I allmänhet är det känsligare scenariot de viktigare riskreduceringsåtgärderna för godkännande.

Viktiga begrepp

Frågor om slutföranden &

Slutpunkten för slutföranden är kärnkomponenten i API-tjänsten. Det här API:et ger åtkomst till modellens text-in-, text-out-gränssnitt. Användarna behöver bara ange en indataprompt som innehåller det engelska textkommandot, och modellen genererar en textavslut.

Här är ett exempel på en enkel uppmaning och slutförande:

Fråga: """ count to 5 in a for loop """

Slutförande: for i in range(1, 6): print(i)

Token

OpenAI Enterprise bearbetar text genom att dela upp den i token. Token kan vara ord eller bara delar av tecken. Till exempel delas ordet "hamburgare" upp i tokens "skinka", "bur" och "ger", medan ett kort och vanligt ord som "päron" är en enda token. Många token börjar med ett tomt utrymme, till exempel "hello" och "bye".

Det totala antalet token som bearbetas i en viss begäran beror på längden på parametrarna för indata, utdata och begäran. Mängden token som bearbetas påverkar också svarstid och dataflöde för modellerna.

Resurser

Azure OpenAI-tjänsten är ett nytt produkterbjudande i Azure. Du kan komma igång med Azure OpenAI-tjänsten på samma sätt som andra Azure-produkter där du skapar en resurs eller instans av tjänsten i din Azure-prenumeration. Du kan läsa mer om Azures resurshanteringsdesign.

Distributioner

När du har skapat en Azure OpenAI-resurs måste du distribuera en modell innan du kan börja göra API-anrop och generera text. Den här åtgärden kan utföras med hjälp av API:er för distribution. Med dessa API:er kan du ange den modell som du vill använda.

Kontextinlärning

De modeller som används av Azure OpenAI-tjänsten använder instruktioner och exempel på naturligt språk som tillhandahålls under generationsanropet för att identifiera den uppgift som efterfrågas och vilken kompetens som krävs. När du använder den här metoden innehåller den första delen av prompten instruktioner för naturligt språk och/eller exempel på den specifika uppgift som önskas. Modellen slutför sedan uppgiften genom att förutsäga det mest sannolika nästa textstycket. Den här tekniken kallas för "kontextinlärning". Dessa modeller tränas inte om under det här steget, utan ger i stället förutsägelser baserat på den kontext som du inkluderar i prompten.

Det finns tre huvudsakliga metoder för kontextinlärning: Few-shot, one-shot och zero-shot. Dessa metoder varierar beroende på mängden uppgiftsspecifika data som ges till modellen:

Få bilder: I det här fallet innehåller en användare flera exempel i uppmaningen som visar det förväntade svarsformatet och innehållet. I följande exempel visas en fråga med några skott där vi tillhandahåller flera exempel:

    Convert the questions to a command:
    Q: Ask Constance if we need some bread
    A: send-msg `find constance` Do we need some bread?
    Q: Send a message to Greg to figure out if things are ready for Wednesday.
    A: send-msg `find greg` Is everything ready for Wednesday?
    Q: Ask Ilya if we're still having our meeting this evening
    A: send-msg `find ilya` Are we still having a meeting this evening?
    Q: Contact the ski store and figure out if I can get my skis fixed before I leave on Thursday
    A: send-msg `find ski store` Would it be possible to get my skis fixed before I leave on Thursday?
    Q: Thank Nicolas for lunch
    A: send-msg `find nicolas` Thank you for lunch!
    Q: Tell Constance that I won't be home before 19:30 tonight — unmovable meeting.
    A: send-msg `find constance` I won't be home before 19:30 tonight. I have a meeting I can't move.
    Q: Tell John that I need to book an appointment at 10:30
    A: 

Antalet exempel varierar vanligtvis från 0 till 100 beroende på hur många som får plats i den maximala indatalängden för en enda fråga. Maximal indatalängd kan variera beroende på vilka modeller du använder. Inlärning med få skott möjliggör en större minskning av mängden uppgiftsspecifika data som krävs för korrekta förutsägelser. Den här metoden fungerar vanligtvis mindre exakt än en finjusterad modell.

One-shot: Det här fallet är samma som metoden med få skott, förutom att endast ett exempel tillhandahålls.

Noll bild: I det här fallet tillhandahålls inga exempel till modellen och endast uppgiftsbegäran tillhandahålls.

Modeller

Tjänsten ger användarna åtkomst till flera olika modeller. Varje modell har olika funktioner och prispunkter. GPT-3-basmodellerna kallas Davinci, Curie, Babbage och Ada i fallande ordning efter kapacitet och hastighet.

Codex-serien med modeller är en underordnad GPT-3-serie och har tränats på både naturligt språk och kod för att driva naturligt språk att koda användningsfall. Läs mer om varje modell på vår modellkonceptsida.

Nästa steg

Läs mer om de underliggande modeller som driver Azure OpenAI.