Dela via

AI: Skapa en Azure OpenAI-resurs och distribuera en modell

För att komma igång med Azure OpenAI i dina program måste du skapa en Azure OpenAI-tjänst och distribuera en modell som kan användas för att utföra uppgifter som att konvertera naturligt språk till SQL, generera e-post/SMS-meddelandeinnehåll med mera.

I den här övningen kommer du att:

  • Skapa en Azure OpenAI Service-resurs.
  • Distribuera en modell.
  • Uppdatera .env-filen med värden från din Azure OpenAI-tjänstresurs.

Översikt över Microsoft Cloud-scenario

Skapa en Azure OpenAI-tjänstresurs

  1. Besök Azure Portal i webbläsaren och logga in.

  2. Ange openai i sökfältet överst på portalsidan och välj Azure OpenAI bland de alternativ som visas.

    Azure OpenAI-tjänsten i Azure-portalen

  3. Välj Skapa i verktygsfältet.

    Anmärkning

    Den här självstudien fokuserar på Azure OpenAI, men om du har en OpenAI API-nyckel och vill använda den kan du hoppa över det här avsnittet och gå direkt till avsnittet Uppdatera projektets .env-fil nedan. Tilldela din OpenAI API-nyckel till OPENAI_API_KEY i .env-filen (du kan ignorera andra .env instruktioner som rör OpenAI).

  4. Azure OpenAI-modeller är tillgängliga i specifika regioner. Gå till dokumentet om tillgänglighet för Azure OpenAI-modellen för att lära dig vilka regioner som stöder gpt-4o-modellen som används i den här självstudien.

  5. Utför följande uppgifter:

    • Välj din Azure-prenumeration.
    • Välj den resursgrupp som ska användas (skapa en ny om det behövs).
    • Välj en region där gpt-4o-modellen stöds baserat på det dokument som du tittade på tidigare.
    • Ange resursnamnet. Det måste vara ett unikt värde.
    • Välj prisnivån Standard S0 .

  6. Välj Nästa tills du kommer till skärmen Granska + skicka . Välj Skapa.

  7. När din Azure OpenAI-resurs har skapats navigerar du till den och väljer Resurshantering –>Nycklar och slutpunkt .

  8. Leta upp nyckel 1 - och slutpunktsvärdena . Du använder båda värdena i nästa avsnitt så kopiera dem till en lokal fil.

    OpenAI-nycklar och slutpunkt

  9. Välj Resurshantering –>Modelldistributioner.

  10. Välj knappen Hantera distributioner för att gå till Azure OpenAI Studio.

  11. Välj Distribuera modell –>Distribuera basmodell i verktygsfältet.

    Basmodell för Azure OpenAI Deploy

  12. Välj gpt-4o i listan med modeller och välj Bekräfta.

    Anmärkning

    Azure OpenAI stöder flera olika typer av modeller. Varje modell kan användas för att hantera olika scenarier.

  13. Följande dialogruta visas. Ta en stund att undersöka standardvärdena som tillhandahålls.

    Distribution av Azure OpenAI Create Model

  14. Ändra värdet för token per minuthastighetsgräns (tusentals) till 100 000. På så sätt kan du göra fler begäranden till modellen och undvika att nå hastighetsgränsen när du utför de steg som följer.

  15. Välj Distribuera.

  16. När modellen har distribuerats väljer du Playgrounds -->Chat.

  17. Listrutan Distribution bör visa gpt-4o-modellen .

    Azure OpenAI Chat Playground

  18. Ta en stund att läsa igenom systemmeddelandetexten som tillhandahålls. Detta talar om för modellen hur den ska fungera när användaren interagerar med den.

  19. Leta upp textrutan i chattområdet och ange Sammanfatta vad Generativ AI är och hur den kan användas. Välj Retur för att skicka meddelandet till modellen och få det att generera ett svar.

  20. Experimentera med andra frågor och svar. Ange till exempel Ange en kort historik om frankrikes huvudstad och lägg märke till svaret som genereras.

Uppdatera projektets .env fil

  1. Gå tillbaka till Visual Studio Code och öppna .env filen i projektets rot.

  2. Kopiera värdet KEY 1 från Azure OpenAI-resursen och tilldela det till OPENAI_API_KEY i .env-filen som finns i roten i mappen openai-acs-msgraph :

    OPENAI_API_KEY=<KEY_1_VALUE>

  3. Kopiera värdet *Endpoint och tilldela det till OPENAI_ENDPOINT i .env-filen . / Ta bort tecknet från slutet av värdet om det finns.

    OPENAI_ENDPOINT=<ENDPOINT_VALUE>

    Anmärkning

    Du ser dessa värden för OPENAI_MODEL och har redan angetts i OPENAI_API_VERSION. Modellvärdet är inställt på gpt-4o som matchar modelldistributionsnamnet som du skapade tidigare i den här övningen. API-versionen är inställd på ett värde som stöds och definieras i Azure OpenAI-referensdokumentationen.

  4. Spara .env-filen .

Starta Application Services

Det är dags att starta dina programtjänster, inklusive databasen, API-servern och webbservern.

  1. I följande steg skapar du tre terminalfönster i Visual Studio Code.

    Tre terminalfönster i Visual Studio Code

  2. Högerklicka på .env-filen i Visual Studio Code-fillistan och välj Öppna i integrerad terminal. Kontrollera att terminalen finns i roten av projektet – openai-acs-msgraph – innan du fortsätter.

  3. Välj något av följande alternativ för att starta PostgreSQL-databasen:

    • Om du har Docker Desktop installerat och körs kör du docker-compose up i terminalfönstret och trycker på Retur.

    • Om du har Podman med podman-compose installerat och körs kör podman-compose up du i terminalfönstret och trycker på Retur.

    • Kör följande kommando i terminalfönstret om du vill köra PostgreSQL-containern direkt med antingen Docker Desktop, Podman, nerdctl eller någon annan containerkörning som du har installerat:

      • Mac, Linux eller Windows-undersystem för Linux (WSL):

        [docker | podman | nerdctl] run --name postgresDb -e POSTGRES_USER=web -e POSTGRES_PASSWORD=web-password -e POSTGRES_DB=CustomersDB -v $(pwd)/data:/var/lib/postgresql/data -p 5432:5432 postgres

      • Windows med PowerShell:

        [docker | podman] run --name postgresDb -e POSTGRES_USER=web -e POSTGRES_PASSWORD=web-password -e POSTGRES_DB=CustomersDB -v ${PWD}/data:/var/lib/postgresql/data -p 5432:5432 postgres

  4. När databascontainern startar trycker du på + ikonen i verktygsfältet i Visual Studio Code-terminalen för att skapa ett andra terminalfönster.

    Visual Studio Code + ikon i terminalverktygsfältet.

  5. cd i mappen server/typescript och kör följande kommandon för att installera beroendena och starta API-servern.

    • npm install
    • npm start

  6. Tryck på + ikonen igen i verktygsfältet i Visual Studio Code-terminalen för att skapa ett tredje terminalfönster.

  7. cdi klientmappen och kör följande kommandon för att installera beroendena och starta webbservern.

    • npm install
    • npm start

  8. En webbläsare startas och du tas till http://localhost:4200.

    Programskärmskärm med Azure OpenAI aktiverat

Nästa steg

AI: Naturligt språk till SQL