Självstudie: Distribuera en Företagschatt-webbapp

Viktigt!

Vissa av de funktioner som beskrivs i den här artikeln kanske bara är tillgängliga i förhandsversionen. Den här förhandsversionen tillhandahålls utan ett serviceavtal och vi rekommenderar det inte för produktionsarbetsbelastningar. Vissa funktioner kanske inte stöds eller kan vara begränsade. Mer information finns i Kompletterande villkor för användning av Microsoft Azure-förhandsversioner.

I den här artikeln distribuerar du en företagschattwebbapp som använder dina egna data med en stor språkmodell i AI Studio.

Din datakälla används för att hjälpa till att förankra modellen med specifika data. Jordning innebär att modellen använder dina data för att hjälpa den att förstå kontexten för din fråga. Du ändrar inte själva den distribuerade modellen. Dina data lagras separat och säkert i din ursprungliga datakälla

Stegen i den här självstudien är:

1. Distribuera och testa en chattmodell utan dina data
2. Lägga till dina data
3. Testa modellen med dina data
4. Distribuera din webbapp

Förutsättningar

• En Azure-prenumeration – Skapa en kostnadsfritt.

• Åtkomst beviljad till Azure OpenAI i den önskade Azure-prenumerationen.

  För närvarande måste man ansöka om att få åtkomst till den här tjänsten. Du kan ansöka om åtkomst till Azure OpenAI genom att fylla i formuläret på https://aka.ms/oai/access. Öppna ett problem på den här lagringsplatsen för att kontakta oss om du har ett problem.

• En AI Studio-hubb, ett projekt och en distribuerad Azure OpenAI-chattmodell . Slutför snabbstarten för AI Studio Playground för att skapa dessa resurser om du inte redan har gjort det.

• En Azure AI-tjänsten Search anslutning för att indexering av exempelprodukt- och kunddata.

• Du behöver minst en fil för att ladda upp som innehåller exempeldata. För att slutföra den här självstudien använder du produktinformationsexempel från lagringsplatsen Azure-Samples/aistudio-python-quickstart-sample på GitHub. Mer specifikt innehåller product_info_11.md produktinformation om TrailWalker-vandringsskorna som är relevanta för det här självstudieexemplet. Du kan ladda ned filen eller kopiera dess innehåll till en fil med namnet product_info_11.md på den lokala datorn.

Lägg till dina data och försök chattmodellen igen

I snabbstarten för AI Studio Playground (det är en förutsättning för den här självstudien) kan du se hur din modell svarar utan dina data. Nu lägger du till dina data i modellen för att hjälpa den att besvara frågor om dina produkter.

För att slutföra det här avsnittet behöver du en lokal kopia av produktdata. Lagringsplatsen Azure-Samples/aistudio-python-quickstart-sample på GitHub innehåller exempel på detaljhandelskund- och produktinformation som är relevant för det här självstudiescenariot. Klona lagringsplatsen eller kopiera filerna från 3-product-info.

Viktigt!

Funktionen Lägg till data i Azure AI Studio Playground stöder inte användning av ett virtuellt nätverk eller en privat slutpunkt på följande resurser:

• Azure AI-sökning
• Azure OpenAI
• Lagringsresurs

Följ dessa steg för att lägga till dina data i chattlekplatsen för att hjälpa assistenten att svara på frågor om dina produkter. Du ändrar inte själva den distribuerade modellen. Dina data lagras separat och säkert i din Azure-prenumeration.

1. Gå till ditt projekt i Azure AI Studio.

2. Välj Playgrounds>Chat i den vänstra rutan.

3. Välj din distribuerade chattmodell i listrutan Distribution .

   

4. Till vänster i chattlekplatsen väljer du Lägg till dina data>+ Lägg till en ny datakälla.

   

5. I listrutan Datakälla väljer du Ladda upp filer.

   

6. Välj Ladda upp>uppladdningsfiler för att bläddra bland dina lokala filer.

7. Välj de filer som du vill ladda upp. Välj de produktinformationsfiler (3-produktinformation) som du laddade ned eller skapade tidigare. Lägg till alla filer nu. Du kommer inte att kunna lägga till fler filer senare i samma lekplatssession.

8. Välj Ladda upp för att ladda upp filen till ditt Azure Blob Storage-konto. Välj sedan Nästa.

   

9. Välj en Azure AI-tjänsten Search. I det här exemplet väljer vi Anslut annan Azure AI Search-resurs i listrutan Välj Azure AI tjänsten Search. Om du inte har någon sökresurs kan du skapa en genom att välja Skapa en ny Azure AI Search-resurs. Gå sedan tillbaka till det här steget för att ansluta och välja det.

   

10. Bläddra efter din Azure AI-tjänsten Search och välj Lägg till anslutning.

    

11. Som indexnamn anger du produktinformation och väljer Nästa.

12. På sidan Sökinställningar under Vektorinställningar avmarkerar du kryssrutan Lägg till vektorsökning i den här sökresursen. Den här inställningen hjälper dig att avgöra hur modellen svarar på begäranden. Välj sedan Nästa.

    Kommentar

    Om du lägger till vektorsökning skulle fler alternativ vara tillgängliga här mot en extra kostnad.

13. Granska inställningarna och välj Skapa.

14. På lekplatsen kan du se att datainmatningen pågår. Processen kan ta flera minuter. Vänta tills du ser datakällan och indexnamnet i stället för statusen innan du fortsätter.

    

15. Ange ett namn för playground-konfigurationen och välj Spara>spara konfiguration. Alla konfigurationsobjekt sparas som standard. Objekten omfattar distribution, systemmeddelande, säkerhetsmeddelande, parametrar, tillagda data, exempel och variabler. Om du sparar en konfiguration med samma namn sparas den tidigare versionen.

    

16. Nu kan du chatta med modellen och ställa samma fråga som tidigare ("Hur mycket är TrailWalker-vandringsskorna") och den här gången använder den information från dina data för att konstruera svaret. Du kan expandera referensknappen för att se de data som användes.

Distribuera din webbapp

När du är nöjd med upplevelsen i Azure AI Studio kan du distribuera modellen som ett fristående webbprogram.

Hitta din resursgrupp i Azure-portalen

I den här självstudien distribueras webbappen till samma resursgrupp som din AI Studio-hubb. Senare konfigurerar du autentisering för webbappen i Azure-portalen.

Följ dessa steg för att navigera från Azure AI Studio till din resursgrupp i Azure-portalen:

1. Gå till ditt projekt i Azure AI Studio. Välj sedan Inställningar i det vänstra fönstret.

2. Välj resursgruppens namn för att öppna resursgruppen i Azure-portalen. I det här exemplet heter rg-contosoresursgruppen .

   

3. Du bör nu vara i Azure-portalen och visa innehållet i resursgruppen där du distribuerade hubben. Håll den här sidan öppen på en webbläsarflik – du återgår till den senare.

Distribuera webbappen

Publicering skapar en Azure App Service i din prenumeration. Det kan medföra kostnader beroende på vilken prisplan du väljer. När du är klar med din app kan du ta bort den från Azure-portalen.

Så här distribuerar du webbappen:

1. Slutför stegen i föregående avsnitt för att lägga till dina data på lekplatsen.

   Kommentar

   Du kan distribuera en webbapp med eller utan egna data, men du behöver åtminstone en distribuerad modell enligt beskrivningen i snabbstarten för AI Studio Playground.

2. Välj Distribuera till en webbapp.

   

3. På sidan Distribuera till en webbapp anger du följande information:

   • Namn: Ett unikt namn för webbappen.
   • Prenumeration: Din Azure-prenumeration.
   • Resursgrupp: Välj en resursgrupp där webbappen ska distribueras. Du kan använda samma resursgrupp som hubben.
   • Plats: Välj en plats där webbappen ska distribueras. Du kan använda samma plats som hubben.
   • Prisplan: Välj en prisplan för webbappen.
   • Aktivera chatthistorik i webbappen: För självstudien är inte rutan för chatthistorik markerad. Om du aktiverar funktionen får användarna åtkomst till sina enskilda tidigare frågor och svar. Mer information finns i kommentarer om chatthistorik.

4. Välj distribuera.

5. Vänta tills appen har distribuerats, vilket kan ta några minuter.

   

6. När den är klar aktiveras knappen Starta i verktygsfältet. Men starta inte appen än och stäng inte chattlekplatssidan – du återgår till den senare.

Konfigurera webbappautentisering

Som standard är webbappen endast tillgänglig för dig. I den här självstudien lägger du till autentisering för att begränsa åtkomsten till appen till medlemmar i din Azure-klientorganisation. Användarna uppmanas att logga in med sitt Microsoft Entra-konto för att kunna komma åt din app. Du kan följa en liknande process för att lägga till en annan identitetsprovider om du vill. Appen använder inte användarens inloggningsinformation på något annat sätt än att verifiera att de är medlemmar i din klientorganisation.

1. Gå tillbaka till webbläsarfliken som innehåller Azure-portalen (eller öppna Azure-portalen igen på en ny webbläsarflik) och visa innehållet i resursgruppen där du distribuerade hubben och webbappen (du kan behöva uppdatera vyn för att se webbappen).

2. Välj App Service-resursen i listan över resurser i resursgruppen.

3. På den komprimerade vänstra menyn under Inställningar väljer du Autentisering.

   

4. Lägg till en identitetsprovider med följande inställningar:

   • Identitetsprovider: Välj Microsoft som identitetsprovider. Standardinställningarna på den här sidan begränsar appen endast till din klientorganisation, så du behöver inte ändra något annat här.
   • Klientorganisationstyp: Personal
   • Appregistrering: Skapa en ny appregistrering
   • Namn: Namnet på webbapptjänsten
   • Kontotyper som stöds: Aktuell klientorganisation – enskild klientorganisation
   • Begränsa åtkomst: Kräver autentisering
   • Oautentiserade begäranden: HTTP 302 Hittades omdirigering – rekommenderas för webbplatser

Använd webbappen

Nästan klar! Nu kan du testa webbappen.

1. Vänta i 10 minuter eller så tills autentiseringsinställningarna börjar gälla.

2. Gå tillbaka till webbläsarfliken som innehåller sidan för chattlekplats i Azure AI Studio.

3. Välj Starta för att starta den distribuerade webbappen. Om du uppmanas att göra det godkänner du behörighetsbegäran.

   Om autentiseringsinställningarna ännu inte har börjat gälla stänger du webbläsarfliken för webbappen och återgår till chattlekplatsen i Azure AI Studio. Vänta sedan lite längre och försök igen.

4. I din webbapp kan du ställa samma fråga som tidigare ("Hur mycket är TrailWalker-vandringsskorna") och den här gången använder den information från dina data för att konstruera svaret. Du kan expandera referensknappen för att se de data som användes.

   

Rensa resurser

För att undvika onödiga Azure-kostnader bör du ta bort de resurser som du skapade i den här snabbstarten om de inte längre behövs. Om du vill hantera resurser kan du använda Azure-portalen.

Kommentarer

Chatthistorik

Med funktionen chatthistorik har användarna åtkomst till sina enskilda tidigare frågor och svar.

Du kan aktivera chatthistorik när du distribuerar webbappen. Markera kryssrutan Aktivera chatthistorik i webbappen .

Viktigt!

Om du aktiverar chatthistorik skapas en Cosmos DB-instans i resursgruppen och extra avgifter debiteras för det lagringsutrymme som används. Om du tar bort webbappen tas inte Cosmos DB-instansen bort automatiskt. Om du vill ta bort din Cosmos DB-instans, tillsammans med alla lagrade chattar, måste du navigera till den associerade resursen i Azure-portalen och ta bort den.

När du har aktiverat chatthistorik kan användarna visa och dölja den i appens övre högra hörn. När historiken visas kan de byta namn på eller ta bort konversationer. När de loggas in i appen sorteras konversationer automatiskt från den senaste till den äldsta och namnges baserat på den första frågan i konversationen.

Om du tar bort Cosmos DB-resursen men har alternativet chatthistorik aktiverat i studion meddelas användarna om ett anslutningsfel, men kan fortsätta att använda webbappen utan åtkomst till chatthistoriken.

Nästa steg

• Skapa ett projekt i Azure AI Studio.
• Läs mer om vad du kan göra i Azure AI Studio.