Kurz: Nasazení webové aplikace pro chat na data

Poznámka:

Azure AI Studio je aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.

V tomto článku nasadíte chatovací webovou aplikaci, která používá vlastní data s modelem služby Azure OpenAI.

Místní datové soubory nahrajete do služby Azure Blob Storage a vytvoříte index služby Azure AI Search. Zdroj dat se používá k tomu, aby pomohl stabilizovat model s konkrétními daty. Základ znamená, že model používá vaše data, aby mu pomohl pochopit kontext vaší otázky. Neměníte samotný nasazený model. Vaše data se ukládají samostatně a bezpečně ve vašem předplatném Azure. Další informace najdete v tématu Azure OpenAI o vašich datech.

Postup v tomto kurzu:

1. Nasazení a otestování chatovacího modelu bez dat
2. Přidání dat
3. Otestování modelu s daty
4. Nasazení webové aplikace

Požadavky

• Předplatné Azure – Vytvořte si ho zdarma.

• Přístup k Azure OpenAI je udělován v požadovaném předplatném Azure.

  V současné době je přístup k této službě udělován pouze aplikací. Pokud chcete získat přístup k Azure OpenAI, vyplňte formulář na adrese https://aka.ms/oai/access. Pokud máte problém, otevřete problém v tomto úložišti a kontaktujte nás.

• Prostředek a projekt centra Azure AI v Azure AI Studiu

• K nahrání, který obsahuje ukázková data, potřebujete aspoň jeden soubor. K dokončení tohoto kurzu použijte ukázky informací o produktech z úložiště Azure/aistudio-copilot-sample na GitHubu. Konkrétně product_info_11.md obsahuje informace o produktu TrailWalker turistické boty, které jsou relevantní pro tento příklad kurzu. Soubor si můžete stáhnout nebo zkopírovat jeho obsah do souboru s názvem product_info_11.md na místním počítači.

Nasazení a otestování chatovacího modelu bez dat

Pomocí těchto kroků nasaďte model chatu a otestujte ho bez vašich dat.

1. Přihlaste se k Azure AI Studiu.

2. Přejděte do projektu nebo vytvořte nový projekt v Azure AI Studiu.

3. V horní nabídce vyberte Sestavit a pak vyberte Nasazení>vytvořit>koncový bod v reálném čase.

   

4. Na stránce Vybrat model vyberte model, který chcete nasadit, z rozevíracího seznamu Model. Vyberte například gpt-35-turbo-16k. Pak vyberte Potvrdit.

   

5. Na stránce Nasadit model zadejte název nasazení a pak vyberte Nasadit. Po vytvoření nasazení se zobrazí stránka s podrobnostmi o nasazení. Podrobnosti zahrnují datum vytvoření nasazení a datum vytvoření a verzi modelu, který jste nasadili.

6. Na stránce s podrobnostmi o nasazení z předchozího kroku vyberte Otevřít v dětském hřišti.

   

7. V dětském hřišti se ujistěte, že je v rozevíracím seznamu Režim vybraný chat. V rozevíracím seznamu Nasazení vyberte nasazený chatovací model GPT.

   

8. V textovém poli Systémová zpráva v podokně nastavení Pomocníka zadejte tuto výzvu, která provede asistenta: "Jste asistent AI, který pomáhá lidem najít informace.". Můžete přizpůsobit výzvu pro svůj scénář.

9. Pokud chcete změny uložit, vyberte Použít změny a po zobrazení výzvy k zobrazení, jestli chcete aktualizovat systémovou zprávu, vyberte Pokračovat.

10. V podokně relace chatu zadejte následující otázku: "Kolik jsou turistické boty TrailWalker", a pak vyberte ikonu šipky doprava, kterou chcete odeslat.

    

11. Asistent odpoví, že odpověď nezná. Je to proto, že model nemá přístup k informacím o produktech o turistických botách TrailWalker.

    

V další části přidáte data do modelu, aby vám pomohla zodpovědět otázky týkající se vašich produktů.

Přidání dat

Tímto postupem přidáte data do dětského hřiště a pomůžete asistentovi zodpovědět otázky týkající se vašich produktů. Neměníte samotný nasazený model. Vaše data se ukládají samostatně a bezpečně ve vašem předplatném Azure.

Důležité

Funkce Přidat data v dětském prostředí Azure AI Studio nepodporuje použití virtuální sítě nebo privátního koncového bodu v následujících prostředcích:

• Azure AI Vyhledávač
• Azure OpenAI
• Prostředek úložiště

1. Pokud ještě nejste v dětském hřišti, v horní nabídce vyberte Build (Sestavit ) a pak vyberte Playground (Dětské hřiště ) z sbalitelné levé nabídky.

2. V podokně nastavení Pomocníka vyberte Přidat data (Preview)>+ Přidat zdroj dat.

   

3. Na stránce Vybrat nebo přidat zdroj dat, která se zobrazí, vyberte v rozevíracím seznamu Vybrat zdroj dat možnost Nahrát soubory.

   

   Tip

   Informace o možnostech zdroje dat a podporovaných typech a formátech souborů najdete v tématu Azure OpenAI na vašich datech.

4. Zadejte podrobnosti o zdroji dat:

   

   Poznámka:

   Azure OpenAI potřebuje prostředek úložiště i vyhledávací prostředek pro přístup k datům a jeho indexování. Vaše data se bezpečně ukládají ve vašem předplatném Azure.

   • Předplatné: Vyberte předplatné Azure, které obsahuje prostředek Azure OpenAI, který chcete použít.
   • Prostředek úložiště: Vyberte prostředek úložiště objektů blob v Azure, do kterého chcete nahrát soubory.
   • Zdroj dat: Vyberte existující index Azure AI Search, kontejner Azure Storage nebo nahrajte místní soubory jako zdroj, ze kterých vytvoříme základní data. Vaše data se bezpečně ukládají ve vašem předplatném Azure.
   • Název indexu: Vyberte prostředek služby Azure AI Search, ve kterém se vytvoří index použitý k uzemnění. Po dokončení příjmu dat se vygeneruje nový index vyhledávání se zadaným názvem.

5. Vyberte prostředek Azure AI Search a vyberte potvrzení, že připojení k němu na vašem účtu způsobuje využití. Pak vyberte Další.

6. V podokně Nahrát soubory vyberte Vyhledat soubor a vyberte soubory, které chcete nahrát. product_info_11.md Vyberte soubor, který jste stáhli nebo vytvořili dříve. Podívejte se na požadavky. Pokud chcete nahrát více než jeden soubor, udělejte to teď. Později ve stejné relaci dětského hřiště nebudete moct přidat další soubory.

7. Výběrem možnosti Nahrát soubor nahrajte do účtu služby Azure Blob Storage. Pak vyberte Další.

   

8. V podokně Správa dat v části Typ hledání vyberte Klíčové slovo. Toto nastavení pomáhá určit, jak model reaguje na požadavky. Pak vyberte Další.

   Poznámka:

   Pokud jste přidali vektorové vyhledávání na stránce Vybrat nebo přidat zdroj dat, budou zde k dispozici další možnosti pro další náklady. Další informace najdete v tématu Azure OpenAI o vašich datech.

9. Zkontrolujte zadané podrobnosti a vyberte Uložit a zavřít. Teď můžete chatovat s modelem a k vytvoření odpovědi používá informace z vašich dat.

   

10. Teď v podokně nastavení Pomocníka uvidíte, že probíhá příjem dat. Než budete pokračovat, počkejte, až se místo stavu zobrazí název zdroje dat a indexu.

    

11. Teď můžete chatovat s modelem, který klade stejnou otázku jako předtím ("How much are the TrailWalker hiking shoes"), a tentokrát používá informace z vašich dat k vytvoření odpovědi. Tlačítko odkazy můžete rozbalit a zobrazit použitá data.

    

Nasazení webové aplikace

Jakmile budete s prostředím azure AI Studio spokojeni, můžete model nasadit jako samostatnou webovou aplikaci.

Vyhledání skupiny prostředků na webu Azure Portal

V tomto kurzu se vaše webová aplikace nasadí do stejné skupiny prostředků jako prostředek centra Azure AI. Později nakonfigurujete ověřování pro webovou aplikaci na webu Azure Portal.

Pomocí následujícího postupu přejděte z Azure AI Studia do vaší skupiny prostředků na webu Azure Portal:

1. V Nástroji Azure AI Studio v horní nabídce vyberte Spravovat a pak vyberte Podrobnosti. Pokud máte více prostředků centra Azure AI, vyberte ten, který chcete použít, abyste viděli jeho podrobnosti.

2. V podokně Konfigurace prostředků vyberte název skupiny prostředků, aby se skupina prostředků otevřela na webu Azure Portal. V tomto příkladu má skupina prostředků název rg-docsazureairesource.

   

3. Teď byste měli být na webu Azure Portal a prohlížet si obsah skupiny prostředků, do které jste nasadili prostředek centra Azure AI.

   

   Nechte tuto stránku otevřenou na kartě prohlížeče – vrátíte se k ní později.

Nasazení webové aplikace

Publikování vytvoří ve vašem předplatném službu Aplikace Azure. V závislosti na vybraném cenovém plánu můžou nastat náklady. Až budete s aplikací hotovi, můžete ji odstranit z webu Azure Portal.

Nasazení webové aplikace:

1. Dokončete kroky v předchozí části a přidejte data do dětského hřiště.

   Poznámka:

   Webovou aplikaci můžete nasadit s vlastními daty nebo bez vás, ale alespoň potřebujete nasazený model, jak je popsáno v tématu nasazení a otestování modelu chatu bez vašich dat.

2. Vyberte Nasadit>novou webovou aplikaci.

   

3. Na stránce Nasadit na webovou aplikaci zadejte následující podrobnosti:

   • Název: Jedinečný název vaší webové aplikace.
   • Předplatné: Vaše předplatné Azure.
   • Skupina prostředků: Vyberte skupinu prostředků, do které chcete webovou aplikaci nasadit. Můžete použít stejnou skupinu prostředků jako prostředek centra Azure AI.
   • Umístění: Vyberte umístění, ve kterém chcete webovou aplikaci nasadit. Můžete použít stejné umístění jako prostředek centra Azure AI.
   • Cenový plán: Zvolte cenový plán pro webovou aplikaci.
   • Povolit historii chatu ve webové aplikaci: Pro kurz není vybrané pole historie chatu. Pokud tuto funkci povolíte, budou mít uživatelé přístup k jednotlivým předchozím dotazům a odpovědím. Další informace najdete v poznámkách historie chatu.
   • Uznávám, že webové aplikace budou pro můj účet používat: Vybráno

4. Počkejte, než se aplikace nasadí, což může trvat několik minut.

   

5. Až bude připraveno, na panelu nástrojů se povolí tlačítko Spustit . Ale aplikaci ještě nespustíte a nezavírejte stránku Dětské hřiště – vrátíte se k ní později.

Konfigurace ověřování webové aplikace

Ve výchozím nastavení bude webová aplikace přístupná jenom pro vás. V tomto kurzu přidáte ověřování, abyste omezili přístup k aplikaci na členy vašeho tenanta Azure. Uživatelům se zobrazí výzva, aby se přihlásili pomocí svého účtu Microsoft Entra, aby měli přístup k vaší aplikaci. Pokud chcete, můžete postupovat podle podobného postupu a přidat dalšího zprostředkovatele identity. Aplikace nepoužívá přihlašovací údaje uživatele jiným způsobem než ověřením, že je členem vašeho tenanta.

1. Vraťte se na kartu prohlížeče obsahující Azure Portal (nebo znovu otevřete Azure Portal na nové kartě prohlížeče) a zobrazte obsah skupiny prostředků, do které jste nasadili prostředek centra Azure AI a webovou aplikaci (možná budete muset aktualizovat zobrazení webové aplikace).

2. Ze seznamu prostředků ve skupině prostředků vyberte prostředek služby App Service.

3. V levé sbalitelné nabídce v části Nastavení vyberte Ověřování.

   

4. Přidejte zprostředkovatele identity s následujícím nastavením:

   • Zprostředkovatel identity: Jako zprostředkovatele identity vyberte Microsoft. Výchozí nastavení na této stránce omezuje aplikaci jenom na vašeho tenanta, takže tady nemusíte měnit nic jiného.
   • Typ tenanta: Pracovní síla
   • Registrace aplikace: Vytvoření nové registrace aplikace
   • Název: Název vaší služby webové aplikace
   • Podporované typy účtů: Aktuální tenant – Jeden tenant
   • Omezení přístupu: Vyžaduje ověření.
   • Neověřené požadavky: Http 302 Nalezeno přesměrování – doporučeno pro weby

Používání webové aplikace

Už to skoro máte! Teď můžete webovou aplikaci otestovat.

1. Počkejte 10 minut, než se nastavení ověřování projeví.

2. Vraťte se na kartu prohlížeče obsahující stránku Playground v Azure AI Studiu.

3. Výběrem možnosti Spustit spustíte nasazenou webovou aplikaci. Pokud se zobrazí výzva, přijměte žádost o oprávnění.

   Pokud se nastavení ověřování ještě neprojeví, zavřete kartu prohlížeče pro webovou aplikaci a vraťte se na stránku Dětské hřiště v Azure AI Studiu. Pak chvíli počkejte a zkuste to znovu.

4. Ve webové aplikaci můžete položit stejnou otázku jako předtím ("How much are the TrailWalker hiking shoes"), a tentokrát používá informace z vašich dat k vytvoření odpovědi. Tlačítko odkazy můžete rozbalit a zobrazit použitá data.

   

Vyčištění prostředků

Abyste se vyhnuli zbytečným nákladům na Azure, měli byste odstranit prostředky, které jste vytvořili v tomto rychlém startu, pokud už nejsou potřeba. Ke správě prostředků můžete použít Azure Portal.

Poznámky

Historie chatu

Díky funkci historie chatu budou mít vaši uživatelé přístup ke svým individuálním předchozím dotazům a odpovědím.

Historii chatu můžete povolit při nasazování webové aplikace. Zaškrtněte políčko Povolit historii chatu ve webové aplikaci.

Důležité

Povolením historie chatu se ve vaší skupině prostředků vytvoří instance Cosmos DB a za využité úložiště se účtují další poplatky . Odstraněním webové aplikace se instance Cosmos DB neodstraní automaticky. Pokud chcete odstranit instanci Cosmos DB společně se všemi uloženými chaty, musíte přejít na přidružený prostředek na webu Azure Portal a odstranit ji.

Jakmile povolíte historii chatu, uživatelé ji budou moct zobrazit a skrýt v pravém horním rohu aplikace. Když se zobrazí historie, můžou konverzace přejmenovat nebo odstranit. Když jsou přihlášeni k aplikaci, konverzace se budou automaticky řadit od nejnovějších po nejstarší a pojmenované na základě prvního dotazu v konverzaci.

Pokud odstraníte prostředek Cosmos DB, ale ponecháte v studiu povolenou možnost historie chatu, budou vaši uživatelé upozorněni na chybu připojení, ale můžou webovou aplikaci dál používat bez přístupu k historii chatu.

Další kroky

• Vytvořte projekt v Azure AI Studiu.
• Přečtěte si další informace o tom, co můžete dělat v Azure AI Studiu.