Kurz: Nasazení podnikové chatovací webové aplikace

V tomto článku nasadíte webovou aplikaci podnikového chatu, která používá vaše data s velkým jazykovým modelem na portálu Microsoft Foundry.

Váš zdroj dat model zdůvodňuje konkrétními daty. Základ znamená, že model používá vaše data k pochopení kontextu vaší otázky. Samotný nasazený model nezměníte. Vaše data zůstanou oddělená a zabezpečená v původním zdroji dat.

Postup v tomto kurzu:

• Nakonfigurujte prostředky.
• Přidejte data.
• Otestujte model s daty.
• Nasaďte webovou aplikaci.

Požadavky

Poznámka:

Tento dokument se týká pouze portálu Microsoft Foundry (classic).

Pro tuto funkci musíte použít projekt založený na centru . Projekt Foundry není podporován. Podívejte se, jak zjistím, jaký typ projektu mám? a vytvořit projekt založený na centru.

• Účet Azure s aktivním předplatným. Pokud ho nemáte, vytvořte si bezplatný účet Azure, který zahrnuje bezplatné zkušební předplatné.
• Pokud ho nemáte, vytvořte projekt založený na centru.

• Nasazený chatovací model Azure OpenAI Pokud ho nemáte, dokončete rychlý start k vytvoření tohoto prostředku na webu Foundry .

• Připojení Search k indexování ukázkových dat o produktech. Pokud ho nemáte, vytvořte a připojte vyhledávací službu podle pokynů.

• Místní kopie dat o produktech. Úložiště Azure-Samples/rag-data-openai-python-promptflow na GitHubu obsahuje ukázkové informace o maloobchodním produktu pro tento scénář kurzu. Soubor product_info_11.md obsahuje informace o produktových botách TrailWalker pro tento příklad kurzu. Stáhněte si ukázková prodejní data společnosti Contoso Trek v souboru ZIP do místního počítače.

• Poskytovatel prostředků Microsoft.Web zaregistrovaný ve vybraném předplatném, abyste je mohli nasadit do webové aplikace. Další informace o registraci poskytovatele prostředků najdete v tématu Registrace poskytovatele prostředků.

• Potřebná oprávnění k přidání přiřazení rolí ve vašem předplatném Azure Oprávnění může udělit jenom vlastník konkrétních prostředků Azure podle přiřazení role.

portál Foundry a portál Azure

V tomto kurzu provedete některé úlohy na portálu Foundry a některé úlohy na webu Azure Portal.

Portál Foundry je webové prostředí pro vytváření, trénování a nasazování modelů AI. Jako vývojář je místo, kde vytváříte a nasazujete chatovací webovou aplikaci.

Azure Portal umožňuje správci spravovat a monitorovat prostředky Azure. Jako správce nastavíte nastavení pro různé služby Azure vyžadované pro přístup z webové aplikace pomocí portálu.

Konfigurace prostředků

Důležité

Abyste mohli do předplatného Azure přidat přiřazení rolí, musíte mít potřebná oprávnění. Udělení oprávnění přiřazením role je povoleno pouze vlastníkem konkrétních prostředků Azure. Možná budete muset požádat vlastníka předplatného Azure (který může být vaším správcem IT), aby tento oddíl dokončil za vás.

Pokud chcete, aby prostředky ve webové aplikaci správně fungovaly, nastavte správná oprávnění na webu Azure Portal.

Nejprve identifikujte prostředky, které potřebujete nastavit na portálu Foundry.

1. Otevřete portál Foundry a pak vyberte projekt založený na centru, který jste použili k nasazení modelu chatu Azure OpenAI.

2. Vyberte Management center z levého panelu.

3. V rámci projektu vyberte Připojené zdroje .

4. Identifikujte tři prostředky, které je potřeba nakonfigurovat: Azure OpenAI, Azure AI Search a Úložiště objektů blob v Azure, které odpovídá vašemu pracovnímu prostorublobstore.

   

   Návod

   Pokud v tabulce možnost Typ nevidíte, vyberte Sloupce v pravém horním rohu a přidejte do vybraného sloupce nebo je přeuspořádejte. Pokud máte více prostředků Azure OpenAI , použijte ten, který obsahuje nasazený chatovací model.

5. Na webu Azure Portal vyhledejte každý z těchto názvů. Otevřete každý z nich na nové kartě prohlížeče, abyste mezi nimi mohli přepínat.

6. Až budete hotovi, máte otevřené tři nové karty prohlížeče: Vyhledávací služba, Foundry a kontejner blobstore. Nechte všechny tři karty otevřené, protože mezi nimi přepnete a nastavíte prostředky.

Povolte spravovanou identitu

Na kartě prohlížeče pro prostředek vyhledávací služby na webu Azure Portal povolte spravovanou identitu:

1. V levém podokně v části Nastavení vyberte Identita.
2. Přepněte stav na Zapnuto.
3. Vyberte Uložit.

V záložce prohlížeče pro prostředek Foundry v Azure portálu povolte spravovanou identitu:

1. V levém podokně v části Správa prostředků vyberte Identita.
2. Přepněte stav na Zapnuto.
3. Vyberte Uložit.

Nastavení řízení přístupu pro vyhledávání

Na kartě prohlížeče pro prostředek vyhledávací služby na webu Azure Portal nastavte zásady přístupu k rozhraní API:

1. V levém podokně v části Nastavení vyberte Klíče.
2. V části Řízení přístupu k rozhraní API vyberte Obě.
3. Po zobrazení výzvy potvrďte výběrem možnosti Ano .

Přiřaďte role

Tento vzor opakujte pro každý prostředek v následujících krocích.

Obecný vzor pro přiřazování řízení přístupu na základě role (RBAC) pro jakýkoli prostředek je:

1. Přejděte na web Azure Portal pro daný prostředek.
2. Na levé stránce na webu Azure Portal vyberte Řízení přístupu (IAM).
3. Vyberte , přidejte,>,, přidejte přiřazení role.
4. Vyhledejte roli, kterou potřebujete přiřadit, a vyberte ji. Pak vyberte Další.
5. Při přiřazování role sobě:
   1. Vyberte Uživatele, skupinu nebo principál služby.
   2. Zvolte Zvolit členy.
   3. Vyhledejte své jméno a vyberte ho.
6. Při přiřazování role k jinému prostředku:
   1. Vyberte Spravovaná identita.
   2. Zvolte Zvolit členy.
   3. V rozevíracím seznamu vyhledejte typ prostředku, který chcete přiřadit. Například Foundry Tools nebo Vyhledávací služba.
   4. Ze seznamu, který se zobrazí, vyberte prostředek. Může existovat jenom jeden, ale přesto ho musíte vybrat.
7. Pokračujte v průvodci a výběrem možnosti Zkontrolovat a přiřadit přidejte přiřazení role.

Pomocí těchto kroků přiřaďte role pro prostředky, které jste nastavili v tomto kurzu:

• Přiřaďte tyto role na kartě prohlížeče pro vyhledávací službu na webu Azure Portal:

  • Čtečka dat indexu vyhledávání do spravované identity Foundry
  • Přispěvatel vyhledávací služby pro spravovanou identitu Foundry
  • Přispěvatel pro sebe (pokud chcete najít přispěvatele, přejděte v horní části na kartu Role privilegovaného správce. Všechny ostatní role jsou na kartě Role funkcí úlohy.)

• Přiřaďte tyto role v okně prohlížeče pro Foundry v Azure portálu.

  • Přispěvatel OpenAI služeb Cognitive Services ke spravované identitě Search
  • Přispěvatel k sobě.

• Přiřaďte tyto role na kartě prohlížeče pro Azure Blob Storage na webu Azure Portal:

  • Přispěvatel dat objektů blob služby Storage do spravované identity Foundry
  • Čtenář dat objektů blob služby Storage do spravované identity Search
  • Přispěvatel k sobě

Dokončili jste nastavení prostředků. Karty prohlížeče webu Azure Portal teď můžete zavřít, pokud chcete.

Přidání dat a opětovné vyzkoušení modelu chatu

V rychlém startu herního prostředí Foundry (to je předpokladem pro tento tutoriál), uvidíte, jak váš model reaguje bez vašich dat. Přidejte data do modelu, aby mohly odpovídat na otázky týkající se vašich produktů.

K dokončení této části potřebujete místní kopii dat o produktech. Úložiště Azure-Samples/rag-data-openai-python-promptflow na GitHubu obsahuje ukázkové informace o maloobchodním produktu, které jsou relevantní pro tento scénář kurzu. product_info_11.md Konkrétně soubor obsahuje informace o produktu o turistické boty TrailWalker, které jsou relevantní pro tento příklad kurzu. Stáhněte si ukázková prodejní data společnosti Contoso Trek v souboru ZIP do místního počítače.

Pomocí těchto kroků přidejte data do chatovacího hřiště, abyste asistentovi pomohli zodpovědět otázky týkající se vašich produktů. Neměníte samotný nasazený model. Vaše data se ukládají samostatně a bezpečně ve vašem předplatném Azure.

1. Přejděte ke svému projektu v Microsoft Foundry.

2. V levém podokně vyberte Dětské hřiště .

3. Vyberte Vyzkoušet chatovací hřiště.

4. V rozevíracím seznamu Nasazení vyberte nasazený chatovací model.

   

5. Na levé straně chatovacího hřiště vyberte Přidat data>+ Přidat nový zdroj dat.

   

6. V rozevíracím seznamu Zdroj dat vyberte Nahrát soubory.

   

7. Vyberte Nahrát>soubory a procházejte místní soubory.

8. Vyberte soubory, které chcete nahrát. Vyberte soubory s informacemi o produktu, které jste stáhli nebo vytvořili dříve. Teď přidejte všechny soubory. Později ve stejné relaci dětského hřiště nebudete moct přidat další soubory.

9. Výběrem možnosti Nahrát soubor nahrajte do účtu služby Azure Blob Storage. Pak vyberte Další.

   

10. Vyberte službu Azure AI Search .

11. Jako název vektorového indexu zadejte informace o produktu a vyberte Další.

12. Na stránce Nastavení hledání v části Nastavení vektoru zrušte zaškrtnutí políčka Přidat vektorové vyhledávání do tohoto vyhledávacího prostředku. Toto nastavení pomáhá určit, jak model reaguje na požadavky. Pak vyberte Další.

    Poznámka:

    Pokud přidáte vektorové vyhledávání, další možnosti budou k dispozici pro další náklady.

13. Zkontrolujte nastavení a vyberte Vytvořit vektorový index.

14. V dětském hřišti vidíte, že probíhá příjem dat. Tento proces může trvat několik minut. Než budete pokračovat, počkejte, až se místo stavu zobrazí název zdroje dat a indexu.

    

15. Teď můžete chatovat s modelem, který klade stejnou otázku jako předtím ("How much are the TrailWalker hiking shoes"), a tentokrát používá informace z vašich dat k vytvoření odpovědi. Tlačítko odkazy můžete rozbalit a zobrazit použitá data.

Nasazení webové aplikace

Až budete s prostředím na portálu Foundry spokojení, nasaďte model jako samostatnou webovou aplikaci.

Vyhledání skupiny prostředků na webu Azure Portal

V tomto kurzu nasadíte svou webovou aplikaci do stejné skupiny prostředků jako centrum Foundry. Ověřování pro webovou aplikaci nastavíte na webu Azure Portal.

Pomocí následujícího postupu přejděte do skupiny prostředků na webu Azure Portal:

1. Přejděte do projektu v Foundry. Vyberte Management center z levého panelu.

2. Pod nadpisem Project vyberte Přehled.

3. Výběrem názvu skupiny prostředků otevřete skupinu prostředků na webu Azure Portal. V tomto příkladu má skupina prostředků název rg-sdg-ai.

   

4. Teď jste na webu Azure Portal a zobrazujete obsah skupiny prostředků, do které jste centrum nasadili. Poznamenejte si název a umístění skupiny prostředků. Tyto informace použijete v další části.

5. Nechte tuto stránku otevřenou na kartě prohlížeče. Později se k němu vrátíte.

Nasazení webové aplikace

Publikování vytvoří ve vašem předplatném službu Aplikace Azure. V závislosti na vybraném cenovém plánu se vám můžou zobrazovat náklady. Až budete s aplikací hotovi, odstraňte ji z webu Azure Portal.

Nasazení webové aplikace:

Důležité

Před nasazením do webové aplikace zaregistrujte Microsoft.Web jako poskytovatele prostředků .

1. Dokončete kroky v předchozí části a přidejte data do dětského hřiště. Webovou aplikaci můžete nasadit s nebo bez vlastních dat, ale potřebujete nasazený model, jak je uvedeno v rychlém startu v prostředí Foundry playground.

2. Vyberte Nasadit > ... jako webová aplikace.

   

3. Na stránce Nasadit na webovou aplikaci zadejte následující podrobnosti:

   • Název: Jedinečný název vaší webové aplikace.
   • Předplatné: Vaše předplatné Azure. Pokud nevidíte žádná dostupná předplatná, nejprve zaregistrujte Microsoft.Web jako poskytovatele prostředků.
   • Skupina prostředků: Vyberte skupinu prostředků, do které chcete webovou aplikaci nasadit. Použijte stejnou skupinu prostředků jako centrum.
   • Umístění: Vyberte umístění, ve kterém chcete webovou aplikaci nasadit. Použijte stejné umístění jako centrum.
   • Cenový plán: Zvolte cenový plán pro webovou aplikaci.
   • Povolit historii chatu ve webové aplikaci: Pro kurz není vybrané pole historie chatu. Pokud tuto funkci povolíte, budou mít uživatelé přístup k jednotlivým předchozím dotazům a odpovědím. Další informace najdete v poznámkách historie chatu.

4. Vyberte Nasadit.

5. Počkejte, až se aplikace nasadí. Tento proces může trvat několik minut.

6. Až bude připraveno, na panelu nástrojů se povolí tlačítko Spustit . Aplikaci ještě nespustíte a nezavírejte stránku chatovacího hřiště – později se k ní vrátíte.

Konfigurace ověřování webové aplikace

Ve výchozím nastavení se k webové aplikaci dostanete jenom vy. V tomto kurzu přidejte ověřování, abyste omezili přístup k členům vašeho tenanta Azure. Uživatelé se přihlašují pomocí svého účtu Microsoft Entra pro přístup k vaší aplikaci. Pokud chcete, můžete postupovat podle podobného postupu a přidat dalšího zprostředkovatele identity. Aplikace používá jenom přihlašovací informace uživatele k ověření, že je členem vašeho tenanta.

1. Vraťte se na kartu prohlížeče pomocí webu Azure Portal nebo otevřete Azure Portal na nové kartě prohlížeče. Zobrazte obsah skupiny prostředků, do které jste webovou aplikaci nasadili. Možná budete muset zobrazení aktualizovat, aby se webová aplikace zobrazila.

2. Ze seznamu prostředků ve skupině prostředků vyberte prostředek služby App Service.

3. V levé sbalitelné nabídce v části Nastavení vyberte Ověřování.

   

4. Pokud se na této stránce zobrazí microsoft uvedený zprostředkovatel identity, nic dalšího není potřeba. Můžete přeskočit další krok.

5. Přidejte zprostředkovatele identity s následujícím nastavením:

   • Zprostředkovatel identity: Jako zprostředkovatele identity vyberte Microsoft. Výchozí nastavení na této stránce omezuje aplikaci jenom na vašeho tenanta, takže tady nemusíte měnit nic jiného.
   • Typ tenanta: Pracovní síla
   • Registrace aplikace: Vytvoření nové registrace aplikace
   • Název: Název vaší služby webové aplikace
   • Podporované typy účtů: Aktuální tenant – Jeden tenant
   • Omezení přístupu: Vyžaduje ověření.
   • Neověřené požadavky: Http 302 Nalezeno přesměrování – doporučeno pro weby

Používání webové aplikace

Jste skoro tam. Teď můžete webovou aplikaci otestovat.

1. Pokud jste změnili nastavení, počkejte asi 10 minut, než se nastavení ověřování projeví.

2. Vraťte se na kartu prohlížeče se stránkou chatovacího hřiště na portálu Foundry.

3. Výběrem možnosti Spustit otevřete nasazenou webovou aplikaci. Pokud se zobrazí výzva, přijměte žádost o oprávnění.

4. Pokud v dětském prostředí nevidíte možnost Spustit , vyberte v levém podokně webové aplikace a pak ji ze seznamu vyberte a otevřete ji.

   Pokud nastavení ověřování ještě není aktivní, zavřete kartu prohlížeče pro webovou aplikaci a vraťte se do chatovacího hřiště na portálu Foundry. Chvíli počkejte a zkuste to znovu.

5. Ve webové aplikaci položte stejnou otázku jako předtím ("Kolik jsou turistické boty TrailWalker"). Tentokrát aplikace používá informace z vašich dat k vytvoření odpovědi. Rozbalením tlačítka reference zobrazíte použitá data.

   

Principy historie chatu

Díky funkci historie chatu můžou uživatelé vidět svoje předchozí dotazy a odpovědi.

Povolte historii chatu při nasazování webové aplikace. Zaškrtněte políčko Povolit historii chatu ve webové aplikaci.

Důležité

Povolení historie chatu vytvoří instanci Cosmos DB ve vaší skupině prostředků a za využité úložiště se účtují další poplatky . Odstraněním webové aplikace se instance Cosmos DB neodstraní automaticky. Pokud chcete odstranit instanci Cosmos DB a všechny uložené chaty, přejděte na přidružený prostředek na webu Azure Portal a odstraňte ji.

Po povolení historie chatu ho uživatelé můžou zobrazit nebo skrýt v pravém horním rohu aplikace. Když se zobrazí historie, můžou konverzace přejmenovat nebo odstranit. Když jsou přihlášení k aplikaci, konverzace jsou seřazené od nejnovějšího po nejstarší a pojmenované podle prvního dotazu v konverzaci.

Pokud odstraníte prostředek Cosmos DB, ale ponecháte v studiu povolenou možnost historie chatu, zobrazí se uživatelům chyba připojení, ale může webovou aplikaci dál používat bez historie chatu.

Aktualizace webové aplikace

Pomocí dětského hřiště můžete přidat další data nebo otestovat model s různými scénáři. Až budete připraveni aktualizovat webovou aplikaci novým modelem, vyberte Nasadit > ... znovu jako webová aplikace . Vyberte Aktualizovat existující webovou aplikaci a ze seznamu zvolte existující webovou aplikaci. Nový model se nasadí do existující webové aplikace.

Vyčistěte zdroje

Pokud se chcete vyhnout zbytečným nákladům na Azure, odstraňte prostředky, které jste vytvořili v tomto rychlém startu, pokud je nepotřebujete. Správa prostředků na webu Azure Portal

Související obsah

• Vytvořte chatovací aplikaci s pomocí SDK Prompt Flow
• Vytvoření vlastní chatovací aplikace pomocí sady Azure AI SDK