Tutorial: Bereitstellen einer Web-App für Unternehmenschats

In diesem Artikel stellen Sie eine Web-App für Unternehmenschats bereit, die Ihre Daten mit einem großen Sprachmodell im Microsoft Foundry-Portal verwendet.

Ihre Datenquelle ermöglicht das Grounding des Modells mit bestimmten Daten. Das Grounding bedeutet, dass das Modell Ihre Daten verwendet, um den Kontext Ihrer Frage zu verstehen. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten bleiben in Ihrer ursprünglichen Datenquelle getrennt und sicher.

Die folgenden Schritte werden in diesem Tutorial beschrieben:

• Konfigurieren Sie die Ressourcen.
• Hinzufügen Ihrer Daten.
• Testen des Modells mit Ihren Daten.
• Stellen Sie Ihre Web-App bereit.

Voraussetzungen

Hinweis

Dieses Dokument bezieht sich nur auf das Microsoft Foundry(klassische) Portal.

Sie müssen ein hubbasiertes Projekt für dieses Feature verwenden. Ein Foundry-Projekt wird nicht unterstützt. Sehen Sie Wie erfahre ich, welche Art von Projekt ich habe? und Erstellen Sie ein Hub-basiertes Projekt.

• Ein Azure-Konto mit einem aktiven Abonnement. Wenn Sie über keins verfügen, erstellen Sie ein kostenloses Azure-Konto, das ein kostenloses Testabonnement enthält.
• Wenn Sie über keins verfügen, erstellen Sie ein hubbasiertes Projekt.

• Ein bereitgestelltes Azure OpenAI-Chatmodell. Schließen Sie den Foundry-Playground-Schnellstart ab, um diese Ressource zu erstellen, wenn Sie über keine verfügen.

• Eine Verbindung mit dem Suchdienst, um die exemplarischen Produkt- und Kundendaten zu indizieren. Wenn Sie keine haben, führen Sie die Schritte zum Erstellen eines Suchdiensts und zum Herstellen einer Verbindung mit diesem aus.

• Eine lokale Kopie von Produktdaten. Das Repository „Azure-Samples/rag-data-openai-python-promptflow“ auf GitHub enthält Beispiele für Produktinformationen im Einzelhandel für dieses Tutorialszenario. Die Datei product_info_11.md enthält Produktinformationen zu den TrailWalker-Wanderschuhen für dieses Tutorialbeispiel. Laden Sie die exemplarischen Einzelhandelsproduktdaten für Contoso Trek in einer ZIP-Datei auf Ihren lokalen Computer herunter.

• Ein im ausgewählten Abonnement registrierter Microsoft.Web-Ressourcenanbieter, damit Sie sie in einer Web-App bereitstellen können. Weitere Informationen zum Registrieren eines Ressourcenanbieters finden Sie unter Registrieren eines Ressourcenanbieters.

• Erforderliche Berechtigungen zum Hinzufügen von Rollenzuweisungen in Ihrem Azure-Abonnement. Nur der Besitzer der spezifischen Azure-Ressourcen kann Berechtigungen nach Rollenzuweisung erteilen.

Foundry-Portal und Azure-Portal

In diesem Lernprogramm führen Sie einige Aufgaben im Foundry-Portal und einige Aufgaben im Azure-Portal aus.

Das Foundry-Portal ist eine webbasierte Umgebung zum Erstellen, Trainieren und Bereitstellen von KI-Modellen. Als Entwickler können Sie hier Ihre Chatwebanwendung erstellen und bereitstellen.

Mit dem Azure-Portal kann ein Administrator Azure-Ressourcen verwalten und überwachen. Als Administrator verwenden Sie das Portal, um Einstellungen für unterschiedliche Azure-Dienste einzurichten, die für den Zugriff über die Web-App erforderlich sind.

Konfigurieren der Ressourcen

Von Bedeutung

Sie müssen über die erforderlichen Berechtigungen verfügen, um Rollenzuweisungen in Ihrem Azure-Abonnement hinzufügen zu können. Nur der Besitzer der jeweiligen Azure-Ressourcen kann Berechtigungen per Rollenzuweisung erteilen. Möglicherweise müssen Sie die Person, die Ihr Azure-Abonnement besitzt (eventuell die IT-Administration) darum bitten, dieses Tutorial für Sie abzuschließen.

Damit die Ressourcen in einer Web-App ordnungsgemäß funktionieren, richten Sie die richtigen Berechtigungen im Azure-Portal ein.

Identifizieren Sie zunächst die Ressourcen, die Sie im Foundry-Portal einrichten müssen.

1. Öffnen Sie das Foundry-Portal, und wählen Sie dann das hubbasierte Projekt aus, das Sie zum Bereitstellen des Azure OpenAI-Chatmodells verwendet haben.

2. Wählen Sie im linken Bereich Verwaltungscenter aus.

3. Wählen Sie im linken Bereich Verbundene Ressourcen unter Ihrem Projekt aus.

4. Identifizieren Sie die drei Ressourcen, die Sie konfigurieren müssen: Azure OpenAI, die Azure KI-Suche und die Azure Blob Storage-Instanz, die zu Ihrem workspaceblobstore gehört.

   

   Tipp

   Wenn " Typ " in der Tabelle nicht angezeigt wird, wählen Sie "Spalten " in der oberen rechten Ecke aus, und fügen Sie die ausgewählten Spalten hinzu oder ordnen Sie sie neu an. Wenn Sie über mehrere Azure OpenAI-Ressourcen verfügen, verwenden Sie diejenige, die Ihr bereitgestelltes Chatmodell enthält.

5. Suchen Sie im Azure-Portal nach jedem dieser Namen. Öffnen Sie jeden in einer neuen Browserregisterkarte, damit Sie zwischen ihnen wechseln können.

6. Wenn Sie fertig sind, sind drei neue Browserregisterkarten geöffnet: Suchdienst, Foundry und blobstore-Container. Lassen Sie alle drei Registerkarten geöffnet, da Sie zwischen ihnen wechseln, um die Ressourcen einzurichten.

Aktivieren einer verwalteten Identität

Aktivieren Sie auf der Browserregisterkarte für die Ressource Suchdienst im Azure-Portal die verwaltete Identität:

1. Wählen Sie im linken Bereich unter Ressourcenverwaltung die Option Identität aus.
2. Ändern Sie den Status in Ein.
3. Wählen Sie Speichern aus.

Aktivieren Sie auf der Registerkarte "Browser" für die Foundry-Ressource im Azure-Portal die verwaltete Identität:

1. Wählen Sie im linken Bereich unter Ressourcenverwaltung die Option Identität aus.
2. Ändern Sie den Status in Ein.
3. Wählen Sie Speichern aus.

Festlegen der Zugriffssteuerung für die Suche

Legen Sie auf der Browserregisterkarte für die Ressource Suchdienst im Azure-Portal die API-Zugriffsrichtlinie fest:

1. Wählen Sie im linken Bereich unter Einstellungen die Option Schlüssel aus.
2. Wählen Sie unter API-Zugriffssteuerung die Option Beide aus.
3. Wählen Sie Ja aus, wenn Sie dazu aufgefordert werden, die Aktion zu bestätigen.

Zuweisen von Rollen

Wiederholen Sie dieses Muster für jede Ressource in den folgenden Schritten.

Das allgemeine Muster zum Zuweisen der rollenbasierten Zugriffssteuerung (RBAC) für jede Ressource lautet:

1. Navigieren Sie zum Azure-Portal für die jeweilige Ressource.
2. Wählen Sie auf der linken Seite im Azure-Portal Zugriffssteuerung (IAM) aus.
3. Wählen Sie +Hinzufügen>Rollenzuweisung hinzufügen aus.
4. Suchen Sie nach der Rolle, die Sie zuweisen müssen, und wählen Sie sie aus. Wählen Sie dann Weiter aus.
5. Beim Zuweisen einer Rolle zu sich selbst:
   1. Wählen Sie User, group, or service principal (Benutzer, Gruppe oder Dienstprinzipal) aus.
   2. Wählen Sie "Mitglieder auswählen" aus.
   3. Suchen Sie nach Ihrem Namen, und wählen Sie ihn aus.
6. Beim Zuweisen einer Rolle zu einer anderen Ressource:
   1. Wählen Sie Verwaltete Identität aus.
   2. Wählen Sie "Mitglieder auswählen" aus.
   3. Verwenden Sie die Dropdownliste, um den Typ der Ressource zu finden, die Sie zuweisen möchten. Beispiel: Foundry Tools oder Suchdienst.
   4. Wählen Sie die Ressource in der angezeigten Liste aus. Möglicherweise gibt es nur eine, aber Sie müssen sie trotzdem auswählen.
7. Fahren Sie mit dem Assistenten fort, und wählen Sie Überprüfen + zuweisen aus, um die Rollenzuweisung hinzuzufügen.

Gehen Sie folgendermaßen vor, um Rollen für die Ressourcen zuzuweisen, die Sie in diesem Tutorial eingerichtet haben:

• Weisen Sie diese Rollen auf der Browserregisterkarte für Suchdienst im Azure-Portal zu:

  • Suchindexdatenleser für die Foundry-verwaltete Identität
  • Suchdienstmitwirkender für die von Foundry verwaltete Identität
  • Mitwirkende für Sie selbst (Sie finden Mitwirkende auf der Registerkarte Privilegierte Administrationsrollen oben. Alle anderen Rollen befinden sich auf der Registerkarte Rollen der Stellenfunktion.)

• Weisen Sie diese Rollen auf der Registerkarte "Browser" für "Foundry " im Azure-Portal zu:

  • Mitwirkung an Cognitive Services OpenAI der verwalteten Identität Suchdienst
  • Mitwirkung sich selbst

• Weisen Sie diese Rollen auf der Browserregisterkarte für Azure Blob Storage im Azure-Portal zu:

  • Mitwirkender an Storage-Blobdaten für die von Foundry verwaltete Identität
  • Leseberechtigung für Storage-Blobdaten der verwalteten Identität Suchdienst
  • Mitwirkung sich selbst

Sie haben die Einrichtung von Ressourcen abgeschlossen. Sie können die Browserregisterkarten des Azure-Portals jetzt schließen, wenn Sie möchten.

Hinzufügen der Daten und erneutes Testen des Chatmodells

Im Schnellstart des Foundry-Playgrounds (das ist eine Voraussetzung für dieses Lernprogramm) sehen Sie, wie Ihr Modell ohne Ihre Daten reagiert. Fügen Sie dem Modell Ihre Daten hinzu, damit es Fragen zu Ihren Produkten beantworten kann.

Um diesen Abschnitt abzuschließen, benötigen Sie eine lokale Kopie der Produktdaten. Das Repository „Azure-Samples/rag-data-openai-python“ auf GitHub enthält Beispielinformationen für Einzelhandelsprodukte, die für das Szenario in diesem Tutorial relevant sind. Insbesondere enthält die Datei product_info_11.md Produktinformationen zu den TrailWalker Wanderschuhen, die für dieses Lernprogrammbeispiel relevant sind. Laden Sie die exemplarischen Einzelhandelsproduktdaten für Contoso Trek in einer ZIP-Datei auf Ihren lokalen Computer herunter.

Führen Sie die folgenden Schritte aus, um Ihre Daten zum Chat-Playground hinzuzufügen, damit der Assistent Fragen zu Ihren Produkten beantworten kann. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrem Azure-Abonnement gespeichert.

1. Wechseln Sie zu Ihrem Projekt in Microsoft Foundry.

2. Wählen Sie im linken Bereich "Playgrounds" aus.

3. Wählen Sie Chatplayground ausprobieren aus.

4. Wählen Sie ihr bereitgestelltes Chatmodell aus der Dropdownliste Bereitstellung aus.

   

5. Wählen Sie auf der linken Seite des Chat-Playgrounds Daten hinzufügen>+ Neue Datenquelle hinzufügen aus.

   

6. Wählen Sie im Dropdownfeld Datenquelle die Option Dateien hochladen aus.

   

7. Wählen Sie Hochladen>Dateien hochladen aus, um Ihre lokalen Dateien zu durchsuchen.

8. Wählen Sie die Dateien aus, die Sie hochladen möchten. Wählen Sie die Produktinformationsdateien aus, die Sie heruntergeladen oder zuvor erstellt haben. Fügen Sie jetzt alle Dateien hinzu. Sie können später in derselben Playground-Sitzung keine weiteren Dateien hinzufügen.

9. Wählen Sie Hochladen aus, um die Datei in Ihr Azure Blob Storage-Konto hochzuladen. Wählen Sie dann Weiter aus.

   

10. Wählen Sie Ihren Azure KI-Suche-Dienst aus.

11. Geben Sie für den VektorindexnamenProduktinformationen ein, und wählen Sie Weiter aus.

12. Deaktivieren Sie auf der Seite Sucheinstellungen unter Vektoreinstellungen das Kontrollkästchen Vektorsuche zu dieser Suchressource hinzufügen. Diese Einstellung bestimmt, wie das Modell auf Anforderungen reagiert. Wählen Sie dann Weiter aus.

    Hinweis

    Wenn Sie die Vektorsuche hinzufügen, stehen hier weitere Optionen mit zusätzlichen Kosten zur Verfügung.

13. Überprüfen Sie Ihre Einstellungen, und wählen Sie Vektorindex erstellen aus.

14. Im Playground können Sie sehen, dass die Erfassung Ihrer Daten ausgeführt wird. Dieser Prozess kann einige Minuten dauern. Warten Sie, bevor Sie fortfahren, bis die Datenquelle und der Indexname anstelle des Status angezeigt werden.

    

15. Sie können jetzt mit dem Modell chatten, ihm dieselbe Frage wie zuvor stellen („Wie viel kosten die TrailWalker Wanderschuhe“), und dieses Mal verwendet es Informationen aus Ihren Daten, um die Antwort zu erstellen. Sie können die Schaltfläche „Verweise“ erweitern, um die verwendeten Daten anzuzeigen.

Bereitstellen Ihrer Web-App

Wenn Sie mit der Erfahrung im Foundry-Portal zufrieden sind, stellen Sie das Modell als eigenständige Webanwendung bereit.

Navigieren Sie im Azure-Portal zu Ihrer Ressourcengruppe.

In diesem Tutorial stellen Sie Ihre Web-App in derselben Ressourcengruppe wie Ihr Foundry-Hub bereit. Sie richten die Authentifizierung für die Web-App im Azure-Portal ein.

Führen Sie die folgenden Schritte aus, um zur Ressourcengruppe im Azure-Portal zu wechseln:

1. Navigieren Sie zu Ihrem Projekt in Foundry. Wählen Sie im linken Bereich Verwaltungscenter aus.

2. Wählen Sie unter der Überschrift Projekt die Option Übersicht aus.

3. Wählen Sie den Namen der Ressourcengruppe aus, um die Ressourcengruppe im Azure-Portal zu öffnen. In diesem Beispiel trägt die Ressourcengruppe den Namen rg-sdg-ai.

   

4. Sie befinden sich jetzt im Azure-Portal und sehen den Inhalt der Ressourcengruppe an, in der Sie den Hub bereitgestellt haben. Notieren Sie sich den Namen und den Speicherort der Ressourcengruppe. Sie verwenden diese Informationen im nächsten Abschnitt.

5. Lassen Sie diese Seite auf einer Browserregisterkarte geöffnet. Sie kehren später zu dieser Seite zurück.

Bereitstellen der Web-App

Die Veröffentlichung erstellt einen Azure App Service in Ihrem Abonnement. Je nach ausgewähltem Preisplan können Kosten anfallen. Wenn Sie mit Ihrer App fertig sind, löschen Sie sie aus dem Azure-Portal.

So stellen Sie die Web-App bereit:

Von Bedeutung

Registrieren Sie Microsoft.Web als Ressourcenanbieter, bevor Sie ihn in einer Web-App bereitstellen.

1. Führen Sie die Schritte im vorherigen Abschnitt aus, um dem Playground Ihre Daten hinzuzufügen. Sie können eine Web-App mit oder ohne eigene Daten bereitstellen, aber Sie benötigen ein bereitgestelltes Modell, wie im Schnellstart des Foundry-Playgrounds beschrieben.

2. Wählen Sie Bereitstellen > ... als Web-App aus.

   

3. Geben Sie auf der Seite In einer Web App bereitstellen die folgenden Details ein:

   • Geben Sie unter Name einen eindeutigen Namen für Ihre Web-App ein.
   • Abonnement: Ihr Azure-Abonnement. Wenn keine verfügbaren Abonnements angezeigt werden, registrieren Sie zuerst Microsoft.Web als Ressourcenanbieter.
   • Ressourcengruppe: Wählen Sie eine Ressourcengruppe aus, in der die Web-App bereitgestellt werden soll. Verwenden Sie dieselbe Ressourcengruppe wie der Hub.
   • Speicherort: Wählen Sie einen Speicherort aus, an dem die Web-App bereitgestellt werden soll. Verwenden Sie denselben Speicherort wie der Hub.
   • Tarif: Wählen Sie einen Tarif für die Web-App aus.
   • Aktivieren des Chatverlaufs in der Web-App: Für das Tutorial ist das Feld Chatverlauf nicht ausgewählt. Durch Aktivieren des Features erhalten die Benutzende Zugriff auf ihre jeweiligen vorherigen Abfragen und Antworten. Weitere Informationen finden Sie in Chatverlaufshinweisen.

4. Klicken Sie auf Bereitstellen.

5. Warten Sie, bis die App bereitgestellt wird. Dieser Vorgang kann einige Minuten dauern.

6. Wenn sie bereit ist, ist die Schaltfläche Start auf der Symbolleiste aktiviert. Starten Sie die App noch nicht, und schließen Sie die Chat-Playground-Seite nicht. Sie kehren später wieder dorthin zurück.

Konfigurieren der Web-App-Authentifizierung

Standardmäßig können nur Sie auf die Web-App zugreifen. Fügen Sie in diesem Tutorial die Authentifizierung hinzu, um den Zugriff auf Mitglieder Ihres Azure-Mandanten einzuschränken. Benutzer melden sich mit ihrem Microsoft Entra-Konto an, um auf Ihre App zuzugreifen. Sie können einen ähnlichen Prozess ausführen, um bei Bedarf einen anderen Identitätsanbieter hinzuzufügen. Die App verwendet nur die Anmeldeinformationen des Benutzers, um zu überprüfen, ob sie Mitglied Ihres Mandanten sind.

1. Kehren Sie zur Browserregisterkarte mit dem Azure-Portal zurück, oder öffnen Sie das Azure-Portal auf einer neuen Browserregisterkarte. Zeigen Sie den Inhalt der Ressourcengruppe an, in der Sie die Web-App bereitgestellt haben. Möglicherweise müssen Sie die Ansicht aktualisieren, um die Web-App anzuzeigen.

2. Wählen Sie die App Service-Ressource aus der Liste der Ressourcen in der Ressourcengruppe aus.

3. Wählen Sie im reduzierbaren linken Menü unter Einstellungen die Option Authentifizierung aus.

   

4. Wenn Microsoft auf dieser Seite als Identitätsanbieter aufgelistet wird, ist nichts weiter erforderlich. Sie können den nächsten Schritt überspringen.

5. Fügen Sie einen Identitätsanbieter mit den folgenden Einstellungen hinzu:

   • Identitätsanbieter: Wählen Sie Microsoft als Identitätsanbieter aus. Die Standardeinstellungen auf dieser Seite beschränken die App nur auf Ihren Mandanten, sodass Sie hier nichts ändern müssen.
   • Mandantentyp: Mitarbeiter
   • App-Registrierung: Erstellen einer neuen App-Registrierung
   • Name: Der Name Ihres Web App-Diensts
   • Unterstützte Kontotypen: Aktueller Mandant – Einzelner Mandant
   • Zugriff einschränken: Erfordert Authentifizierung
   • Nicht authentifizierte Anforderungen: HTTP 302 Gefundene Umleitung – empfohlen für Websites

Verwenden der Web-App

Sie haben es fast geschafft. Jetzt können Sie die Web-App testen.

1. Wenn Sie Einstellungen geändert haben, warten Sie etwa 10 Minuten, bis die Authentifizierungseinstellungen wirksam werden.

2. Kehren Sie zur Browserregisterkarte mit der Chat-Playground-Seite im Foundry-Portal zurück.

3. Wählen Sie Starten aus, um die bereitgestellte Web-App zu öffnen. Wenn Sie dazu aufgefordert werden, akzeptieren Sie die Berechtigungsanforderung.

4. Wenn Starten im Playground nicht angezeigt wird, wählen Sie im linken Bereich Web-Apps aus, und wählen Sie dann Ihre App aus der Liste aus, um sie zu öffnen.

   Wenn die Authentifizierungseinstellungen noch nicht aktiv sind, schließen Sie die Browserregisterkarte für Ihre Web-App, und kehren Sie zum Chat-Playground im Foundry-Portal zurück. Warten Sie etwas länger, und versuchen Sie es dann erneut.

5. Stellen Sie in Ihrer Web-App die gleiche Frage wie zuvor („Wie viel kosten die TrailWalker Wanderschuhe“). Dieses Mal verwendet die App Informationen aus Ihren Daten, um die Antwort zu erstellen. Erweitern Sie die Schaltfläche Referenz aus, um die verwendeten Daten anzuzeigen.

   

Grundlegendes zum Chatverlauf

Mit dem Feature „Chatverlauf“ können Ihre Benutzer ihre vorherigen Abfragen und Antworten sehen.

Aktivieren Sie den Chatverlauf, wenn Sie die Web-App bereitstellen. Aktivieren Sie das Kontrollkästchen Chatverlauf in der Web-App aktivieren.

Von Bedeutung

Das Aktivieren des Chatverlaufs erstellt eine Cosmos DB-Instanz in Ihrer Ressourcengruppe und verursacht zusätzliche Gebühren für den verwendeten Speicher. Wenn Sie Ihre Web-App löschen, wird Ihre Cosmos DB-Instanz nicht automatisch gelöscht. Um Ihre Cosmos DB-Instanz und alle gespeicherten Chats zu löschen, wechseln Sie zur zugeordneten Ressource im Azure-Portal, und löschen Sie sie.

Nachdem Sie den Chatverlauf aktiviert haben, können Ihre Benutzer ihn oben rechts in der App ein- oder ausblenden. Wenn der Verlauf angezeigt wird, können sie Unterhaltungen umbenennen oder löschen. Während sie bei der App angemeldet sind, sind Unterhaltungen von der neuesten zur ältesten sortiert und basierend auf der ersten Abfrage in der Unterhaltung benannt.

Wenn Sie die Cosmos DB-Ressource löschen, aber die Option „Chatverlauf“ im Studio aktiviert lassen, sehen Ihre Benutzer einen Verbindungsfehler, können die Web-App jedoch ohne Chatverlauf weiterhin verwenden.

Aktualisieren der Web-App

Verwenden Sie den Playground, um weitere Daten hinzuzufügen oder das Modell mit verschiedenen Szenarien zu testen. Wenn Sie bereit sind, die Web-App mit dem neuen Modell zu aktualisieren, wählen Sie Bereitstellen > ...als Web-App erneut aus. Wählen Sie Vorhandene Web-App aktualisieren und dann in der Liste die vorhandene Web-App aus. Das neue Modell wird für die Web-App bereitgestellt.

Bereinigen von Ressourcen

Um unnötige Azure-Kosten zu vermeiden, löschen Sie die Ressourcen, die Sie in diesem Schnellstart erstellt haben, wenn Sie sie nicht benötigen. Verwalten Sie Ressourcen im Azure-Portal.

Verwandte Inhalte

• Erste Schritte beim Erstellen einer Chat-App mit dem prompt flow-SDK
• Erstellen einer benutzerdefinierten Chat-App mit dem Azure KI SDK