Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Gilt nur für:klassisches Foundry Portal. Dieser Artikel ist für das neue Foundry-Portal nicht verfügbar.
Erfahren Sie mehr über das neue Portal.
Hinweis
Links in diesem Artikel können Inhalte in der neuen Microsoft Foundry-Dokumentation anstelle der jetzt angezeigten Foundry-Dokumentation (klassisch) öffnen.
In diesem Artikel stellen Sie eine Web-App für Unternehmenschats bereit, die Ihre Daten mit einem großen Sprachmodell im Microsoft Foundry-Portal verwendet.
Ihre Datenquelle begründet das Modell mit bestimmten Daten. Einbettung bedeutet, dass das Modell Ihre Daten nutzt, um den Kontext Ihrer Frage zu erfassen. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten bleiben in Ihrer ursprünglichen Datenquelle getrennt und sicher.
Die Schritte in diesem Lernprogramm sind:
- Ressourcen konfigurieren.
- Fügen Sie Ihre Daten hinzu.
- Testen Sie das Modell mit Ihren Daten.
- Stellen Sie Ihre Web-App bereit.
Voraussetzungen
Wichtig
Dieser Artikel bietet Unterstützung älterer Systeme für hub-basierte Projekte. Es funktioniert nicht für Foundry-Projekte. Sehen Sie , wie Sie wissen, welche Art von Projekt Sie haben?
SDK-Kompatibilitätshinweis: Codebeispiele erfordern eine bestimmte Microsoft Foundry SDK-Version. Wenn Kompatibilitätsprobleme auftreten, sollten Sie die Migration von einem hubbasierten zu einem Foundry-Projekt in Betracht ziehen.
- Ein Azure Konto mit einem aktiven Abonnement. Wenn Sie kein Konto haben, erstellen Sie ein free Azure Konto, das ein kostenloses Testabonnement enthält.
- Wenn Sie über keins verfügen, erstellen Sie ein hubbasiertes Projekt.
Ein deployed Azure OpenAI-Chatmodell. Beenden Sie die Schnellstartanleitung für den Gießerei-Playground, um diese Ressource zu erstellen, wenn Sie noch keinen haben.
Eine Suchdienst-Verbindung zum Indizieren der Beispielproduktdaten. Wenn Sie keinen haben, führen Sie die Schritte zum Erstellen und Verbinden eines Suchdiensts aus.
Eine lokale Kopie von Produktdaten. Das Azure-Samples/rag-data-openai-python-promptflow-Repository auf GitHub enthält Beispielinformationen zu Einzelhandelsprodukten für dieses Tutorialszenario. Die
product_info_11.mdDatei enthält Produktinformationen zu den TrailWalker-Wanderschuhen für dieses Lernprogrammbeispiel. Laden Sie die Beispielproduktdaten von Contoso Trek im Einzelhandel als ZIP-Datei auf Ihren lokalen Computer herunter.Ein Microsoft. Web Ressourcenanbieter, der im ausgewählten Abonnement registriert ist, damit Sie sie in einer Web-App bereitstellen können. Weitere Informationen zum Registrieren eines Ressourcenanbieters finden Sie unter Registrieren des Ressourcenanbieters.
Erforderliche Berechtigungen zum Hinzufügen von Rollenzuweisungen in Ihrem Azure-Abonnement. Nur der Besitzer der spezifischen Azure Ressourcen kann Berechtigungen nach Rollenzuweisung erteilen.
Gießereiportal und Azure Portal
In diesem Lernprogramm führen Sie einige Aufgaben im Foundry-Portal und einige Aufgaben im Azure-Portal aus.
Das Foundry-Portal ist eine webbasierte Umgebung zum Erstellen, Trainieren und Bereitstellen von KI-Modellen. Als Entwickler können Sie Ihre Chatwebanwendung erstellen und bereitstellen.
Mit dem Azure-Portal kann ein Administrator Azure Ressourcen verwalten und überwachen. Als Administrator verwenden Sie das Portal, um Einstellungen für unterschiedliche Azure Dienste einzurichten, die für den Zugriff über die Web-App erforderlich sind.
Konfigurieren von Ressourcen
Wichtig
Sie müssen über die erforderlichen Berechtigungen zum Hinzufügen von Rollenzuweisungen in Ihrem Azure-Abonnement verfügen. Das Erteilen von Berechtigungen nach Rollenzuweisung ist nur vom Besitzer der spezifischen Azure-Ressourcen zulässig. Möglicherweise müssen Sie Ihren Azure Abonnementbesitzer (der möglicherweise Ihr IT-Administrator ist) bitten, diesen Abschnitt für Sie abzuschließen.
Damit die Ressourcen in einer Web-App ordnungsgemäß funktionieren, richten Sie die richtigen Berechtigungen im Azure Portal ein.
Identifizieren Sie zunächst die Ressourcen, die Sie im Foundry-Portal einrichten müssen.
Öffnen Sie das Foundry-Portal und wählen Sie dann das hubbasierte Projekt aus, das Sie zum Bereitstellen des Azure OpenAI-Chatmodells verwendet haben.
Wählen Sie im linken Bereich das Verwaltungscenter aus.
Wählen Sie verbundene Ressourcen unter Ihrem Projekt aus.
Identifizieren Sie die drei zu konfigurierenden Ressourcen: die Azure OpenAI, die Azure KI-Suche und den Azure Blob Storage die Ihrem workspaceblobstore entsprechen.
Tipp
Wenn " Typ " in der Tabelle nicht angezeigt wird, wählen Sie "Spalten " in der oberen rechten Ecke aus, und fügen Sie die ausgewählten Spalten hinzu oder ordnen Sie sie neu an. Wenn Sie über mehrere Azure OpenAI-Ressourcen verfügen, verwenden Sie die Ressource, die Ihr bereitgestelltes Chatmodell enthält.
Suchen Sie im portal Azure nach jedem dieser Namen. Öffnen Sie jeden in einem neuen Tab, damit Sie zwischen ihnen wechseln können.
Wenn Sie fertig sind, haben Sie drei neue Registerkarten in Ihrem Browser geöffnet: Suchdienst, Foundry und Blobstore-Container. Lassen Sie alle drei Registerkarten geöffnet, da Sie zwischen ihnen wechseln, um die Ressourcen zu konfigurieren.
Aktivieren der verwalteten Identität
Aktivieren Sie auf der Registerkarte "Browser" für den Dienst Search im Azure-Portal die verwaltete Identität:
- Wählen Sie im linken Bereich unter "Einstellungen" die Option "Identität" aus.
- Schalten Sie den Status auf Ein.
- Wählen Sie "Speichern" aus.
Aktivieren Sie auf der Registerkarte "Browser" für die Ressource Foundry im Azure-Portal die verwaltete Identität:
- Wählen Sie im linken Bereich unter "Ressourcenverwaltung" die Option "Identität" aus.
- Schalten Sie Status auf Ein.
- Wählen Sie "Speichern" aus.
Festlegen der Zugriffssteuerung für die Suche
Legen Sie auf der Registerkarte "Browser" für den Dienst Search im portal Azure die API-Zugriffsrichtlinie fest:
- Wählen Sie im linken Bereich unter "Einstellungen"die Option "Schlüssel" aus.
- Wählen Sie unter API-Zugriffssteuerungbeides aus.
- Wenn Sie dazu aufgefordert werden, wählen Sie "Ja " aus, um dies zu bestätigen.
Zuweisen von Rollen
Wiederholen Sie dieses Muster für jede Ressource in den folgenden Schritten.
Das allgemeine Muster zum Zuweisen der rollenbasierten Zugriffssteuerung (RBAC) für jede Ressource lautet:
- Navigieren Sie zum Azure Portal für die angegebene Ressource.
- Wählen Sie auf der linken Seite im Azure-Portal Zugriffssteuerung (IAM) aus.
- Wählen Sie + Hinzufügen>Rollenzuweisung hinzufügen.
- Suchen Sie nach der Rolle, die Sie zuweisen müssen, und wählen Sie sie aus. Wählen Sie dann "Weiter" aus.
- Beim Zuweisen einer Rolle zu sich selbst:
- Wählen Sie "Benutzer", "Gruppe" oder "Dienstprinzipal" aus.
- Wählen Sie "Mitglieder auswählen" aus.
- Suchen Sie nach Ihrem Namen, und wählen Sie ihn aus.
- Beim Zuweisen einer Rolle zu einer anderen Ressource:
- Wählen Sie verwaltete Identität aus.
- Wählen Sie "Mitglieder auswählen" aus.
- Verwenden Sie die Dropdownliste, um den Typ der Ressource zu finden, die Sie zuweisen möchten. Beispiel: Foundry Tools oder Suchdienst.
- Wählen Sie die Ressource aus der angezeigten Liste aus. Möglicherweise gibt es nur einen, aber Sie müssen es trotzdem auswählen.
- Fahren Sie mit dem Assistenten fort, und wählen Sie "Überprüfen+ Zuweisen " aus, um die Rollenzuweisung hinzuzufügen.
Gehen Sie folgendermaßen vor, um rollen für die Ressourcen zuzuweisen, die Sie in diesem Lernprogramm eingerichtet haben:
Weisen Sie diese Rollen auf der Registerkarte "Browser" für Search-Dienst im Azure-Portal zu:
- Suchindexdatenleser für die Foundry-verwaltete Identität
- Suchdienstmitwirkender für die verwaltete Identität der Foundry
- Mitwirkender für sich selbst (um "Mitwirkender" zu finden, wechseln Sie oben zur Registerkarte "Privilegierte Administratorrollen". Alle anderen Rollen befinden sich auf der Registerkarte "Aufgabenrollen".)
Weisen Sie diese Rollen auf der Registerkarte "Browser" für Foundry im Azure-Portal zu:
- Cognitive Services OpenAI-Beitragender zur verwalteten Identität des Suchdienstes
- Mitwirkender für sich selbst.
Weisen Sie diese Rollen auf der Registerkarte "Browser" für Azure Blob Storage im Azure-Portal zu:
- Speicher-Blob-Daten-Mitarbeiter der verwalteten Identität von Foundry
- Speicher-Blob-Datenleser für die verwaltete Suchdienst-Identität
- Mitwirkender zu sich selbst
Sie haben die Einrichtung von Ressourcen abgeschlossen. Sie können die Registerkarten des Azure Portalbrowsers jetzt schließen, wenn Sie möchten.
Fügen Sie Ihre Daten hinzu, und versuchen Sie es erneut mit dem Chatmodell.
Im Schnellstart des Foundry-Playgrounds (das ist eine Voraussetzung für dieses Lernprogramm) sehen Sie, wie Ihr Modell ohne Ihre Daten reagiert. Fügen Sie dem Modell Ihre Daten hinzu, damit sie Fragen zu Ihren Produkten beantworten kann.
Um diesen Abschnitt abzuschließen, benötigen Sie eine lokale Kopie von Produktdaten. Das GitHub-Repository Azure-Samples/rag-data-openai-python-promptflow enthält Beispiel-Produktinformationen, die für dieses Tutorial-Szenario relevant sind. Insbesondere enthält die product_info_11.md Datei Produktinformationen zu den TrailWalker Wanderschuhen, die für dieses Lernprogrammbeispiel relevant sind.
Laden Sie die Beispielproduktdaten von Contoso Trek im Einzelhandel als ZIP-Datei auf Ihren lokalen Computer herunter.
Führen Sie die folgenden Schritte aus, um Ihre Daten im Chat-Playground hinzuzufügen, damit der Assistent Fragen zu Ihren Produkten beantworten kann. Sie ändern das bereitgestellte Modell selbst nicht. Ihre Daten werden separat und sicher in Ihrem Azure-Abonnement gespeichert.
Wechseln Sie zu Ihrem Projekt in Microsoft Foundry.
Wählen Sie im linken Bereich "Playgrounds" aus.
Wählen Sie "Probieren Sie den Chat-Playground aus".
Wählen Sie Ihr bereitgestelltes Chatmodell aus der Dropdownliste "Bereitstellung" aus.
Wählen Sie auf der linken Seite des Chat-Playgrounds "Daten> hinzufügen" aus, und fügen Sie eine neue Datenquelle hinzu.
Wählen Sie im Dropdownmenü "Datenquelle " die Option "Dateien hochladen" aus.
Wählen Sie „Hochladen“>„Dateien hochladen“, um Ihre lokalen Dateien zu durchsuchen.
Wählen Sie die Dateien aus, die Sie hochladen möchten. Wählen Sie die Produktdateien aus, die Sie heruntergeladen oder zuvor erstellt haben. Fügen Sie jetzt alle Dateien hinzu. Sie können später in derselben Playground-Sitzung keine weiteren Dateien hinzufügen.
Wählen Sie Upload aus, um die Datei in Ihr Azure Blob-Speicherkonto hochzuladen. Wählen Sie dann "Weiter" aus.
Wählen Sie Ihren Azure KI-Suche-Dienst aus.
Geben Sie für den Namen des Vector-IndexesProduktinformationen ein, und wählen Sie "Weiter" aus.
Deaktivieren Sie auf der Seite "Sucheinstellungen " unter " Vektoreinstellungen" das Kontrollkästchen "Vektorsuche zu dieser Suchressource hinzufügen ". Diese Einstellung bestimmt, wie das Modell auf Anforderungen reagiert. Wählen Sie dann "Weiter" aus.
Hinweis
Wenn Sie die Vektorsuche hinzufügen, stehen hier weitere Optionen für zusätzliche Kosten zur Verfügung.
Überprüfen Sie Ihre Einstellungen, und wählen Sie "Vektorindex erstellen" aus.
Im Playground können Sie sehen, dass ihre Datenaufnahme ausgeführt wird. Dieser Vorgang kann mehrere Minuten dauern. Warten Sie, bevor Sie fortfahren, bis die Datenquelle und der Indexname anstelle des Status angezeigt werden.
Sie können jetzt mit dem Modell chatten, das dieselbe Frage wie zuvor gestellt hat ("Wie viel sind die TrailWalker Wanderschuhe"), und dieses Mal verwendet es Informationen aus Ihren Daten, um die Antwort zu erstellen. Sie können die Schaltfläche "Verweise " erweitern, um die verwendeten Daten anzuzeigen.
Bereitstellen Ihrer Web-App
Wenn Sie mit der Erfahrung im Foundry-Portal zufrieden sind, stellen Sie das Modell als eigenständige Webanwendung bereit.
Finden Sie Ihre Ressourcengruppe im Azure-Portal
In dieser Anleitung stellen Sie Ihre Web-App in derselben Ressourcengruppe bereit wie Ihr Foundry-Hub. Sie richten die Authentifizierung für die Web-App im Azure-Portal ein.
Führen Sie die folgenden Schritte aus, um zur Ressourcengruppe im Azure-Portal zu wechseln:
Wechseln Sie zu Ihrem Projekt in Foundry. Wählen Sie im linken Bereich das Verwaltungscenter aus.
Wählen Sie unter der Überschrift ProjectOverview aus.
Wählen Sie den Namen der Ressourcengruppe aus, um die Ressourcengruppe im Azure-Portal zu öffnen. In diesem Beispiel wird die Ressourcengruppe benannt
rg-sdg-ai.Sie befinden sich jetzt im Azure-Portal und sehen den Inhalt der Ressourcengruppe an, in der Sie den Hub bereitgestellt haben. Notieren Sie sich den Namen und den Speicherort der Ressourcengruppe. Sie verwenden diese Informationen im nächsten Abschnitt.
Lassen Sie diese Seite in einem Browsertab geöffnet. Sie kehren später dorthin zurück.
Bereitstellen der Web-App
Die Veröffentlichung erstellt einen Azure App Service in Ihrem Abonnement. Je nach ausgewähltem Preisplan können Kosten anfallen. Wenn Sie mit Ihrer App fertig sind, löschen Sie sie aus dem Azure-Portal.
So stellen Sie die Web-App bereit:
Wichtig
Registrieren Sie Microsoft. Web als Ressourcenanbieter vor der Bereitstellung in einer Web-App.
Führen Sie die Schritte im vorherigen Abschnitt aus, um Ihre Daten zur Testumgebung hinzuzufügen. Sie können eine Web-App mit oder ohne eigene Daten bereitstellen, aber Sie benötigen ein bereitgestelltes Modell, wie im Schnellstart des Foundry-Playgrounds beschrieben.
Wählen Sie „Veröffentlichen” > ... als Webanwendung.
Geben Sie auf der Seite "In einer Web App bereitstellen " die folgenden Details ein:
- Name: Ein eindeutiger Name für Ihre Web-App.
-
Subscription: Ihr Azure-Abonnement. Wenn keine verfügbaren Abonnements angezeigt werden, registrieren Sie zuerst
Microsoft.Web als Ressourcenanbieter . - Ressourcengruppe: Wählen Sie eine Ressourcengruppe aus, in der die Web-App bereitgestellt werden soll. Verwenden Sie dieselbe Ressourcengruppe wie der Hub.
- Speicherort: Wählen Sie einen Speicherort aus, an dem die Web-App bereitgestellt werden soll. Verwenden Sie denselben Speicherort wie der Hub.
- Preisplan: Wählen Sie einen Preisplan für die Web-App aus.
- Aktivieren des Chatverlaufs in der Web-App: Für das Lernprogramm ist das Chatverlaufsfeld nicht ausgewählt. Wenn Sie das Feature aktivieren, haben Ihre Benutzer Zugriff auf ihre einzelnen vorherigen Abfragen und Antworten. Weitere Informationen finden Sie in den Hinweisen zum Chatverlauf.
Wählen Sie "Bereitstellen" aus.
Warten Sie, bis die App bereitgestellt wird. Dieser Vorgang kann einige Minuten dauern.
Wenn sie bereit ist, ist die Schaltfläche " Start " auf der Symbolleiste aktiviert. Starten Sie die App noch nicht, und schließen Sie die Chat-Playground-Seite nicht – Sie kehren später wieder dorthin zurück.
Konfigurieren der Web-App-Authentifizierung
Standardmäßig können Sie nur auf die Web-App zugreifen. Fügen Sie in diesem Lernprogramm die Authentifizierung hinzu, um den Zugriff auf Mitglieder Ihres Azure Mandanten einzuschränken. Benutzer melden sich mit ihrem Microsoft Entra Konto an, um auf Ihre App zuzugreifen. Sie können einem ähnlichen Prozess folgen, um bei Bedarf einen anderen Identitätsanbieter hinzuzufügen. Die App verwendet nur die Anmeldeinformationen des Benutzers, um zu überprüfen, ob sie Mitglied Ihres Mandanten sind.
Kehren Sie mit dem Azure-Portal zur Browserregisterkarte zurück, oder öffnen Sie das Azure Portal in einer neuen Browserregisterkarte. Zeigen Sie den Inhalt der Ressourcengruppe an, in der Sie die Web-App bereitgestellt haben. Möglicherweise müssen Sie die Ansicht aktualisieren, um die Web-App anzuzeigen.
Wählen Sie die App Service-Ressource aus der Liste der Ressourcen in der Ressourcengruppe aus.
Wählen Sie im reduzierbaren linken Menü unter "Einstellungen" die Option "Authentifizierung" aus.
Wenn Microsoft als Identitätsanbieter auf dieser Seite aufgelistet ist, müssen Sie nichts weiter tun. Sie können den nächsten Schritt überspringen.
Fügen Sie einen Identitätsanbieter mit den folgenden Einstellungen hinzu:
- Identity-Anbieter: Wählen Sie Microsoft als Identitätsanbieter aus. Die Standardeinstellungen auf dieser Seite beschränken die App nur auf Ihren Mandanten, sodass Sie hier nichts anderes ändern müssen.
- Mandantentyp: Mitarbeiter
- App-Registrierung: Erstellen einer neuen App-Registrierung
- Name: Der Name Ihres Web App-Diensts
- Unterstützte Kontotypen: Aktueller Mandant – Einzelner Mandant
- Zugriff einschränken: Erfordert Authentifizierung
- Nicht authentifizierte Anforderungen: HTTP 302 Weiterleitung gefunden – empfohlen für Websites
Verwenden der Web-App
Sie sind fast da. Jetzt können Sie die Web-App testen.
Wenn Sie Einstellungen geändert haben, warten Sie etwa 10 Minuten, bis die Authentifizierungseinstellungen wirksam werden.
Kehren Sie zurück zu dem Browser-Tab mit der Chat-Spielplatz-Seite im Foundry Portal.
Wählen Sie "Starten" aus, um die bereitgestellte Web-App zu öffnen. Wenn Sie dazu aufgefordert werden, akzeptieren Sie die Berechtigungsanforderung.
Wenn "Starten" im Playground nicht angezeigt wird, wählen Sie "Web-Apps " im linken Bereich aus, und wählen Sie dann Ihre App aus der Liste aus, um sie zu öffnen.
Wenn die Authentifizierungseinstellungen noch nicht aktiv sind, schließen Sie die Browserregisterkarte für Ihre Web-App, und kehren Sie zum Chat-Playground im Foundry-Portal zurück. Warten Sie etwas länger, und versuchen Sie es dann erneut.
Stellen Sie in Ihrer Web-App die gleiche Frage wie zuvor ("Wie viel sind die TrailWalker Wanderschuhe"). Diesmal verwendet die App Informationen aus Ihren Daten, um die Antwort zu erstellen. Erweitern Sie die Referenzschaltfläche , um die verwendeten Daten anzuzeigen.
Verstehen des Chatverlaufs
Mit dem Feature "Chatverlauf" können Ihre Benutzer ihre vorherigen Abfragen und Antworten sehen.
Aktivieren Sie den Chatverlauf, wenn Sie die Web-App bereitstellen. Aktivieren Sie das Kontrollkästchen "Chatverlauf aktivieren" in der Web-App .
Wichtig
Das Aktivieren des Chatverlaufs erstellt eine Cosmos DB-Instanz in Ihrer Ressourcengruppe und verursacht zusätzliche Gebühren für den verwendeten Speicher. Durch das Löschen Ihrer Web-App wird Ihre Cosmos DB-Instanz nicht automatisch gelöscht. Um Ihre Cosmos DB-Instanz und alle gespeicherten Chats zu löschen, wechseln Sie zur zugeordneten Ressource im Azure-Portal, und löschen Sie sie.
Nachdem Sie den Chatverlauf aktiviert haben, können Ihre Benutzer ihn in der oberen rechten Ecke der App ein- oder ausblenden. Wenn der Verlauf angezeigt wird, können sie Unterhaltungen umbenennen oder löschen. Während sie in der App angemeldet sind, werden Unterhaltungen von der neuesten zur ältesten sortiert und nach der ersten Abfrage in der jeweiligen Unterhaltung benannt.
Wenn Sie die Cosmos DB-Ressource löschen, aber die Option "Chatverlauf" im Studio aktiviert lassen, sehen Ihre Benutzer einen Verbindungsfehler, können die Web-App jedoch weiterhin ohne Chatverlauf verwenden.
Aktualisieren der Web-App
Verwenden Sie den Playground, um weitere Daten hinzuzufügen oder das Modell mit verschiedenen Szenarien zu testen. Wenn Sie bereit sind, die Web-App mit dem neuen Modell zu aktualisieren, wählen Sie erneut Bereitstellen > ...als Web-App aus. Wählen Sie "Vorhandene Web-App aktualisieren" und dann in der Liste die vorhandene Web-App aus. Das neue Modell wird für die vorhandene Web-App bereitgestellt.
Bereinigen von Ressourcen
Um unnötige Azure Kosten zu vermeiden, löschen Sie die in dieser Schnellstartanleitung erstellten Ressourcen, wenn Sie sie nicht benötigen. Verwalten Sie Ressourcen im Azure-Portal.