Wprowadzenie do przykładu czatu dla przedsiębiorstw platformy .NET przy użyciu programu RAG

W tym artykule pokazano, jak wdrożyć i uruchomić przykładową aplikację do czatu dla przedsiębiorstw dla platformy .NET. W tym przykładzie zaimplementowano aplikację do czatu przy użyciu języka C#, usługi Azure OpenAI Service i pobierania rozszerzonej generacji (RAG) w usłudze Azure AI Search, aby uzyskać odpowiedzi na temat korzyści pracowników w fikcyjnej firmie. Aplikacja czatu korzyści dla pracowników jest wypełniana plikami PDF, w tym podręcznikiem pracownika, dokumentem korzyści i listą ról i oczekiwań firmy.

• Wideo z pokazem

Rozpocznij teraz

Postępując zgodnie z instrukcjami w tym artykule, wykonasz następujące czynności:

• Wdrażanie aplikacji czatu na platformie Azure.
• Uzyskaj odpowiedzi na temat świadczeń pracowników.
• Zmień ustawienia, aby zmienić zachowanie odpowiedzi.

Po wykonaniu tej procedury możesz rozpocząć modyfikowanie nowego projektu przy użyciu kodu niestandardowego.

Ten artykuł jest częścią kolekcji artykułów, w których pokazano, jak utworzyć aplikację do czatu przy użyciu usługi Azure Open AI Service i usługi Azure AI Search.

Inne artykuły w kolekcji obejmują:

• Python
• JavaScript
• Java

Omówienie architektury

W tej przykładowej aplikacji fikcyjna firma o nazwie Contoso Electronics udostępnia pracownikom środowisko aplikacji do czatów, które zadaje pytania dotyczące korzyści, zasad wewnętrznych, a także opisów i ról.

Architektura aplikacji do czatu jest pokazana na poniższym diagramie:

• Interfejs użytkownika — interfejs czatu aplikacji jest aplikacją zestawu WebAssembly platformy Blazor. Ten interfejs akceptuje zapytania użytkownika, kieruje żądania do zaplecza aplikacji i wyświetla wygenerowane odpowiedzi.
• Zaplecze — zaplecze aplikacji jest interfejsem API ASP.NET Core Minimum. Zaplecze hostuje statyczną aplikację internetową Platformy Blazor i organizuje interakcje między różnymi usługami. Usługi używane w tej aplikacji obejmują:
  • Azure Cognitive Search — indeksuje dokumenty z danych przechowywanych na koncie usługi Azure Storage. Dzięki temu dokumenty można wyszukiwać przy użyciu funkcji wyszukiwania wektorowego.
  • Usługa Azure OpenAI — udostępnia duże modele językowe (LLM) do generowania odpowiedzi. Semantyczne jądro jest używane w połączeniu z usługą Azure OpenAI Service w celu organizowania bardziej złożonych przepływów pracy sztucznej inteligencji.

Koszt

Większość zasobów w tej architekturze używa warstwy cenowej podstawowa lub zużycie. Ceny użycia są oparte na użyciu, co oznacza, że płacisz tylko za to, czego używasz. Aby ukończyć ten artykuł, zostanie naliczona opłata, ale będzie ona minimalna. Po zakończeniu pracy z artykułem możesz usunąć zasoby, aby zatrzymać naliczanie opłat.

Aby uzyskać więcej informacji, zobacz Azure Samples: Cost in the sample repo (Przykłady platformy Azure: koszt w repozytorium przykładowym).

Wymagania wstępne

Środowisko kontenera deweloperskiego jest dostępne ze wszystkimi zależnościami wymaganymi do ukończenia tego artykułu. Kontener deweloperski można uruchomić w usłudze GitHub Codespaces (w przeglądarce) lub lokalnie przy użyciu programu Visual Studio Code.

Aby postępować zgodnie z tym artykułem, potrzebne są następujące wymagania wstępne:

Codespaces (zalecane)

1. Subskrypcja platformy Azure — utwórz bezpłatnie
2. Uprawnienia konta platformy Azure — Twoje konto platformy Azure musi mieć uprawnienia Microsoft.Authorization/roleAssignments/write, takie jak Administracja istrator dostępu użytkowników lub właściciel.
3. Dostęp udzielony usłudze Azure OpenAI w żądanej subskrypcji platformy Azure. Obecnie dostęp do tej usługi jest udzielany tylko przez aplikację. Możesz ubiegać się o dostęp do usługi Azure OpenAI, wypełniając formularz pod adresem https://aka.ms/oai/access. Otwórz problem w tym repozytorium, aby skontaktować się z nami, jeśli masz problem.
4. Konto usługi GitHub

Visual Studio Code

1. Subskrypcja platformy Azure — utwórz bezpłatnie
2. Uprawnienia konta platformy Azure — Twoje konto platformy Azure musi mieć uprawnienia Microsoft.Authorization/roleAssignments/write, takie jak Administracja istrator dostępu użytkowników lub właściciel.
3. Dostęp udzielony usłudze Azure OpenAI w żądanej subskrypcji platformy Azure. Obecnie dostęp do tej usługi jest udzielany tylko przez aplikację. Możesz ubiegać się o dostęp do usługi Azure OpenAI, wypełniając formularz pod adresem https://aka.ms/oai/access. Otwórz problem w tym repozytorium, aby skontaktować się z nami, jeśli masz problem.
4. Interfejs wiersza polecenia dla deweloperów platformy Azure
5. Docker Desktop — uruchom program Docker Desktop , jeśli jeszcze nie jest uruchomiony
6. Visual Studio Code
7. Rozszerzenie kontenera deweloperskiego

Otwieranie środowiska projektowego

Rozpocznij teraz od środowiska programistycznego, które ma zainstalowane wszystkie zależności, aby ukończyć ten artykuł.

GitHub Codespaces (zalecane)

Usługa GitHub Codespaces uruchamia kontener deweloperski zarządzany przez usługę GitHub za pomocą programu Visual Studio Code dla sieci Web jako interfejsu użytkownika. W przypadku najprostszego środowiska programistycznego użyj usługi GitHub Codespaces, aby wstępnie zainstalować odpowiednie narzędzia deweloperskie i zależności, aby ukończyć ten artykuł.

Ważne

Wszystkie konta usługi GitHub mogą korzystać z usługi Codespaces przez maksymalnie 60 godzin bezpłatnych każdego miesiąca z 2 podstawowymi wystąpieniami. Aby uzyskać więcej informacji, zobacz GitHub Codespaces monthly included storage and core hours (Miesięczne miejsca do magazynowania i godzin rdzeni usługi GitHub Codespaces).

1. Rozpocznij proces tworzenia nowego repozytorium GitHub Codespace main w Azure-Samples/azure-search-openai-demo-csharp gałęzi repozytorium GitHub.

2. Kliknij prawym przyciskiem myszy poniższy przycisk i wybierz pozycję Otwórz link w nowych oknach , aby jednocześnie udostępnić środowisko programistyczne i dokumentację.

   Otwórz ten projekt w usłudze GitHub Codespaces

3. Na stronie Tworzenie przestrzeni kodu przejrzyj ustawienia konfiguracji przestrzeni kodu, a następnie wybierz pozycję Utwórz nową przestrzeń kodu:

   

4. Poczekaj na uruchomienie przestrzeni kodu. Ten proces uruchamiania może potrwać kilka minut.

5. W terminalu w dolnej części ekranu zaloguj się do platformy Azure przy użyciu interfejsu wiersza polecenia dla deweloperów platformy Azure.

   azd auth login
   

6. Skopiuj kod z terminalu, a następnie wklej go w przeglądarce. Postępuj zgodnie z instrukcjami, aby uwierzytelnić się przy użyciu konta platformy Azure.

7. Pozostałe zadania w tym artykule mają miejsce w kontekście tego kontenera deweloperskiego.

Visual Studio Code

Rozszerzenie Dev Containers dla programu Visual Studio Code wymaga zainstalowania platformy Docker na komputerze lokalnym. Rozszerzenie hostuje kontener deweloperów lokalnie przy użyciu hosta platformy Docker z odpowiednimi narzędziami deweloperskich i wstępnie zainstalowanymi zależnościami, aby ukończyć ten artykuł.

1. Otwórz program Visual Studio Code w kontekście pustego katalogu.

2. Upewnij się, że masz zainstalowane rozszerzenie Dev Containers w programie Visual Studio Code.

3. Otwórz nowy terminal w edytorze.

   Napiwek

   Możesz użyć menu głównego, aby przejść do opcji menu Terminal, a następnie wybrać opcję Nowy terminal .

   

4. Zaloguj się na platformie Azure przy użyciu interfejsu wiersza polecenia dla deweloperów platformy Azure.

   azd auth login
   

   Po wyświetleniu monitu skopiuj kod z terminalu, a następnie wklej go w przeglądarce. Postępuj zgodnie z instrukcjami, aby uwierzytelnić się przy użyciu konta platformy Azure.

5. Utwórz folder i zainicjuj go, aby użyć przykładowego projektu za pomocą interfejsu wiersza polecenia dla deweloperów platformy Azure:

   azd init -t azure-search-openai-demo-csharp
   

   Nie musisz klonować tego repozytorium.

6. Otwórz paletę poleceń, wyszukaj polecenia Dev Containers, a następnie wybierz pozycję Dev Containers: Otwórz ponownie w kontenerze.

   Napiwek

   Program Visual Studio Code może automatycznie monitować o ponowne otwarcie istniejącego folderu w kontenerze programistycznym. Jest to funkcjonalnie równoważne użyciu palety poleceń w celu ponownego otwarcia bieżącego obszaru roboczego w kontenerze.

7. Pozostałe ćwiczenia w tym projekcie mają miejsce w kontekście tego kontenera deweloperskiego.

Wdrażanie i uruchamianie

Przykładowe repozytorium zawiera wszystkie pliki kodu i konfiguracji, które należy wdrożyć na platformie Azure. W poniższych krokach przedstawiono proces wdrażania przykładu na platformie Azure.

Wdrażanie aplikacji czatu na platformie Azure

Ważne

Zasoby platformy Azure utworzone w tej sekcji powodują natychmiastowe koszty, głównie z zasobu usługi Azure AI Search. Te zasoby mogą naliczać koszty nawet w przypadku przerwania działania polecenia przed jego pełnym wykonaniem.

1. Uruchom następujące polecenie interfejsu wiersza polecenia dla deweloperów platformy Azure, aby aprowizować zasoby platformy Azure i wdrożyć kod źródłowy:

   azd up
   

2. Po wyświetleniu monitu o wprowadzenie nazwy środowiska zachowaj krótkie i małe litery. Na przykład myenv. Jest używana jako część nazwy grupy zasobów.

3. Po wyświetleniu monitu wybierz subskrypcję, w ramach których chcesz utworzyć zasoby.

4. Po wyświetleniu monitu o wybranie lokalizacji po raz pierwszy wybierz lokalizację w pobliżu. Ta lokalizacja jest używana dla większości zasobów, w tym hostingu.

5. Jeśli zostanie wyświetlony monit o lokalizację modelu OpenAI, wybierz lokalizację znajdującą się blisko Ciebie. Jeśli ta sama lokalizacja jest dostępna jako pierwsza lokalizacja, wybierz tę lokalizację.

6. Poczekaj na wdrożenie aplikacji. Ukończenie wdrożenia może potrwać do 20 minut.

7. Po pomyślnym wdrożeniu aplikacji w terminalu zostanie wyświetlony adres URL.

8. Wybierz ten adres URL oznaczony Deploying service web etykietą, aby otworzyć aplikację czatu w przeglądarce.

   

Uzyskiwanie odpowiedzi z plików PDF przy użyciu aplikacji do czatu

Aplikacja do czatu jest wstępnie ładowana z informacjami o korzyściach pracowników z plików PDF. Możesz użyć aplikacji do czatu, aby zadawać pytania dotyczące korzyści. Poniższe kroki przeprowadzą Cię przez proces korzystania z aplikacji do czatu.

1. W przeglądarce przejdź do strony Czat przy użyciu nawigacji po lewej stronie.

2. W polu tekstowym czatu wybierz lub wprowadź "Co jest uwzględnione w planie Northwind Health Plus, który nie jest standardowy?"

   

3. W odpowiedzi wybierz cytat. Zostanie otwarte okno podręczne z wyświetlonym źródłem informacji.

   

4. Przejdź między kartami w górnej części pola odpowiedzi, aby dowiedzieć się, jak została wygenerowana odpowiedź.

   Karta	opis
   Proces myślowy	Jest to skrypt interakcji w czacie. Możesz wyświetlić monit systemowy (content) i pytanie użytkownika (content).
   Zawartość pomocnicza	Obejmuje to informacje, aby odpowiedzieć na twoje pytanie i materiał źródłowy. Liczba cytatów materiałów źródłowych jest zanotowana w ustawieniach dewelopera. Wartość domyślna to 3.
   Odsyłacz bibliograficzny	Spowoduje to wyświetlenie strony źródłowej zawierającej cytat.

5. Po zakończeniu przejdź z powrotem do karty odpowiedzi.

Zmienianie zachowania odpowiedzi przy użyciu ustawień aplikacji czatu

Analiza czatu jest określana przez model OpenAI i ustawienia używane do interakcji z modelem.

Ustawienie	opis
Zastępowanie szablonu monitu	Jest to monit używany do wygenerowania odpowiedzi.
Pobieranie tych wielu wyników wyszukiwania	Jest to liczba wyników wyszukiwania, które są używane do generowania odpowiedzi. Te źródła są widoczne na karcie Proces myślowy i Zawartość pomocnicza cytatu.
Wyklucz kategorię	Jest to kategoria dokumentów wykluczonych z wyników wyszukiwania.
Używanie semantycznego rangatora do pobierania	Jest to funkcja usługi Azure AI Search , która używa uczenia maszynowego do poprawy istotności wyników wyszukiwania.
Tryb pobierania	Wektory + tekst oznacza, że wyniki wyszukiwania są oparte na tekście dokumentów i osadzaniu dokumentów. Wektory oznaczają, że wyniki wyszukiwania są oparte na osadzaniu dokumentów. Tekst oznacza, że wyniki wyszukiwania są oparte na tekście dokumentów.
Używanie podsumowań kontekstowych zapytań zamiast całych dokumentów	Po zaznaczeniu obu Use semantic ranker elementów i Use query-contextual summaries funkcja LLM używa podpis wyodrębnionych z kluczowych fragmentów, zamiast wszystkich fragmentów, w dokumentach o najwyższej rangi.
Sugerowanie pytań dotyczących kontynuacji	Zasugeruj aplikację czatu na podstawie odpowiedzi na następujące pytania.

Poniższe kroki przeprowadzą Cię przez proces zmieniania ustawień.

1. W przeglądarce wybierz ikonę koła zębatego w prawym górnym rogu strony.

2. Zaznacz pole wyboru Sugerowanie pytań kontrolnych i zadawaj to samo pytanie ponownie.

   What is my deductible?
   

   Czat zwraca sugestie dotyczące pytań, takie jak następujące:

   • "Co to jest udostępnianie kosztów dla usług poza siecią?"
   • "Czy usługi opieki prewencyjnej podlegają odliczeniu?"
   • "Jak działa lek odliczalny na receptę?"

3. Na karcie Ustawienia usuń zaznaczenie pozycji Użyj semantycznego rangi do pobierania.

4. Zadaj to samo pytanie ponownie.

   What is my deductible?
   

5. Jaka jest różnica w odpowiedziach?

   Odpowiedź, która użyła klasyfikatora semantycznego, dostarczyła jedną odpowiedź: The deductible for the Northwind Health Plus plan is $2,000 per year.

   Odpowiedź bez semantycznego rankingu zwróciła mniej bezpośrednią odpowiedź: Based on the information provided, it is unclear what your specific deductible is. The Northwind Health Plus plan has different deductible amounts for in-network and out-of-network services, and there is also a separate prescription drug deductible. I would recommend checking with your provider or referring to the specific benefits details for your plan to determine your deductible amount.

Czyszczenie zasobów

Czyszczenie zasobów platformy Azure

Zasoby platformy Azure utworzone w tym artykule są rozliczane z subskrypcją platformy Azure. Jeśli nie spodziewasz się, że te zasoby będą potrzebne w przyszłości, usuń je, aby uniknąć naliczania dodatkowych opłat.

Uruchom następujące polecenie interfejsu wiersza polecenia dla deweloperów platformy Azure, aby usunąć zasoby platformy Azure i usunąć kod źródłowy:

azd down --purge

Czyszczenie usługi GitHub Codespaces

GitHub Codespaces

Usunięcie środowiska Usługi GitHub Codespaces gwarantuje, że możesz zmaksymalizować ilość bezpłatnych godzin na godziny korzystania z konta.

Ważne

Aby uzyskać więcej informacji na temat uprawnień konta usługi GitHub, zobacz Artykuł GitHub Codespaces monthly included storage and core hours (Miesięczne miejsca do magazynowania i godzin rdzeni w usłudze GitHub).

1. Zaloguj się do pulpitu nawigacyjnego usługi GitHub Codespaces (https://github.com/codespaces).

2. Znajdź aktualnie uruchomione przestrzenie kodu pochodzące z Azure-Samples/azure-search-openai-demo-csharp repozytorium GitHub.

   

3. Otwórz menu kontekstowe dla przestrzeni kodu, a następnie wybierz pozycję Usuń.

   

Visual Studio Code

Nie musisz czyścić środowiska lokalnego, ale możesz zatrzymać uruchomiony kontener deweloperów i wrócić do uruchamiania programu Visual Studio Code w kontekście lokalnego obszaru roboczego.

1. Otwórz paletę poleceń, wyszukaj polecenia Dev Containers, a następnie wybierz pozycję Dev Containers: Otwórz ponownie folder lokalnie.

   

Napiwek

Program Visual Studio Code zatrzyma uruchomiony kontener deweloperów, ale kontener nadal istnieje na platformie Docker w stanie zatrzymanym. Zawsze możesz usunąć wystąpienie kontenera, obraz kontenera i woluminy z platformy Docker, aby zwolnić więcej miejsca na komputerze lokalnym.

Uzyskaj pomoc

To przykładowe repozytorium oferuje informacje dotyczące rozwiązywania problemów.

Jeśli problem nie został rozwiązany, zarejestruj problem w repozytorium Problemy.

Następne kroki

• Repozytorium GitHub aplikacji do czatów dla przedsiębiorstw
• Tworzenie aplikacji do czatu przy użyciu architektury rozwiązania najlepszych rozwiązań usługi Azure OpenAI
• Kontrola dostępu w aplikacjach generacyjnych sztucznej inteligencji za pomocą usługi Azure AI Search
• Tworzenie gotowego do użycia rozwiązania OpenAI dla przedsiębiorstw za pomocą usługi Azure API Management
• Wyszukiwanie wektorów przewyższających przy użyciu funkcji pobierania hybrydowego i klasyfikowania