Aan de slag met Serverloze AI Chat met RAG met behulp van LangChain.js

Het maken van AI-apps kan complex zijn. Met LangChain.js-, Azure Functions- en serverloze technologieën kunt u dit proces vereenvoudigen. Deze hulpprogramma's beheren infrastructuur en schaal automatisch, zodat u zich kunt richten op chatbotfunctionaliteit. De chatbot maakt gebruik van ondernemingsdocumenten om AI-antwoorden te genereren.

De code bevat voorbeeldgegevens voor een fictief bedrijf, Contoso Real Estate. Klanten kunnen ondersteuningsvragen stellen over de producten van het bedrijf. De gegevens bevatten documenten over de servicevoorwaarden, het privacybeleid en de ondersteuningshandleiding van het bedrijf.

Notitie

In dit artikel worden een of meer AI-app-sjablonen gebruikt als basis voor de voorbeelden en richtlijnen in het artikel. AI-app-sjablonen bieden u een goed onderhouden, eenvoudig te implementeren referentie-implementaties die u helpen een startpunt van hoge kwaliteit voor uw AI-apps te garanderen.

Architectuuroverzicht

De chat-app

De gebruiker communiceert met de toepassing:

• Met de chatinterface in de clientweb-app.
• De clientweb-app verzendt de query van de gebruiker naar de serverloze API via HTTP-aanroepen.
• De serverloze API maakt een keten voor het coördineren van interacties tussen Azure AI en Azure AI Search om een antwoord te genereren.
• Als er naar de documenten moet worden verwezen, wordt Azure Blob Storage gebruikt om de PDF-documenten op te halen.
• Het gegenereerde antwoord wordt vervolgens teruggestuurd naar de web-app en weergegeven aan de gebruiker.

In het volgende diagram ziet u een eenvoudige architectuur van de chat-app:

LangChainjs vereenvoudigt de complexiteit tussen services

De API-stroom is handig om te begrijpen hoe LangChainJS nuttig is in dit scenario door de interacties te abstraheren. Het serverloze API-eindpunt:

• Ontvangt de vraag van de gebruiker.
• Hiermee maakt u clientobjecten:
  • Azure OpenAI voor insluiten en chatten
  • Azure AI Search voor het vectorarchief
• Hiermee maakt u een documentketen met het LLM-model, het chatbericht (systeem- en gebruikersprompts) en de documentbron.
• Hiermee maakt u een ophaalketen van de documentketen en het vectorarchief.
• Hiermee worden de antwoorden van de ophaalketen gestreamd.

Het werk van de ontwikkelaar is het correct configureren van de afhankelijkhedenservices, zoals Azure OpenAI en Azure AI Search, en het correct samenstellen van de ketens. De onderliggende ketenlogica weet hoe de query moet worden omgezet. Hiermee kunt u ketens maken van veel verschillende services en configuraties zolang ze werken met de LangChain-vereisten.

Waar bevindt Azure zich in deze architectuur?

Deze toepassing is gemaakt van meerdere onderdelen:

• Een web-app die is gemaakt met één webonderdeel voor chatten dat is gebouwd met Lit en wordt gehost in Azure Static Web Apps. De code bevindt zich in de packages/webapp map.

• Een serverloze API die is gebouwd met Azure Functions en LangChain.js gebruiktom de documenten op te nemen en antwoorden te genereren op de gebruikerschatquery's. De code bevindt zich in de packages/api map.

• Een Azure OpenAI-service voor het maken van insluitingen en het genereren van een antwoord.

• Een database voor het opslaan van de tekst die is geëxtraheerd uit de documenten en de vectoren die zijn gegenereerd door LangChain.js, met behulp van Azure AI Search.

• Een bestandsopslag voor het opslaan van de brondocumenten met behulp van Azure Blob Storage.

Vereisten

Er is een ontwikkelcontaineromgeving beschikbaar met alle afhankelijkheden die nodig zijn om dit artikel te voltooien. U kunt de ontwikkelcontainer uitvoeren in GitHub Codespaces (in een browser) of lokaal met behulp van Visual Studio Code.

Als u dit artikel wilt gebruiken, hebt u de volgende vereisten nodig:

Codespaces (aanbevolen)

• Een Azure-abonnement - Een gratis abonnement maken
• Azure-accountmachtigingen: uw Azure-account moet beschikken over Microsoft.Authorization/roleAssignments/write-machtigingen, zoals Gebruikerstoegang Beheer istrator of Eigenaar.
• Toegang verleend tot Azure OpenAI in het gewenste Azure abonnement. Op dit moment wordt alleen toegang tot deze service verleend door een aanvraag te doen. U kunt toegang tot Azure OpenAI aanvragen door het formulier in te vullen op https://aka.ms/oai/access. Open een probleem op deze opslagplaats om contact met ons op te stellen als u een probleem hebt.
• GitHub-account

Visual Studio Code

• Een Azure-abonnement - Een gratis abonnement maken
• Azure-accountmachtigingen: uw Azure-account moet beschikken over Microsoft.Authorization/roleAssignments/write-machtigingen, zoals Gebruikerstoegang Beheer istrator of Eigenaar.
• Toegang verleend tot Azure OpenAI in het gewenste Azure abonnement. Op dit moment wordt alleen toegang tot deze service verleend door een aanvraag te doen. U kunt toegang tot Azure OpenAI aanvragen door het formulier in te vullen op https://aka.ms/oai/access. Open een probleem op deze opslagplaats om contact met ons op te stellen als u een probleem hebt.
• Azure Developer CLI
• Docker Desktop - Start Docker Desktop als deze nog niet wordt uitgevoerd
• Visual Studio Code
• Dev-containerextensie

Open ontwikkelomgeving

Begin nu met een ontwikkelomgeving waarop alle afhankelijkheden zijn geïnstalleerd om dit artikel te voltooien.

GitHub Codespaces (aanbevolen)

GitHub Codespaces voert een ontwikkelcontainer uit die wordt beheerd door GitHub met Visual Studio Code voor het web als de gebruikersinterface. Voor de eenvoudigste ontwikkelomgeving gebruikt u GitHub Codespaces zodat u de juiste ontwikkelhulpprogramma's en afhankelijkheden vooraf hebt geïnstalleerd om dit artikel te voltooien.

Belangrijk

Alle GitHub-accounts kunnen Codespaces elke maand maximaal 60 uur gratis gebruiken met 2 kernexemplaren. Zie GitHub Codespaces maandelijks inbegrepen opslag- en kernuren voor meer informatie.

1. Open in Codespace.

   

2. Wacht tot de coderuimte is gestart. Dit opstartproces kan enkele minuten duren.

3. Meld u in de terminal onderaan het scherm aan bij Azure met de Azure Developer CLI.

   azd auth login
   

   Voltooi het verificatieproces.

4. De resterende taken in dit artikel vinden plaats in de context van deze ontwikkelingscontainer.

Visual Studio Code

Voor de Dev Containers-extensie voor Visual Studio Code moet Docker op uw lokale computer worden geïnstalleerd. De extensie host de ontwikkelcontainer lokaal met behulp van de Docker-host met de juiste ontwikkelhulpprogramma's en afhankelijkheden die vooraf zijn geïnstalleerd om dit artikel te voltooien.

1. Maak een nieuwe lokale map op uw computer voor het project.

   mkdir my-intelligent-app && cd my-intelligent-app
   

2. Open Visual Studio Code in die map:

   code .
   

3. Open een nieuwe terminal in Visual Studio Code.

4. Voer de volgende AZD-opdracht uit om de GitHub-opslagplaats naar uw lokale computer te brengen.

   azd init -t serverless-chat-langchainj
   

5. Open het opdrachtenpalet, zoek en selecteer Dev Containers: Open map in Container om het project in een dev-container te openen. Wacht totdat de dev-container wordt geopend voordat u doorgaat.

6. Meld u aan bij Azure met de Azure Developer CLI.

   azd auth login
   

   Kopieer de code uit de terminal en plak deze in een browser. Volg de instructies voor verificatie met uw Azure-account.

7. De resterende oefeningen in dit project vinden plaats in de context van deze ontwikkelingscontainer.

Implementeren en uitvoeren

De voorbeeldopslagplaats bevat alle code- en configuratiebestanden die u nodig hebt om de serverloze chat-app in Azure te implementeren. Met de volgende stappen doorloopt u het proces voor het implementeren van het voorbeeld in Azure.

Chat-app implementeren in Azure

Belangrijk

Voor Azure-resources die in deze sectie zijn gemaakt, worden directe kosten in rekening gebracht, voornamelijk op basis van de Azure AI Search-resource. Deze resources kunnen kosten genereren, zelfs als u de opdracht onderbreekt voordat deze volledig wordt uitgevoerd.

1. Voer de volgende Azure Developer CLI-opdracht uit om de Azure-resources in te richten en de broncode te implementeren:

   azd up
   

2. Gebruik de volgende tabel om de prompts te beantwoorden:

   Prompt	Antwoord
   Omgevingsnaam	Houd het kort en kleine letters. Voeg uw naam of alias toe. Bijvoorbeeld: john-chat. Deze wordt gebruikt als onderdeel van de naam van de resourcegroep.
   Abonnement	Selecteer het abonnement waarin u de resources wilt maken.
   Locatie (voor hosting)	Selecteer een locatie bij u in de buurt in de lijst.
   Locatie voor het OpenAI-model	Selecteer een locatie bij u in de buurt in de lijst. Als dezelfde locatie beschikbaar is als uw eerste locatie, selecteert u die.

3. Wacht totdat de app is geïmplementeerd. Het kan 5-10 minuten duren voordat de implementatie is voltooid.

4. Nadat de toepassing is geïmplementeerd, ziet u twee URL's die worden weergegeven in de terminal.

5. Selecteer die URL die is gelabeld Deploying service webapp om de chattoepassing in een browser te openen.

Chat-app gebruiken om antwoorden te krijgen uit PDF-bestanden

De chat-app wordt vooraf geladen met huurgegevens uit een PDF-bestandscatalogus. U kunt de chat-app gebruiken om vragen te stellen over het verhuurproces. Met de volgende stappen doorloopt u het proces voor het gebruik van de chat-app.

1. Selecteer of voer in de browser in wat het restitutiebeleid is.

   

2. Selecteer een vervolgvraag.

   

3. Selecteer in het antwoord de bronvermelding om het document te zien dat is gebruikt om het antwoord te genereren. Hiermee wordt het document van Azure Storage aan de client geleverd. Wanneer u klaar bent met het nieuwe browsertabblad, sluit u het om terug te keren naar de serverloze chat-app.

   

Resources opschonen

Azure-resources opschonen

De Azure-resources die in dit artikel zijn gemaakt, worden gefactureerd voor uw Azure-abonnement. Als u deze resources in de toekomst niet meer nodig hebt, verwijdert u deze om te voorkomen dat er meer kosten in rekening worden gebracht.

Voer de volgende Azure Developer CLI-opdracht uit om de Azure-resources te verwijderen en de broncode te verwijderen:

azd down --purge

GitHub Codespaces opschonen

GitHub Codespaces

Als u de GitHub Codespaces-omgeving verwijdert, zorgt u ervoor dat u de hoeveelheid gratis rechten per kernuren kunt maximaliseren die u voor uw account krijgt.

Belangrijk

Zie GitHub Codespaces maandelijks inbegrepen opslag- en kernuren voor meer informatie over de rechten van uw GitHub-account.

1. Meld u aan bij het GitHub Codespaces-dashboard (https://github.com/codespaces).

2. Zoek uw momenteel uitgevoerde Codespaces die afkomstig zijn uit de Azure-Samples/serverless-chat-langchainjs GitHub-opslagplaats.

   

3. Open het contextmenu, ...voor de coderuimte en selecteer Vervolgens Verwijderen.

Visual Studio Code

U hoeft niet per se uw lokale omgeving op te schonen, maar u kunt de actieve ontwikkelcontainer stoppen en terugkeren naar het uitvoeren van Visual Studio Code in de context van een lokale werkruimte.

1. Open het opdrachtenpalet, zoek naar de Dev Containers-opdrachten en selecteer vervolgens Dev Containers: Map lokaal opnieuw openen.

   

Tip

Visual Studio Code stopt de actieve ontwikkelingscontainer, maar de container bestaat nog steeds in Docker in een gestopte status. U hebt altijd de mogelijkheid om de containerinstantie, containerinstallatiekopieën en volumes van Docker te verwijderen om meer ruimte vrij te maken op uw lokale computer.

Hulp vragen

Deze voorbeeldopslagplaats biedt informatie over probleemoplossing.

Als uw probleem niet is opgelost, meldt u het probleem aan bij de problemen van de opslagplaats.

Gerelateerde inhoud

• Aan de slag met het evalueren van antwoorden in een chat-app in JavaScript