Comece a usar o Chat de IA Sem Servidor com RAG usando LangChain.js

A criação de aplicativos de IA pode ser complexa. Com as tecnologias do LangChain.js, do Azure Functions e Sem Servidor, você pode simplificar esse processo. Essas ferramentas gerenciam a infraestrutura e escalam automaticamente, permitindo que você se concentre na funcionalidade do chatbot. O chatbot usa documentos corporativos para gerar respostas de IA.

O código inclui dados de exemplo para uma empresa fictícia. Os clientes podem fazer perguntas de suporte sobre os produtos da empresa. Os dados incluem documentos sobre os termos de serviço, política de privacidade e guia de suporte da empresa.

Observação

Este artigo usa um ou mais modelos de aplicativo de IA como base para os exemplos e as diretrizes no artigo. Os modelos de aplicativo de IA fornecem implementações de referência regulares e fáceis de implantar que ajudam a garantir um ponto de partida de alta qualidade para os aplicativos de IA.

Visão geral da arquitetura

O aplicativo de chat

O usuário interage com o aplicativo:

• A interface do chat no aplicativo Web cliente para a conversa.
• O aplicativo Web cliente envia a consulta do usuário para a API Sem Servidor por meio de chamadas HTTP.
• A API sem servidor cria uma cadeia para coordenar as interações entre a IA do Azure e a Pesquisa de IA do Azure para gerar uma resposta.
• A recuperação do documento PDF usando o Armazenamento de Blobs do Azure.
• A resposta gerada é então enviada de volta ao aplicativo Web e exibida ao usuário.

Uma arquitetura simples do aplicativo de chat é mostrada no diagrama a seguir:

Diagrama mostrando a arquitetura desde o cliente até o aplicativo de back-end.

LangChain.js simplifica a complexidade entre os serviços

O fluxo de API é útil para entender como LangChain.js é útil nesse cenário, abstraindo as interações. O endpoint de API sem servidor:

• Recebe a pergunta do usuário.
• Cria objetos de cliente:
  • OpenAI do Azure para inserções e chat
  • Pesquisa de IA do Azure para o repositório de vetores
• Cria uma cadeia de documentos com o modelo LLM, a mensagem de chat (prompts do sistema e do usuário) e a origem do documento.
• Cria uma cadeia de recuperação da cadeia de documentos e do repositório de vetores.
• Transmite as respostas da cadeia de recuperação.

O trabalho do desenvolvedor é configurar corretamente os serviços de dependência, como o OpenAI do Azure e a Pesquisa de IA do Azure, e criar as cadeias corretamente. A lógica de cadeia subjacente permite que você construa cadeias de vários serviços e configurações diferentes, desde que trabalhem com os requisitos de LangChain.js.

Onde está o Azure nessa arquitetura?

Este aplicativo é feito de vários componentes:

• Um aplicativo Web feito com um único componente Web de chat criado com o Lit e hospedado no Aplicativos Web Estáticos do Azure. O código está localizado na pasta packages/webapp.

• Uma API sem servidor criada com o Azure Functions e usando o LangChain.js para ingerir os documentos e gerar respostas às consultas de chat do usuário. O código está localizado na pasta packages/api.

• Um serviço OpenAI do Azure para criar inserções e gerar uma resposta.

• Um banco de dados para armazenar o texto extraído dos documentos e os vetores gerados pelo LangChain.js, usando a Pesquisa de IA do Azure.

• Um armazenamento de arquivos para armazenar os documentos de origem, usando o Armazenamento de Blobs do Azure.

Pré-requisitos

Um ambiente de contêiner de desenvolvimento está disponível com todas as dependências necessárias para concluir este artigo. Você pode executar o contêiner de desenvolvimento em Codespaces do GitHub (em um navegador) ou localmente usando o Visual Studio Code.

Para usar este artigo, você precisa dos seguintes pré-requisitos:

Codespaces (recomendado)

• Uma assinatura do Azure – crie uma gratuitamente
• Permissões de conta do Azure – sua conta do Azure deve ter permissões Microsoft.Authorization/roleAssignments/write, como Administrador de Acesso do Usuário ou Proprietário.
• Uma conta do GitHub.

Código do Visual Studio

• Uma assinatura do Azure – crie uma gratuitamente
• Permissões de conta do Azure – sua conta do Azure deve ter permissões Microsoft.Authorization/roleAssignments/write, como Administrador de Acesso do Usuário ou Proprietário.
• Azure CLI para Desenvolvedores
• Área de Trabalho do Docker – iniciar o Docker Desktop se ele ainda não estiver em execução
• Código do Visual Studio
• Extensão de contêiner de desenvolvimento

Abrir o ambiente de desenvolvimento

Use as instruções a seguir para implantar um ambiente de desenvolvimento pré-configurado contendo todas as dependências necessárias para concluir este artigo.

Codespaces do GitHub (recomendado)

O GitHub Codespaces executa um contêiner de desenvolvimento gerenciado pelo GitHub com o Visual Studio Code para Web como interface do usuário. Para o ambiente de desenvolvimento mais simples, use os Codespaces do GitHub para que você tenha as ferramentas e dependências de desenvolvedor corretas pré-instaladas para concluir este artigo.

Importante

Todas as contas do GitHub podem usar Codespaces por até 60 horas gratuitas por mês com duas instâncias principais. Para saber mais, confira Armazenamento e horas por núcleo incluídos mensalmente no GitHub Codespaces.

1. Abrir no codespace.

   Abrir em GitHub Codespaces

2. Aguarde até que o codespace seja iniciado. Esse processo de inicialização pode levar alguns minutos.

3. No terminal na parte de baixo da tela, faça login no Azure com o Azure Developer CLI.

   azd auth login
   

   Conclua o processo de autenticação.

4. As tarefas restantes neste artigo ocorrem no contexto desse contêiner de desenvolvimento.

Código do Visual Studio

A extensão Dev Containers para Visual Studio Code requer que o Docker seja instalado no computador local. A extensão hospeda o contêiner de desenvolvimento localmente usando o host do Docker com as ferramentas e dependências de desenvolvedor corretas pré-instaladas para concluir este artigo.

1. Crie um novo diretório local no seu computador para o projeto.

   mkdir my-intelligent-app && cd my-intelligent-app
   

2. Abra o Visual Studio Code nesse diretório:

   code .
   

3. Abra um novo terminal no Visual Studio Code.

4. Execute o comando AZD para levar o repositório do GitHub para seu computador local.

   azd init -t serverless-chat-langchainjs
   

5. Abra a Paleta de Comandos, procure e selecione Contêineres de Desenvolvimento: Abrir Pasta em Container para abrir o projeto em um contêiner de desenvolvimento. Aguarde até que o contêiner de desenvolvimento seja aberto, antes de continuar.

6. Entre no Azure com o Azure Developer CLI.

   azd auth login
   

   Copie o código do terminal e cole-o em um navegador. Siga as instruções para autenticar com sua conta do Azure.

7. Os exercícios restantes neste projeto ocorrem no contexto desse contêiner de desenvolvimento.

Implantar e executar

O repositório de exemplo contém todos os arquivos de código e configuração necessários para implantar o aplicativo de chat sem servidor no Azure. As etapas a seguir explicam o processo de implantação do exemplo no Azure.

Implantar aplicativo de chat no Azure

Importante

Os recursos do Azure nesta seção começam a custar dinheiro imediatamente, mesmo que você interrompa o comando antes que ele seja concluído.

1. Provisione os recursos do Azure e implante o código-fonte usando o seguinte comando da CLI do Desenvolvedor do Azure:

   azd up
   

2. Responda aos prompts usando a tabela a seguir:

   Prompt	Resposta
   Nome do ambiente	Mantenha-o curto e em letras minúsculas. Adicione seu nome ou alias. Por exemplo, john-chat. Ele é usado como parte do nome do grupo de recursos.
   Assinatura	Selecione a assinatura para criar recursos.
   Localização (para hospedagem)	Selecione uma localização perto de você na lista.
   Localização do modelo OpenAI	Selecione uma localização perto de você na lista. Se o mesmo local estiver disponível como seu primeiro local, selecione-o.

3. Aguarde até que o aplicativo seja implantado. Pode levar de 5 a 10 minutos para a implantação ser concluída.

4. Depois que o aplicativo for implantado com êxito, você verá duas URLs exibidas no terminal.

5. Selecione essa URL rotulada Deploying service webapp para abrir o aplicativo de chat em um navegador.

Usar o aplicativo de chat para obter respostas de arquivos PDF

O aplicativo de chat é pré-carregado com informações de aluguel de um catálogo de arquivos PDF. Você pode usar o aplicativo de chat para fazer perguntas sobre o processo de aluguel. As etapas a seguir explicam o processo de uso do aplicativo de chat.

1. No navegador, selecione ou insira Qual é a política de reembolso.

   Captura de tela da primeira pergunta e resposta do aplicativo de chat.

2. Selecione uma pergunta de acompanhamento.

   Captura de tela do prompt de acompanhamento sugerido pelo aplicativo de chat e sua resposta.

3. Selecione a citação na resposta para exibir o documento de origem. O Armazenamento do Azure entrega o documento ao navegador. Ao concluir a revisão do documento, feche a guia para retornar ao aplicativo de chat.

   Captura de tela do documento original contendo a citação.

Limpar os recursos

Limpar recursos do Azure

O Azure cobra os recursos criados neste artigo para sua assinatura do Azure. Se você não precisar desses recursos no futuro, exclua-os para evitar mais encargos.

Exclua os recursos do Azure e remova o código-fonte com o seguinte comando da CLI do Desenvolvedor do Azure:

azd down --purge

Limpar GitHub Codespaces

Codespaces do GitHub

Exclua o ambiente de Codespaces do GitHub para maximizar suas horas de núcleo gratuitas.

Importante

Para saber mais sobre os direitos da sua conta do GitHub, confira O GitHub Codespaces inclui mensalmente armazenamento e horas de núcleo.

1. Entre no painel do GitHub Codespaces.

2. Encontre os seus Codespaces em execução atualmente, originados do repositório Azure-Samples/serverless-chat-langchainjs do GitHub.

   Captura de tela de todos os Codespaces em execução, incluindo seu status e modelos.

3. Abra o menu de contexto, ..., do codespace e então selecione Excluir.

Código do Visual Studio

Você não precisa necessariamente limpar seu ambiente local, mas pode interromper o contêiner de desenvolvimento em execução e retornar à execução do Visual Studio Code no contexto de um espaço de trabalho local.

1. Abra a Paleta de Comandos, procure os comandos Contêineres de Desenvolvimento e selecione Contêineres de Desenvolvimento: Reabrir Pasta Localmente.

   

Dica

O Visual Studio Code interrompe o contêiner de desenvolvimento em execução, mas o contêiner ainda existe no Docker em um estado parado. Libere espaço em seu computador local excluindo a instância de contêiner, a imagem e os volumes do Docker.

Obter ajuda

Este repositório de exemplo oferece informações de solução de problemas.

Se o problema não for resolvido, registre seu problema nos problemas do repositório.

Conteúdo relacionado

• Introdução à avaliação de respostas em um aplicativo de chat no JavaScript
• Saiba mais sobre como o AZD é usado neste modelo:
  • Postagem no blog da Tech Community
  • Vídeo do reator