Usar Bricks do Agente: Assistente de Conhecimento para criar um chatbot de alta qualidade nos seus documentos

Importante

Esse recurso está em Beta.

Esta página descreve como usar o Agent Bricks: Assistente de Conhecimento para criar um chatbot de perguntas e respostas sobre seus documentos e melhorar sua qualidade com base em comentários em linguagem natural de seus especialistas no assunto.

O Agent Bricks fornece uma abordagem simples e sem código para criar e otimizar sistemas de agente de IA de alta qualidade específicos ao domínio para casos comuns de uso de IA.

O que é o Agent Bricks: Assistente de Conhecimento?

Use o Agent Bricks: Assistente de Conhecimento para criar um chatbot com o qual você pode fazer perguntas sobre seus documentos e receber respostas de alta qualidade com citações. O Assistente de Conhecimento usa IA avançada e segue a abordagem de geração aumentada de recuperação (RAG) para fornecer respostas precisas e confiáveis com base no conhecimento especializado do domínio que você fornece.

Agent Bricks: O Assistente de Conhecimento é ideal para dar suporte aos seguintes casos de uso:

• Responda às perguntas do usuário com base na documentação do produto.
• Responda às perguntas dos funcionários relacionadas às políticas de RH.
• Responda a consultas de clientes com base em bases de dados de conhecimento de suporte.

O Assistente de Conhecimento permite que você melhore a qualidade do agente de chat e ajuste seu comportamento com base em comentários de linguagem natural de seus especialistas no assunto. Forneça perguntas sobre uma sessão de rotulagem e envie-a aos especialistas para revisão no Aplicativo de Revisão. Suas respostas fornecem dados rotulados que ajudam a otimizar o desempenho do agente.

Agent Bricks: o Assistente de Conhecimento cria um ponto de extremidade para um agente RAG integrado de ponta a ponta que você pode usar posteriormente para os seus aplicativos. Por exemplo, a imagem abaixo mostra como você pode interagir com o endpoint através de um chat no AI Playground. Faça as perguntas do agente relacionadas aos seus documentos e o agente responderá com citações.

Requisitos

• Um workspace que inclui o seguinte:
  • Prévia do Agent Bricks do Mosaic AI (Beta) habilitado. Consulte Gerenciar Versões Prévias do Azure Databricks.
  • Computação sem servidor habilitada. Consulte Habilitar computação sem servidor.
  • Unity Catalog habilitado. Consulte Habilitar um espaço de trabalho no Catálogo do Unity.
  • Recursos assistidos por IA impulsionados por parceiros habilitados em seu espaço de trabalho.
  • Um workspace em uma das regiões com suporte: eastus, eastus2, westus, centralus, ou northcentralus.
  • Acesso ao Mosaic AI Model Serving.
  • Acesso aos modelos fundamentais no Catálogo do Unity por meio do esquema system.ai.
  • Acesso a uma política de orçamento sem servidor com um orçamento diferente de zero.
• Você deve ter dados de entrada prontos para uso. Você pode optar por fornecer:
  • Arquivos em um volume ou diretório de volume do Catálogo do Unity. Os tipos de arquivo com suporte são txt, pdf, md, ppt/pptx e doc/docx.
  • Um índice de busca em vetores.

Criar um agente assistente de conhecimento

Vá para o Agentes no painel de navegação à esquerda do seu espaço de trabalho e clique em Assistente de Conhecimento.

Etapa 1: Configurar seu agente

Na guia Configurar, configure seu agente e forneça fontes de conhecimento para ele usar para responder a perguntas.

1. No campo Nome , insira um nome para o agente.

2. No campo Descrição , descreva o que seu agente pode fazer.

3. No campo Esquema , selecione o catálogo e o esquema do Catálogo do Unity para salvar seus conjuntos de dados de avaliação.

4. No painel de origem do conhecimento , adicione sua fonte de conhecimento. Você pode optar por fornecer arquivos do Catálogo do Unity ou um índice de pesquisa de vetor.

   Arquivos UC

   Para arquivos UC, há suporte para os seguintes tipos de arquivo: txt, pdf, md, ppt/pptx e doc/docx. O Databricks recomenda o uso de arquivos menores que 32 MB.

   

   1. Em Tipo, selecione Arquivos UC.
   2. No campo Origem , selecione o volume do Catálogo do Unity ou o diretório de volume que contém seus arquivos.
   3. No campo Nome , insira um nome para sua fonte de conhecimento.
   4. Em Descrever o conteúdo, descreva o conteúdo que a fonte de dados de conhecimento contém para ajudar o agente a entender quando usar essa fonte de dados.

   Índice de busca em vetores

   

   1. Em Tipo, selecione Índice de Pesquisa de Vetor.
   2. No campo Origem , selecione o índice de pesquisa de vetor que você deseja fornecer ao agente.
   3. Na Coluna URI do Doc, selecione a coluna com um link ou uma referência de onde as informações vieram. O agente usará isso em suas citações.
   4. No campo Coluna de Texto , especifique a coluna que contém o texto bruto que você deseja que o agente recupere.
   5. No campo Nome , insira um nome para sua fonte de conhecimento.
   6. Em Descrever o conteúdo, descreva o conteúdo que a fonte de dados de conhecimento contém para ajudar o agente a entender quando usar essa fonte de dados.

5. (Opcional) Se você quiser adicionar mais fontes de conhecimento, clique em Adicionar fonte de conhecimento. Você pode fornecer até 10 fontes de conhecimento.

6. (Opcional) No campo Instruções, especifique as diretrizes de como o agente deve responder.

   

7. Clique em Criar Agente.

Pode levar até algumas horas para criar seu agente e sincronizar as fontes de conhecimento fornecidas. O painel lateral direito será atualizado com links para o agente implantado, o experimento e as fontes de conhecimento sincronizadas.

Etapa 2: Testar seu agente

Depois que o agente terminar de compilar, você poderá testá-lo no AI Playground. O agente deve responder com citações para perguntas relacionadas às suas fontes de conhecimento.

1. Em Agente implantado no painel direito, clique em Experimentar no Playground. Isso abre o AI Playground com o ponto de extremidade do agente conectado. Aqui, você pode conversar com seu agente e examinar suas respostas.

   

2. Se você tiver recursos assistenciais de IA habilitados, poderá habilitar o Juiz de IA e a geração de perguntas sintéticas para ajudá-lo a avaliar seu agente.

3. Insira uma pergunta para o agente.

4. Avalie sua resposta:

   

   1. Clique em Exibir pensamentos para ver como seu agente abordou a resposta à pergunta.
   2. Clique na caixa em Fontes para ver quais arquivos o agente está citando. Isso abre o arquivo em um painel lateral para você examinar.
   3. O Juiz de IA pode ajudar a avaliar rapidamente a resposta para fundamentação, segurança e relevância.
   4. Examine as perguntas sugeridas para perguntas adicionais para fazer ao seu agente.

Se você estiver satisfeito com o desempenho do agente, continue usando o agente as-is.

Etapa 3: Melhorar a qualidade

Agent Bricks: O Assistente de Conhecimento pode ajustar o comportamento do agente com base nos comentários em linguagem natural. Colete feedback humano por meio de uma sessão de etiquetagem para melhorar a qualidade do agente. A coleta de dados rotulados para seu agente pode melhorar a qualidade. O agente Bricks treinará novamente e otimizará o agente com os novos dados.

Na guia Melhorar qualidade , adicione perguntas e inicie uma sessão de rotulagem.

1. Adicione perguntas a serem incluídas na sessão de rotulagem:

   1. Clique em + Adicionar para adicionar uma pergunta.
   2. No modal Adicionar uma pergunta , insira sua pergunta.
   3. Clique em Adicionar. A pergunta deve aparecer na interface do usuário.
   4. Repita até adicionar todas as perguntas que deseja avaliar.
   5. Para excluir uma pergunta, clique no menu kebab e, em seguida, exclua.

   O Databricks recomenda adicionar pelo menos 20 perguntas para uma sessão de rotulagem para garantir que dados rotulados suficientes sejam coletados.

   

2. Depois de terminar de adicionar suas perguntas, envie as perguntas aos especialistas para revisão para ajudá-lo a criar um conjunto de dados rotulado de alta qualidade. À direita, clique em Iniciar sessão de rotulagem.

   Quando a sessão de rotulagem estiver pronta, a interface do usuário será atualizada conforme mostrado abaixo.

   

3. Compartilhe o aplicativo de revisão com especialistas para coletar comentários.

   Para obter mais informações sobre sessões de rotulagem e o aplicativo de revisão, consulte Usar o aplicativo de revisão para revisões humanas de um aplicativo de IA generativa (MLflow 2).

   Observação

   Para que os especialistas acessem a sessão de rotulagem, você precisa conceder a eles as seguintes permissões:

   • Permissão CAN QUERY para o ponto de extremidade
   • Permissão para editar o experimento
   • Permissões USE CATALOG, USE SCHEMA e SELECT para o esquema

4. Para rotular os dados por conta própria, clique em Abrir sessão de rotulagem.

   Isso abre o aplicativo de revisão em uma nova guia. Como revisor:

   1. Clique em Iniciar revisão. Para cada pergunta, o revisor verá a pergunta e a resposta do agente.

   2. No lado esquerdo, examine a pergunta e a resposta. Você pode clicar em Exibir pensamentos para ver como o agente está pensando sobre a questão.

   3. No lado direito, em Expectativas, examine as diretrizes existentes e adicione mais conforme você quiser.

      1. Para adicionar uma diretriz, clique em + Adicionar entrada.
      2. Insira a diretriz na caixa de texto exibida.
      3. Clique em Salvar.

   4. Em Comentários, insira seus comentários e clique em Salvar.

   5. Quando terminar de revisar uma pergunta, clique em Próximo não revisado > no canto superior direito para passar para a próxima.

   6. Quando terminar de revisar todas as perguntas, basta sair do aplicativo de revisão.

      

5. Quando os revisores terminarem as sessões de rotulagem, retorne à guia Melhorar qualidade do agente.

6. Clique em Mesclar para mesclar comentários dos especialistas ao conjunto de dados rotulado. A tabela de perguntas à direita será atualizada com os feedbacks combinados.

   

7. Examine os registros de comentários.

8. Teste o agente novamente no AI Playground para ver seu desempenho aprimorado. Se necessário, inicie outra sessão de rotulagem para coletar mais dados rotulados.

Limitações

• O Databricks recomenda usar arquivos menores que 32 MB para seus documentos de origem.
• Não há suporte para workspaces que usam o Link Privado do Azure, incluindo o armazenamento por trás do PrivateLink.
• Não há suporte para tabelas do Catálogo do Unity.