Utiliser Agent Bricks: Knowledge Assistant pour créer un chatbot de haute qualité sur vos documents

Importante

Cette fonctionnalité est en version bêta.

Cette page explique comment utiliser Agent Bricks : Assistant Connaissances pour créer un chatbot question-réponse sur vos documents et améliorer sa qualité en fonction des commentaires en langage naturel de vos experts en matières concernées.

Agent Bricks fournit une approche simple et sans code pour générer et optimiser des systèmes d’agent IA spécifiques à un domaine pour les cas d’usage courants de l’IA.

Qu’est-ce que l’Agent Bricks : Assistant de Connaissances ?

Utilisez Agent Bricks : Assistant Connaissances pour créer un chatbot avec lequel vous pouvez poser des questions sur vos documents et recevoir des réponses de haute qualité avec des citations. L’Assistant Connaissances utilise l’IA avancée et suit une approche de génération augmentée par récupération (RAG) pour fournir des réponses précises et fiables basées sur les connaissances spécialisées dans le domaine que vous lui fournissez.

Agent Bricks : l’Assistant Connaissances est idéal pour prendre en charge les cas d’usage suivants :

• Répondez aux questions des utilisateurs en fonction de la documentation du produit.
• Répondez aux questions des employés relatives aux stratégies RH.
• Répondez aux demandes des clients en fonction des bases de connaissances de support.

L’Assistant Connaissances vous permet d’améliorer la qualité de l’agent de conversation et d’ajuster son comportement en fonction des commentaires en langage naturel de vos experts en matières concernées. Fournissez des questions pour une session d’étiquetage et envoyez-la à des experts pour passer en revue dans l’application de révision. Leurs réponses fournissent des données étiquetées qui permettent d’optimiser les performances de l’agent.

Agent Bricks: Knowledge Assistant crée un point de terminaison d’agent RAG de bout en bout que vous pouvez utiliser en aval pour vos applications. Par exemple, l’image ci-dessous montre comment interagir avec le point de terminaison en discutant avec lui dans AI Playground. Posez des questions à l'agent concernant vos documents, et l'agent répondra avec des citations.

Spécifications

• Espace de travail pris en charge par serverless qui inclut les éléments suivants :
  • Catalogue Unity activé sur votre espace de travail.
  • Fonctionnalités d’assistance d’IA optimisées par un partenaire activées sur votre espace de travail.
  • Un espace de travail dans l’une des régions prises en charge : eastus, , eastus2westus, centralusou northcentralus.
  • Accès à Mosaic AI Model Serving.
  • Accès aux modèles de base dans le catalogue Unity via le system.ai schéma.
  • Accédez à une stratégie budgétaire serverless avec un budget différent de zéro.
• Vous devez disposer de données d’entrée prêtes à être utilisées. Vous pouvez choisir de fournir l’une ou l’autre des options suivantes :
  • Fichiers dans un volume de Unity Catalog ou dans un répertoire de volume. Les types de fichiers pris en charge sont txt, pdf, md, ppt/pptx et doc/docx.
  • Index de recherche vectorielle.

Créer un agent d’assistance aux connaissances

Accédez à Agents dans le volet de navigation gauche de votre espace de travail, puis cliquez sur Assistant Connaissances.

Étape 1 : Configurer votre agent

Sous l’onglet Configurer, configurez votre agent et fournissez des sources de connaissances à utiliser pour répondre aux questions.

1. Dans le champ Nom , entrez un nom pour votre agent.

2. Dans le champ Description , décrivez ce que votre agent peut faire.

3. Dans le champ Schéma , sélectionnez le catalogue de catalogues Unity et le schéma pour enregistrer vos jeux de données d’évaluation.

4. Dans le panneau Source de connaissances, ajoutez votre source de connaissances. Vous pouvez choisir de fournir des fichiers catalogue Unity ou un index de recherche vectorielle.

   Fichiers UC

   Pour les fichiers UC, les types de fichiers suivants sont pris en charge : txt, pdf, md, ppt/pptx et doc/docx. Databricks recommande d’utiliser des fichiers inférieurs à 32 Mo.

   

   1. Sous Type, sélectionnez Fichiers UC.
   2. Dans le champ Source , sélectionnez le volume de catalogue Unity ou le répertoire de volume qui contient vos fichiers.
   3. Dans le champ Nom , entrez un nom pour votre source de connaissances.
   4. Sous Décrire le contenu, décrivez le contenu que contient la source de connaissances pour aider l’agent à comprendre quand utiliser cette source de données.

   Index de recherche vectorielle

   

   1. Sous Type, sélectionnez Index de recherche vectorielle.
   2. Dans le champ Source , sélectionnez l’index de recherche vectorielle que vous souhaitez fournir à l’agent.
   3. Dans la colonne d’URI doc, sélectionnez la colonne avec un lien ou une référence à l’endroit où les informations proviennent. L’agent l’utilisera dans ses citations.
   4. Dans le champ Colonne de texte , spécifiez la colonne qui contient le texte brut que vous souhaitez que l’agent récupère.
   5. Dans le champ Nom , entrez un nom pour votre source de connaissances.
   6. Sous Décrire le contenu, décrivez le contenu que contient la source de connaissances pour aider l’agent à comprendre quand utiliser cette source de données.

5. (Facultatif) Si vous souhaitez ajouter d’autres sources de connaissances, cliquez sur Ajouter une source de connaissances. Vous pouvez fournir jusqu’à 10 sources de connaissances.

6. (Facultatif) Dans le champ Instructions , spécifiez les instructions relatives à la façon dont l’agent doit répondre.

   

7. Cliquez sur Créer un agent.

La création de votre agent et la synchronisation des sources de connaissances que vous avez fournies peut prendre jusqu’à quelques heures. Le panneau latéral droit est mis à jour avec des liens vers l’agent déployé, l’expérience et les sources de connaissances synchronisées.

Étape 2 : Tester votre agent

Une fois que votre agent a terminé la construction, vous pouvez la tester en l’essayant dans AI Playground. L’agent doit répondre avec des citations pour des questions relatives à ses sources de connaissances.

1. Sous Agent déployé dans le volet droit, cliquez sur Essayer dans Playground. Cela ouvre le Playground d’IA avec votre point de terminaison d’agent connecté. Ici, vous pouvez discuter avec votre agent et passer en revue ses réponses.

   

2. Si vous avez activé les fonctionnalités d’assistance de l’IA, vous pouvez activer la génération de juge d’IA et de question synthétique pour vous aider à évaluer votre agent.

3. Entrez une question pour votre agent.

4. Évaluez sa réponse :

   

   1. Cliquez sur Afficher les pensées pour voir comment votre agent a abordé la réponse à la question.
   2. Cliquez sur la zone sous Sources pour voir quels fichiers l’agent cite. Cela ouvre le fichier dans un panneau latéral pour vous permettre de passer en revue.
   3. Le juge IA peut aider à évaluer rapidement la solidité, la sécurité de l’information et la pertinence de la réponse.
   4. Passez en revue les questions suggérées pour poser des questions supplémentaires à votre agent.

Si vous êtes satisfait des performances de votre agent, continuez à utiliser l’agent as-is.

Étape 3 : Améliorer la qualité

Briques de l’agent : l’Assistant Connaissances peut ajuster le comportement de l’agent en fonction des commentaires en langage naturel. Rassemblez des commentaires humains via une session d’étiquetage pour améliorer la qualité de votre agent. La collecte de données étiquetées pour votre agent peut améliorer sa qualité. L'Agent Bricks réentraînera et optimisera l'agent à partir des nouvelles données.

Dans l’onglet Améliorer la qualité , ajoutez des questions et démarrez une session d’étiquetage.

1. Ajoutez des questions à inclure dans votre session d’étiquetage :

   1. Cliquez sur + Ajouter pour ajouter une question.
   2. Dans le mode Ajouter une question , entrez votre question.
   3. Cliquez sur Ajouter. La question doit apparaître dans l’interface utilisateur.
   4. Répétez jusqu’à ce que vous ayez ajouté toutes les questions que vous souhaitez évaluer.
   5. Pour supprimer une question, cliquez sur le menu kebab, puis supprimez.

   Databricks recommande d’ajouter au moins 20 questions pour une session d’étiquetage pour vous assurer que suffisamment de données étiquetées sont collectées.

   

2. Une fois que vous avez terminé d’ajouter vos questions, envoyez les questions aux experts pour vous aider à créer un jeu de données étiqueté de haute qualité. Sur la droite, cliquez sur Démarrer la session d’étiquetage.

   Lorsque votre session d’étiquetage est prête, l’interface utilisateur est mise à jour comme indiqué ci-dessous.

   

3. Partagez l’application de révision avec des experts pour recueillir des commentaires.

   Pour en savoir plus sur l’étiquetage des sessions et l’application de révision, consultez Utiliser l’application de révision pour les révisions humaines d’une application IA gen (MLflow 2).

   Remarque

   Pour que les experts accèdent à la session d’étiquetage, vous devez leur accorder les autorisations suivantes :

   • Autorisation CAN QUERY pour le point de terminaison
   • Autorisation EDIT pour l’expérience
   • Autorisations USE CATALOG, USE SCHEMA et SELECT pour le schéma

4. Pour étiqueter les données vous-même, cliquez sur Ouvrir une session d’étiquetage.

   L’application de révision s’ouvre dans un nouvel onglet. En tant que réviseur :

   1. Cliquez sur Démarrer la révision. Pour chaque question, le réviseur verra la question et la réponse de l’agent.

   2. Sur le côté gauche, passez en revue la question et la réponse. Vous pouvez cliquer sur Afficher les pensées pour voir comment l’agent pense à la question.

   3. Sur le côté droit, sous Attentes, passez en revue les lignes directrices existantes et ajoutez-en davantage à mesure que vous le voyez.

      1. Pour ajouter une directive, cliquez sur + Ajouter une entrée.
      2. Entrez la directive dans la zone de texte qui s’affiche.
      3. Cliquez sur Enregistrer.

   4. Sous Commentaires, entrez vos commentaires, puis cliquez sur Enregistrer.

   5. Lorsque vous avez terminé de passer en revue une question, cliquez sur Suivant non consulté > en haut à droite pour passer à la suivante.

   6. Lorsque vous avez terminé de passer en revue toutes les questions, quittez simplement l’application de révision.

      

5. Une fois vos réviseurs terminés avec leurs sessions d’étiquetage, revenez à l’onglet Améliorer la qualité de votre agent.

6. Cliquez sur Fusionner pour fusionner les commentaires des experts vers votre jeu de données étiqueté. La table des questions sur le côté droit sera mise à jour avec les commentaires fusionnés.

   

7. Passez en revue les enregistrements de commentaires.

8. Testez à nouveau l’agent dans AI Playground pour voir ses performances améliorées. Si nécessaire, démarrez une autre session d’étiquetage pour collecter plus de données étiquetées.

Limites

• Databricks recommande d’utiliser des fichiers inférieurs à 32 Mo pour vos documents sources.
• Les espaces de travail qui utilisent Azure Private Link, y compris le stockage derrière PrivateLink, ne sont pas pris en charge.
• Les tables de catalogue Unity ne sont pas prises en charge.