Agent Bricks gebruiken: Knowledge Assistant om een chatbot van hoge kwaliteit te maken voor uw documenten

Belangrijk

Deze functie bevindt zich in de bètaversie.

Op deze pagina wordt beschreven hoe u Agent Bricks gebruikt: Knowledge Assistant om een vraag-en-antwoord-chatbot te maken over uw documenten en de kwaliteit ervan te verbeteren op basis van feedback van uw onderwerpexperts in natuurlijke taal.

Agent Bricks biedt een eenvoudige, no-code-benadering voor het bouwen en optimaliseren van domeinspecifieke, hoogwaardige AI-agentsystemen voor veelvoorkomende AI-use cases.

Wat is Agent Bricks: kennisassistent?

Gebruik Agent Bricks: Knowledge Assistant om een chatbot te maken waarmee u vragen over uw documenten kunt stellen en antwoorden van hoge kwaliteit met bronvermeldingen kunt ontvangen. Knowledge Assistant maakt gebruik van geavanceerde AI en volgt een RAG-benadering (ophalingsversterkte generatie) om nauwkeurige, betrouwbare antwoorden te leveren op basis van de kennis die u binnen uw domein aanbiedt.

Agent Bricks: Knowledge Assistant is ideaal voor het ondersteunen van de volgende use cases:

• Beantwoord vragen van gebruikers op basis van productdocumentatie.
• Beantwoord vragen van werknemers met betrekking tot HR-beleid.
• Beantwoord vragen van klanten op basis van knowledge bases voor ondersteuning.

Met Knowledge Assistant kunt u de kwaliteit van de chatagent verbeteren en het gedrag ervan aanpassen op basis van feedback van uw onderwerpexperts in natuurlijke taal. Geef vragen op voor een labelsessie en stuur deze naar experts om te beoordelen in de beoordelings-app. Hun antwoorden bieden gelabelde gegevens waarmee de prestaties van de agent kunnen worden geoptimaliseerd.

Agent Bricks: Knowledge Assistant maakt een end-to-end RAG-agenteindpunt dat u downstream kunt gebruiken voor uw toepassingen. In de onderstaande afbeelding ziet u bijvoorbeeld hoe u met het eindpunt kunt werken door ermee te chatten in AI Playground. Stel de agent vragen met betrekking tot uw documenten, en de agent zal antwoorden met bronvermeldingen.

Behoeften

• Een werkruimte met het volgende:
  • Mozaïek AI Agent Bricks Preview (bèta) ingeschakeld. Zie Azure Databricks Previews beheren.
  • Serverloze rekenkracht ingeschakeld. Zie Serverloze berekening inschakelen.
  • Unity Catalog ingeschakeld. Zie Een werkruimte inschakelen voor Unity Catalog.
  • Partner-aangedreven AI-hulpfuncties ingeschakeld in uw werkruimte.
  • Een werkruimte in een van de ondersteunde regio's: eastus, eastus2, westus, centralus, of northcentralus.
  • Toegang tot Mosaic AI Model Dienstverlening.
  • Toegang tot basismodellen in Unity Catalog via het system.ai schema.
  • Toegang tot een serverloos budgetbeleid met een niet-nulbudget.
• U moet invoergegevens hebben die klaar zijn voor gebruik. U kunt kiezen om een van de volgende opties op te geven:
  • Bestanden in een Unity Catalog-volume of -volumemap. Ondersteunde bestandstypen zijn txt, pdf, md, ppt/pptx en doc/docx.
  • Een vectorzoekindex.

Een knowledge assistant-agent maken

Ga naar Agents in het linkernavigatiedeelvenster van uw werkruimte en klik op Knowledge Assistant.

Stap 1: Uw agent configureren

Configureer uw agent op het tabblad Configureren en geef er kennisbronnen op die kunnen worden gebruikt om vragen te beantwoorden.

1. Voer in het veld Naam een naam in voor uw agent.

2. Beschrijf in het veld Beschrijving wat uw agent kan doen.

3. Selecteer in het veld Schema de Catalogus en het schema van Unity Catalog om uw evaluatiegegevenssets op te slaan.

4. Voeg uw kennisbron toe in het deelvenster Kennisbron. U kunt ervoor kiezen om Unity Catalog-bestanden of een vectorzoekindex op te geven.

   UC Files

   Voor UC-bestanden worden de volgende bestandstypen ondersteund: txt, pdf, md, ppt/pptx en doc/docx. Databricks raadt aan bestanden te gebruiken die kleiner zijn dan 32 MB.

   

   1. Selecteer UC Files onder Type.
   2. Selecteer in het veld Bron het Unity Catalog-volume of de volumemap die uw bestanden bevat.
   3. Voer in het veld Naam een naam in voor uw kennisbron.
   4. Beschrijf onder De inhoud beschrijven welke inhoud de kennisbron bevat om de agent te helpen begrijpen wanneer deze gegevensbron moet worden gebruikt.

   Vectorzoekindex

   

   1. Onder Type, selecteer Vectorzoekindex.
   2. Selecteer in het veld Bron de vectorzoekindex die u de agent wilt opgeven.
   3. Selecteer in de doc-URI-kolom de kolom met een koppeling of verwijzing naar waar de informatie vandaan komt. De agent gebruikt dit in de bronvermeldingen.
   4. Geef in het veld Tekstkolom de kolom op die de onbewerkte tekst bevat die de agent moet ophalen.
   5. Voer in het veld Naam een naam in voor uw kennisbron.
   6. Beschrijf onder De inhoud beschrijven welke inhoud de kennisbron bevat om de agent te helpen begrijpen wanneer deze gegevensbron moet worden gebruikt.

5. (Optioneel) Als u meer kennisbronnen wilt toevoegen, klikt u op Kennisbron toevoegen. U kunt maximaal 10 kennisbronnen opgeven.

6. (Optioneel) Geef in het veld Instructies richtlijnen op voor hoe de agent moet reageren.

   

7. Klik op Agent maken.

Het kan enkele uren duren voordat u uw agent maakt en de door u opgegeven kennisbronnen synchroniseert. Het rechterdeelvenster wordt bijgewerkt met koppelingen naar de geïmplementeerde agent, het experiment en de gesynchroniseerde kennisbronnen.

Stap 2: Uw agent testen

Nadat de agent klaar is met bouwen, kunt u deze testen door deze uit te proberen in AI Playground. De agent moet reageren met bronvermeldingen voor vragen met betrekking tot de bijbehorende kennisbronnen.

1. Klik onder Geïmplementeerde agent in het rechterdeelvenster op Uitproberen in Playground. Hiermee opent u AI Playground met uw agentendpunt dat is verbonden. Hier kunt u chatten met uw agent en de antwoorden bekijken.

   

2. Als u AI-ondersteunende functies hebt ingeschakeld, kunt u ai-rechter en synthetische vraaggeneratie inschakelen om u te helpen uw agent te evalueren.

3. Voer een vraag in voor uw agent.

4. Evalueer het antwoord:

   

   1. Klik op Gedachten weergeven om te zien hoe uw agent reageert op de vraag.
   2. Klik op het vak onder Bronnen om te zien welke bestanden de agent citeert. Hiermee opent u het bestand in een zijpaneel zodat u het kunt beoordelen.
   3. De AI-rechter kan helpen om snel de reactie te evalueren op grondheid, veiligheid en relevantie.
   4. Bekijk voorgestelde vragen voor aanvullende vragen om uw agent te stellen.

Als u tevreden bent over de prestaties van uw agent, kunt u de agent blijven gebruiken as-is.

Stap 3: Kwaliteit verbeteren

Agent Bricks: Knowledge Assistant kan het gedrag van de agent aanpassen op basis van feedback in natuurlijke taal. Verzamel menselijke feedback via een labelsessie om de kwaliteit van uw agent te verbeteren. Het verzamelen van gelabelde gegevens voor uw agent kan de kwaliteit ervan verbeteren. Agent Bricks zal de agent opnieuw trainen en optimaliseren op basis van de nieuwe gegevens.

Voeg op het tabblad Kwaliteit verbeteren vragen toe en start een labelsessie.

1. Voeg vragen toe die u wilt opnemen in uw labelsessie:

   1. Klik op + Toevoegen om een vraag toe te voegen.
   2. Voer uw vraag in het modaal toevoegen van een vraag in.
   3. Klik op Toevoegen. De vraag moet worden weergegeven in de gebruikersinterface.
   4. Herhaal dit totdat u alle vragen hebt toegevoegd die u wilt evalueren.
   5. Als u een vraag wilt verwijderen, klikt u op het kebabmenu en vervolgens op Verwijderen.

   Databricks raadt aan ten minste 20 vragen toe te voegen voor een labelsessie om ervoor te zorgen dat er voldoende gelabelde gegevens worden verzameld.

   

2. Nadat u klaar bent met het toevoegen van uw vragen, stuurt u de vragen naar experts om u te helpen bij het bouwen van een hoogwaardige gelabelde gegevensset. Klik rechts op Labeling sessie starten.

   Wanneer uw labelsessie gereed is, wordt de gebruikersinterface bijgewerkt zoals hieronder wordt weergegeven.

   

3. Deel de beoordelings-app met experts om feedback te verzamelen.

   Zie voor meer informatie over het labelen van sessies en de beoordelings-app De beoordelings-app gebruiken voor menselijke beoordelingen van een gen AI-app (MLflow 2).

   Opmerking

   Als experts toegang hebben tot de labelsessie, moet u hen de volgende machtigingen verlenen:

   • KAN EEN QUERY uitvoeren op de machtiging voor het eindpunt
   • Bewerkingsmachtiging voor het experiment
   • USE CATALOG, USE SCHEMAen SELECT machtigingen voor het schema

4. Als u de gegevens zelf wilt labelen, klikt u op Labelsessie openen.

   Hiermee opent u de beoordelings-app op een nieuw tabblad. Als revisor:

   1. Klik op Beoordeling starten. Voor elke vraag ziet de revisor de vraag en het antwoord van de agent.

   2. Bekijk aan de linkerkant de vraag en het antwoord. U kunt op Gedachten weergeven klikken om te zien hoe de agent denkt aan de vraag.

   3. Bekijk aan de rechterkant, onder Verwachtingen, alle bestaande richtlijnen en voeg meer toe naar wens.

      1. Als u een richtlijn wilt toevoegen, klikt u op + Invoer toevoegen.
      2. Voer de richtlijn in het tekstvak in dat wordt weergegeven.
      3. Klik op Opslaan.

   4. Voer onder Feedback uw feedback in en klik vervolgens op Opslaan.

   5. Wanneer u klaar bent met het controleren van een vraag, klikt u op Volgende niet-gecontroleerde > in de rechterbovenhoek om naar de volgende te gaan.

   6. Wanneer u klaar bent met het controleren van alle vragen, sluit u de beoordelings-app af.

      

5. Wanneer uw revisoren klaar zijn met hun labelsessies, gaat u terug naar het tabblad Kwaliteit verbeteren van uw agent.

6. Klik op Samenvoegen om feedback van de experts samen te voegen aan uw gelabelde gegevensset. De tabel met vragen aan de rechterkant wordt bijgewerkt met de samengevoegde feedback.

   

7. Bekijk de feedbackrecords.

8. Test de agent opnieuw in AI Playground om de verbeterde prestaties te zien. Start zo nodig een andere labelsessie om meer gelabelde gegevens te verzamelen.

Beperkingen

• Databricks raadt het gebruik van bestanden aan die kleiner zijn dan 32 MB voor uw brondocumenten.
• Werkruimten die gebruikmaken van Azure Private Link, inclusief opslag achter PrivateLink, worden niet ondersteund.
• Unity Catalog-tabellen worden niet ondersteund.