Usare Agent Brick: Knowledge Assistant per creare un chatbot di alta qualità sui documenti

Importante

Questa funzionalità è in versione beta.

Questa pagina descrive come usare Agent Brick: Knowledge Assistant per creare un chatbot di domande e risposte sui documenti e migliorarne la qualità in base al feedback del linguaggio naturale degli esperti del settore.

Agent Brick offre un approccio semplice e senza codice per creare e ottimizzare sistemi di agenti di intelligenza artificiale di alta qualità specifici del dominio per casi d'uso comuni di intelligenza artificiale.

Che cos'è Agent Brick: Knowledge Assistant?

Usare Agent Brick: Knowledge Assistant per creare un chatbot con cui è possibile porre domande sui documenti e ricevere risposte di alta qualità con citazioni. Knowledge Assistant usa l'intelligenza artificiale avanzata e segue un approccio rag (Retrieval-Augmented Generation) per fornire risposte accurate e affidabili in base alle conoscenze specializzate del dominio fornite.

Mattoni agente: Knowledge Assistant è ideale per supportare i casi d'uso seguenti:

• Rispondere alle domande dell'utente in base alla documentazione del prodotto.
• Rispondere alle domande dei dipendenti correlate ai criteri delle risorse umane.
• Rispondere alle richieste dei clienti in base alle knowledge base di supporto.

Knowledge Assistant consente di migliorare la qualità dell'agente di chat e di regolarne il comportamento in base al feedback in linguaggio naturale degli esperti del settore. Fornire domande per una sessione di etichettatura e inviarla agli esperti da esaminare nell'app di revisione. Le risposte forniscono dati etichettati che consentono di ottimizzare le prestazioni dell'agente.

Agent Bricks: Knowledge Assistant crea un endpoint agente RAG completo che è possibile utilizzare a valle nelle applicazioni. Ad esempio, l'immagine seguente mostra come interagire con l'endpoint chattando con esso in AI Playground. Poni domande all'agente relative ai tuoi documenti e l'agente risponderà con citazioni dai documenti.

Requisiti

• Un'area di lavoro che include quanto segue:
  • Anteprima dei Blocchi Agente di Mosaic AI (Beta) abilitata. Vedere Gestire le anteprime di Azure Databricks.
  • Calcolo serverless attivato. Vedere Abilitare l'ambiente di calcolo serverless.
  • Catalogo Unity abilitato. Vedere Abilitare un'area di lavoro per il Catalogo Unity.
  • Funzionalità assistive di intelligenza artificiale fornite dai partner abilitate nell'area di lavoro.
  • Un'area di lavoro in una delle aree supportate: eastus, eastus2, westus, centraluso northcentralus.
  • Accesso al Servizio di modelli AI di Mosaic.
  • Accesso ai modelli di base nel catalogo unity tramite lo system.ai schema.
  • Accesso a un criterio di budget serverless con un budget diverso da zero.
• È necessario che i dati di input siano pronti per l'uso. È possibile scegliere di specificare:
  • File in un volume di Unity Catalog o in una directory del volume. I tipi di file supportati sono txt, pdf, md, ppt/pptx e doc/docx.
  • Un indice di ricerca vettoriale.

Creare un agente assistente intelligente

Vai a Nel riquadro di navigazione a sinistra della tua area di lavoro, fare clic su Knowledge Assistant.

Passaggio 1: Configurare l'agente

Nella scheda Configura configurare l'agente e fornire le origini delle informazioni da usare per rispondere alle domande.

1. Nel campo Nome immettere un nome per l'agente.

2. Nel campo Descrizione descrivere le operazioni che l'agente può eseguire.

3. Nel campo Schema selezionare il catalogo e lo schema del catalogo Unity per salvare i set di dati di valutazione.

4. Nel pannello Origine conoscenze aggiungere l'origine delle informazioni. È possibile scegliere di specificare i file di catalogo unity o un indice di ricerca vettoriale.

   File UC

   Per i file UC sono supportati i tipi di file seguenti: txt, pdf, md, ppt/pptx e doc/docx. Databricks consiglia di usare file di dimensioni inferiori a 32 MB.

   

   1. In Tipo selezionare File UC.
   2. Nel campo Origine, selezionare il volume del catalogo Unity o la directory volume che contiene i file.
   3. Nel campo Nome immettere un nome per la fonte di conoscenza.
   4. In Descrivere il contenuto, descrivere quali contenuti sono presenti nella fonte di conoscenza per aiutare l'agente a comprendere quando usare questa origine dati.

   Indice di ricerca vettoriale

   

   1. In Tipo selezionare Indice di ricerca vettoriale.
   2. Nel campo Origine selezionare l'indice di ricerca vettoriale da fornire all'agente.
   3. Nella colonna URI della documentazione selezionare la colonna con un collegamento o un riferimento alla provenienza delle informazioni. L'agente userà questo nelle sue citazioni.
   4. Nel campo Colonna di testo specificare la colonna contenente il testo non elaborato che si desidera recuperare dall'agente.
   5. Nel campo Nome immettere un nome per la fonte di conoscenza.
   6. In Descrivere il contenuto, descrivere quali contenuti sono presenti nella fonte di conoscenza per aiutare l'agente a comprendere quando usare questa origine dati.

5. (Facoltativo) Per aggiungere altre fonti di informazioni, fare clic su Aggiungi origine conoscenze. È possibile fornire fino a 10 fonti di informazioni.

6. (Facoltativo) Nel campo Istruzioni specificare le linee guida per la risposta dell'agente.

   

7. Fare clic su Crea agente.

La creazione dell'agente e la sincronizzazione delle origini delle informazioni fornite possono richiedere fino a qualche ora. Il pannello a destra verrà aggiornato con collegamenti all'agente distribuito, all'esperimento e alle origini delle informazioni sincronizzate.

Passaggio 2: Testare l'agente

Al termine della compilazione dell'agente, puoi testarlo nel AI Playground. L'agente deve rispondere con citazioni per domande relative alle relative fonti di conoscenza.

1. Sotto Agente distribuito nel pannello a destra, fai clic su Prova in Playground. Verrà aperto AI Playground con l'endpoint dell'agente connesso. Qui è possibile chattare con l'agente e rivedere le relative risposte.

   

2. Se sono abilitate le funzionalità di assistive feature di intelligenza artificiale, è possibile abilitare la generazione di domande sintetiche e giudici di intelligenza artificiale per valutare l'agente.

3. Immettere una domanda per l'agente.

4. Valutarne la risposta:

   

   1. Fare clic su Visualizza pensieri per vedere come l'agente ha risposto alla domanda.
   2. Fare clic sulla casella in Origini per visualizzare i file che l'agente sta citando. Verrà aperto il file in un pannello laterale da esaminare.
   3. Il giudice AI può aiutare a valutare rapidamente la risposta per fondatezza, sicurezza e rilevanza.
   4. Per altre domande da porre all'agente, vedere Domande suggerite .

Se sei soddisfatto delle prestazioni dell'agente, continua a usare l'agente as-is.

Passaggio 3: Migliorare la qualità

Agent Bricks: Il Knowledge Assistant può modificare le modalità operative dell'agente in base al feedback in linguaggio naturale. Raccogli feedback da persone tramite una sessione di classificazione per migliorare la qualità dell'agente. La raccolta di dati etichettati per il tuo agente può migliorarne la qualità. Agent Bricks riaddestrerà e ottimizzerà l'agente dai nuovi dati.

Nella scheda Migliora qualità aggiungere domande e avviare una sessione di etichettatura.

1. Aggiungere domande da includere nella sessione di etichettatura:

   1. Fare clic su + Aggiungi per aggiungere una domanda.
   2. Nella finestra modale Aggiungi una domanda, inserisci la tua domanda.
   3. Fare clic su Aggiungi. La domanda dovrebbe essere visualizzata nell'interfaccia utente.
   4. Ripetere fino a quando non sono state aggiunte tutte le domande da valutare.
   5. Per eliminare una domanda, fare clic sul menu kebab e quindi su Elimina.

   Databricks consiglia di aggiungere almeno 20 domande per una sessione di etichettatura per garantire la raccolta di dati etichettati sufficienti.

   

2. Dopo aver aggiunto le domande, inviare le domande agli esperti per la revisione per facilitare la creazione di un set di dati con etichetta di alta qualità. A destra fare clic su Avvia sessione di etichettatura.

   Quando la sessione di etichettatura è pronta, l'interfaccia utente verrà aggiornata come illustrato di seguito.

   

3. Condividere l'app di revisione con esperti per raccogliere commenti e suggerimenti.

   Per altre informazioni sulle sessioni di etichettatura e sull'app di revisione, vedere Usare l'app di revisione per le revisioni umane di un'app di intelligenza artificiale di generazione (MLflow 2).

   Annotazioni

   Per consentire agli esperti di accedere alla sessione di etichettatura, è necessario concedere loro le autorizzazioni seguenti:

   • Autorizzazione CAN QUERY per l'endpoint
   • Autorizzazione EDIT per l'esperimento
   • USE CATALOG, USE SCHEMA e SELECT autorizzazioni per lo schema

4. Per etichettare manualmente i dati, fare clic su Apri sessione di etichettatura.

   Verrà aperta l'app di revisione in una nuova scheda. Come revisore:

   1. Fare clic su Avvia revisione. Per ogni domanda, il revisore visualizzerà la domanda e la risposta dell'agente.

   2. Sul lato sinistro esaminare la domanda e la risposta. È possibile fare clic su Visualizza pensieri per vedere come l'agente sta pensando alla domanda.

   3. Sul lato destro, sotto Aspettative, esaminare eventuali linee guida esistenti e aggiungere altro a tuo giudizio.

      1. Per aggiungere una linea guida, fare clic su + Aggiungi input.
      2. Immettere le linee guida nella casella di testo visualizzata.
      3. Fare clic su Salva.

   4. In Commenti e suggerimenti immettere il feedback e quindi fare clic su Salva.

   5. Dopo aver esaminato una domanda, fare clic su Prossimo non esaminato > in alto a destra per passare a quella successiva.

   6. Al termine della revisione di tutte le domande, chiudere semplicemente l'app di revisione.

      

5. Quando i revisori hanno terminato le loro sessioni di etichettatura, tornate alla scheda Migliora qualità del tuo agente.

6. Fare clic su Unisci per unire commenti e suggerimenti dagli esperti al set di dati etichettato. La tabella delle domande sul lato destro verrà aggiornata con il feedback combinato.

   

7. Esaminare le registrazioni dei feedback.

8. Testare di nuovo l'agente in AI Playground per visualizzarne le prestazioni migliorate. Se necessario, avviare un'altra sessione di etichettatura per raccogliere più dati etichettati.

Limitazioni

• Databricks consiglia di usare file di dimensioni inferiori a 32 MB per i documenti di origine.
• Le aree di lavoro che usano collegamento privato di Azure, inclusa l'archiviazione dietro PrivateLink, non sono supportate.
• Le tabelle del catalogo Unity non sono supportate.