Rilevamento del grounding

L'API di rilevamento della terra rileva se le risposte di testo dei modelli di linguaggio di grandi dimensioni (LLM) vengono messe a terra nei materiali di origine forniti dagli utenti. Ungroundedness si riferisce a istanze in cui i llms producono informazioni non effettive o imprecise rispetto a ciò che era presente nei materiali di origine.

Termini importanti

• Generazione aumentata (RAG): RAG è una tecnica per aumentare le conoscenze LLM con altri dati. I llms possono ragionare su argomenti di ampia portata, ma la loro conoscenza è limitata ai dati pubblici disponibili al momento in cui sono stati sottoposti a training. Se si vogliono creare applicazioni di intelligenza artificiale che possono determinare i dati privati o i dati introdotti dopo la data di cutoff di un modello, è necessario fornire al modello tali informazioni specifiche. Il processo di inserimento delle informazioni appropriate nella richiesta del modello è noto come Recupero generazione aumentata (RAG). Per altre informazioni, vedere Generazione aumentata di recupero (RAG).

• Groundedness e Ungroundedness in LLMs: si riferisce alla misura in cui gli output del modello sono basati su informazioni fornite o riflettono in modo accurato origini affidabili. Una risposta a terra è strettamente conforme alle informazioni fornite, evitando speculazioni o fabbricazioni. Nelle misurazioni a terra, le informazioni di origine sono fondamentali e fungono da fonte di terra.

Funzionalità di rilevamento delle entità a terra

• Selezione dominio: gli utenti possono scegliere un dominio stabilito per garantire un rilevamento più personalizzato in linea con le esigenze specifiche del campo. Attualmente i domini disponibili sono MEDICAL e GENERIC.
• Specifica attività: questa funzionalità consente di selezionare l'attività che si sta eseguendo, ad esempio QnA (domande e risposte) e Riepilogo, con impostazioni regolabili in base al tipo di attività.
• Velocità e interpretazione: esistono due modalità che trasdano la velocità con l'interpretazione dei risultati.
  • Modalità non ragionamento: offre funzionalità di rilevamento rapido; facile da incorporare in applicazioni online.
  • Modalità di ragionamento: offre spiegazioni dettagliate per i segmenti non in primo piano rilevati; migliore per la comprensione e la mitigazione.

Utilizzare casi

Il rilevamento della base supporta attività di riepilogo e QnA basate su testo per garantire che i riepiloghi o le risposte generati siano accurati e affidabili. Ecco alcuni esempi di ogni caso d'uso:

Attività di riepilogo:

• Riepilogo medico: nel contesto di articoli di notizie mediche, il rilevamento di terra può essere usato per garantire che il riepilogo non contenga informazioni fabbricate o fuorvianti, garantendo che i lettori ottengano informazioni mediche accurate e affidabili.
• Riepilogo del documento accademico: quando il modello genera riepiloghi di articoli accademici o di ricerca, la funzione può contribuire a garantire che il contenuto riepilogato rappresenti accuratamente i risultati e i contributi chiave senza introdurre false attestazioni.

Attività QnA:

• Chatbot di supporto clienti: nel supporto clienti, la funzione può essere usata per convalidare le risposte fornite dai chatbot di intelligenza artificiale, assicurandosi che i clienti ricevano informazioni accurate e affidabili quando fanno domande su prodotti o servizi.
• QnA medico: per il QnA medico, la funzione aiuta a verificare l'accuratezza delle risposte mediche e dei consigli forniti dai sistemi di IA ai professionisti sanitari e ai pazienti, riducendo il rischio di errori medici.
• QnA educativo: nelle impostazioni didattiche, la funzione può essere applicata alle attività QnA per verificare che le risposte alle domande accademiche o alle query di preparazione dei test siano effettivamente accurate, supportando il processo di apprendimento.

Limiti

Disponibilità nelle lingue

Attualmente, l'API di rilevamento della base supporta il contenuto in lingua inglese. Anche se l'API non limita l'invio di contenuto non in lingua inglese, non è possibile garantire lo stesso livello di qualità e accuratezza nell'analisi di altri contenuti linguistici. È consigliabile che gli utenti inviino contenuto principalmente in inglese per garantire i risultati più affidabili e accurati dell'API.

Limitazioni relative alla lunghezza del testo

Vedere Requisiti di input per le limitazioni massime della lunghezza del testo.

Aree

Per usare questa API, è necessario creare la risorsa Sicurezza del contenuto di Intelligenza artificiale di Azure nelle aree supportate. Vedere Disponibilità dell'area.

Limitazioni di TPS

Vedere Frequenza delle query.

Se hai bisogno di una tariffa più alta, contattaci per richiederla.

Passaggi successivi

Seguire la guida introduttiva per iniziare a usare Azure AI Content Safety per rilevare l'affidabilità.

Guida introduttiva al rilevamento di suolo