Comprendere l'osservabilità
Esistono molti modi per misurare la qualità della risposta dell'IA generativa. In generale, è possibile considerare tre dimensioni per la valutazione e il monitoraggio dell'intelligenza artificiale generativa. Questi includono:
- Analizzatori di prestazioni e qualità: valutare l'accuratezza, la base e la pertinenza del contenuto generato.
- Analizzatori di rischi e sicurezza: valutare i potenziali rischi associati al contenuto generato dall'IA per proteggersi dai rischi per i contenuti. Ciò include la valutazione della predisposizione di un sistema di intelligenza artificiale alla generazione di contenuti dannosi o inappropriati.
- Analizzatori personalizzati: metriche specifiche del settore per soddisfare esigenze e obiettivi specifici.
Microsoft Foundry supporta funzionalità di osservabilità che migliorano le prestazioni e l'attendibilità delle risposte di intelligenza artificiale generativa. Gli analizzatori sono strumenti specializzati in Microsoft Foundry che misurano la qualità, la sicurezza e l'affidabilità delle risposte di intelligenza artificiale.
Alcuni valutatori includono:
- Fondezza: misura quanto la risposta sia coerente rispetto al contesto recuperato.
- Rilevanza: misura il modo in cui la risposta è pertinente rispetto alla query.
- Fluency: misura la qualità e la leggibilità del linguaggio naturale.
- Coerenza: misura la coerenza logica e il flusso delle risposte.
- Sicurezza dei contenuti: valutazione completa dei vari problemi di sicurezza.
Provare quindi le funzionalità di intelligenza artificiale generative nel portale di Microsoft Foundry.