Concetti: intelligenza artificiale su Azure Databricks

Un'app di intelligenza artificiale è un'applicazione che usa modelli di intelligenza artificiale (ad esempio modelli linguistici di grandi dimensioni, modelli di generazione di immagini e modelli di sintesi vocale) per creare nuovi output, automatizzare attività complesse o interagire in interazioni intelligenti basate sull'input dell'utente.

Un'app di IA può basarsi su semplici chiamate a LLM o ad altri modelli di intelligenza artificiale, oppure su agenti complessi. Altre informazioni sui livelli di complessità.

Gli agenti, gli strumenti, la valutazione, i modelli e altri aspetti delle app di intelligenza artificiale possono essere personalizzati con i dati proprietari. Questa personalizzazione guidata dai dati porta all'intelligenza dei dati, consentendo di andare oltre l'intelligenza generale offerta dai modelli di intelligenza artificiale in scatola.

Applicazioni di intelligenza artificiale

Un'applicazione di intelligenza artificiale rivolta agli utenti può assumere molte forme, ad esempio:

• Un'app di chat, ad esempio una distribuita con le App Databricks
• Un endpoint API, ad esempio un agente distribuito in Model Serving
• Funzione SQL per analisti, ad esempio una funzione di intelligenza artificiale

Il successo con le applicazioni di intelligenza artificiale richiede spesso due set di competenze: sviluppo di applicazioni e valutazione dell'intelligenza artificiale. Lo sviluppo di app di intelligenza artificiale è molto simile allo sviluppo di applicazioni non di intelligenza artificiale, che richiedono competenze software che dipendono dal tipo di applicazione. Tuttavia, la valutazione per le applicazioni di intelligenza artificiale richiede strumenti e tecniche specializzati per gestire la complessità e le risposte aperte dall'IA.

Per informazioni sulla creazione di app di intelligenza artificiale specifiche del settore in Azure Databricks, vedere:

• Soluzioni Databricks per il settore: casi d'uso, clienti e altre risorse
• Acceleratori di Soluzioni Databricks per implementazioni di casi d'uso che puoi eseguire e modificare

Valutazione dell'intelligenza artificiale

I modelli di intelligenza artificiale, gli agenti e le applicazioni hanno spesso un comportamento complesso e aperto. Gli utenti possono immettere qualsiasi richiesta. Un agente può essere autorizzato a raccogliere testo, immagini e altro durante l'esecuzione. L'output può essere testo arbitrario, immagini o altri supporti e possono esserci molte risposte "buone".

Queste complicazioni rendono difficile valutare l'IA. La valutazione corretta richiede:

• Automazione con intelligenza artificiale per valutare l'intelligenza artificiale
• Feedback umano di esperti e utenti per raccogliere la verità e calibrare la valutazione automatizzata
• Approfondimento sugli agenti complessi per comprendere ed eseguire il debug del comportamento

MLflow gestito Azure Databricks e gli strumenti correlati forniscono le basi per la valutazione dell'intelligenza artificiale:

• Valutare e monitorare gli agenti : informazioni sulla valutazione, il monitoraggio della produzione e il feedback umano.
• Introduzione: MLflow 3 per GenAI - Provare a tracciare, valutare e raccogliere feedback umano.
• Tracciamento MLflow - Osservabilità GenAI - Informazioni sul tracciamento MLflow per registrare e analizzare il comportamento degli agenti.

Agenti

Un agente o sistema agente è un sistema basato sull'intelligenza artificiale che può percepire, decidere e agire in modo autonomo in un ambiente per raggiungere gli obiettivi. A differenza di un modello di intelligenza artificiale autonomo che produce solo un output quando richiesto, un sistema agente possiede un grado di agenzia. Gli agenti moderni usano un modello di intelligenza artificiale come "cervello" di un sistema che:

1. Riceve richieste utente o messaggi da un altro agente.
2. Motivi su come procedere: quali dati recuperare, quale logica applicare, quali strumenti chiamare o se richiedere più input dall'utente.
3. Esegue un piano e possibilmente utilizza più strumenti o delega a sub-agenti.
4. Restituisce una risposta o chiede all'utente ulteriori chiarimenti.

Collegando l'intelligenza generale (le capacità preaddestrate del modello di IA) e l'intelligenza dei dati (la conoscenza specializzata e le API specifiche della tua azienda), i sistemi di agenti rendono possibili casi d'uso aziendali ad alto impatto, come flussi avanzati di assistenza clienti, bot di analisi ricchi di dati e orchestrazione multi-agente per attività operative complesse.

Esiste un continuum dai modelli di intelligenza artificiale semplici agli agenti complessi. Per altre informazioni, vedere Modelli di progettazione del sistema agent.

Azure Databricks offre una gamma di opzioni per la creazione di agenti, da completamente guidato a completamente personalizzato:

• Le funzioni Knowledge Assistant e intelligenza artificiale forniscono generatori di agenti guidati.

• AI Playground offre un'interfaccia utente per la creazione di prototipi di agenti che chiamano gli strumenti, da cui è possibile esportare il codice dell'agente generato.
• Gli agenti personalizzati consentono di compilare e distribuire agenti usando codice personalizzato o librerie di creazione di agenti di terze parti.

Strumenti

Gli agenti possono chiamare strumenti per raccogliere informazioni o eseguire azioni. Gli strumenti sono funzioni a interazione singola che un LLM può richiamare per eseguire un'attività ben definita. Il modello di intelligenza artificiale genera in genere parametri per ogni chiamata di strumento e lo strumento fornisce un'interazione di input-output semplice.

Le categorie di strumenti comuni includono:

• Strumenti che recuperano o analizzano i dati
  • Recupero semantico: eseguire una query su un indice vettoriale per individuare il testo pertinente o altri dati non strutturati.
  • Recupero strutturato: eseguire query SQL o usare le API per recuperare informazioni strutturate.
  • Strumento di ricerca Web: eseguire ricerche in Internet o in un corpus Web interno.
  • Modelli di Machine Learning classici: richiamare modelli di Machine Learning per eseguire la classificazione, la regressione o altre stime.
  • Modelli di intelligenza artificiale: generare output specializzati, ad esempio codice o immagini.
• Strumenti che modificano lo stato di un sistema esterno
  • Richiesta API: effettuare richieste a endpoint CRM, servizi interni o altre integrazioni di terze parti.
  • Integrazione dell'app di posta elettronica o di messaggistica: inviare un messaggio o inviare una notifica.
• Strumenti che eseguono la logica o eseguono un'attività specifica
  • Esecuzione del codice: eseguire codice fornito dall'utente o generato da LLM in una sandbox.

Gli strumenti possono essere integrati nella logica agentic o accessibili usando interfacce standardizzate come MCP.

Strumenti e agenti:

• Gli strumenti eseguono una singola operazione ben definita. Gli agenti possono eseguire attività più aperte.
• Gli strumenti sono in genere senza stato e non mantengono il contesto continuo oltre ogni chiamata. Gli agenti mantengono lo stato man mano che risolvono in modo iterativo le attività.

Gestione degli errori e sicurezza degli strumenti:

Poiché ogni chiamata di strumento è un'operazione esterna, ad esempio una chiamata API, il sistema deve gestire correttamente gli errori. I timeout, le risposte in formato non valido o gli input non validi non devono causare un errore completo dell'agente stesso. Nell'ambiente di produzione, limitare il numero di chiamate agli strumenti consentite, avere una risposta di fallback se le chiamate degli strumenti hanno esito negativo e applicare protezioni per garantire che il sistema dell'agente non tenti ripetutamente la stessa azione non riuscita.

Altre informazioni sugli strumenti di intelligenza artificiale in Databricks:

• MCP e strumenti per agenti - Guida agli approcci degli strumenti
• MCP e strumenti per agenti - Server MCP gestiti, personalizzati ed esterni

Modelli di intelligenza artificiale e llms

I modelli di linguaggio di grandi dimensioni sono modelli di intelligenza artificiale sottoposti a training su set di dati di testo di grandi dimensioni che possono comprendere, generare e ragionare sul linguaggio umano. Llms alimenta applicazioni come chatbot, assistenti di codice e strumenti di generazione di contenuti stimando e producendo testo contestualmente pertinente in base alle richieste di input.

Più in generale, i modelli di intelligenza artificiale o i modelli di base vengono sottoposti a training su testo, immagine, video, audio o altri dati per apprendere le modalità oltre il testo. I modelli multi modali imparano a connettere il linguaggio umano con immagini, audio e altri supporti. Gli LLM sono un tipo di modello di IA o di modello di base, anche se questi termini sono spesso usati in modo piuttosto generico e intercambiabile.

I modelli di intelligenza artificiale forniscono l'intelligence dietro agenti e app. Le app semplici vengono spesso compilate usando un singolo modello personalizzato con la progettazione dei prompt.

Informazioni sull'uso dei modelli di intelligenza artificiale in Azure Databricks:

• Introduzione: Eseguire query con llms e creare prototipi di agenti senza codice
• Modelli di base ospitati da Databricks disponibili nelle API del modello di base
• Informazioni sul gateway di intelligenza artificiale per la governance dei modelli di intelligenza artificiale

Progettazione dei prompt

I modelli di intelligenza artificiale in genere accettano richieste o istruzioni che comunicano al modello come gestire l'input dell'utente. I prompt possono essere fortemente personalizzati con passaggi dettagliati, conoscenze di esperti, dati e altre informazioni.

Azure Databricks offre modi flessibili per eseguire la progettazione dei prompt. Per esempio:

• Knowledge Assistant automatizza la progettazione dei prompt in background, in base ai dati e ai commenti.

• AI Playground offre un'interfaccia utente per la progettazione manuale e interattiva dei prompt.
• MLflow Prompt Optimization e DSPy forniscono routine di ottimizzazione delle richieste guidate dai dati.

Ottimizzazione dei modelli

I modelli di intelligenza artificiale possono anche essere personalizzati tramite l'ottimizzazione, che personalizza un modello per un dominio o un'applicazione specifica usando i dati personalizzati.

Azure Databricks offre modi flessibili per ottimizzare i modelli. Per esempio:

• Knowledge Assistant automatizza la personalizzazione basata sui dati, con la possibilità di eseguire l'ottimizzazione sotto le quinte.
• Il runtime di intelligenza artificiale offre un'infrastruttura di calcolo per l'ottimizzazione completamente personalizzabile. Guarda esempi.

Che cos'è una piattaforma di intelligenza artificiale?

L'intelligenza artificiale richiede una piattaforma combinata di dati e intelligenza artificiale. Sia per gli sviluppatori che per gli amministratori, i componenti chiave per l'intelligenza artificiale devono essere connessi e regolati in una semplice piattaforma unificata.

I componenti principali includono:

• Asset di intelligenza artificiale come modelli, agenti e app
• Asset di dati come file, tabelle, pipeline di elaborazione, indici vettoriali e archivi di funzionalità
• Implementazioni di intelligenza artificiale, come gli endpoint per modelli e agenti
• Strumenti per la compilazione e la distribuzione di asset di dati e intelligenza artificiale

Le principali funzionalità di governance includono:

• Governance unificata degli asset di intelligenza artificiale e di dati. Per altre informazioni, vedere Che cos'è il catalogo unity?.
• Governance unificata degli endpoint dei modelli di IA. Scopri di più su governance dell’IA con Unity AI Gateway.
• Approccio di sicurezza unificato. Per altre informazioni, vedere Sicurezza dell'intelligenza artificiale di Databricks.
• Amministrazione unificata degli strumenti per intelligenza artificiale e dati. Per ulteriori informazioni, vedi Amministrazione.

Vedere anche Azure Databricks funzionalità di intelligenza artificiale e architettura di Databricks.

Intelligence generale e intelligence per i dati

• L'intelligenza generale si riferisce a ciò che l'LLM sa intrinsecamente dal preaddestramento generale su testi diversificati. Questo è utile per la fluenza del linguaggio e il ragionamento generale.
• L'intelligence dei dati si riferisce ai dati e alle API specifiche del dominio dell'organizzazione. Ciò può includere record dei clienti, informazioni sul prodotto, knowledge base o documenti che riflettono l'ambiente aziendale univoco.

I sistemi dell'agente combinano queste due fonti di conoscenza: iniziano con una conoscenza generica e ampia di un LLM e quindi inseriscono dati specifici del dominio o in tempo reale per rispondere a domande dettagliate o eseguire azioni specializzate. Con Azure Databricks, è possibile incorporare l'intelligence dei dati nelle app di intelligenza artificiale a ogni livello:

• Origini dei dati come indici vettoriali e Agenti Genie

• Agenti, incluse sia le progettazioni degli agenti personalizzati che le progettazioni automatizzate di Knowledge Assistant e le funzioni di intelligenza artificiale.

• Dati di valutazione e metriche
• Ottimizzazione della richiesta basata sui dati di valutazione

• Ottimizzazione del modello, inclusa l'ottimizzazione personalizzata e l'ottimizzazione automatizzata tramite Knowledge Assistant e le funzioni di intelligenza artificiale.

Intelligenza artificiale e Machine Learning e Deep Learning

I limiti tra intelligenza artificiale, Machine Learning (ML) e Deep Learning (DL) possono essere fuzzy. Questa guida è incentrata sull'intelligenza artificiale, ma le funzionalità della piattaforma Databricks seguenti supportano ML, Deep Learning e intelligenza artificiale:

• Model Serving supporta modelli di Machine Learning, Deep Learning e intelligenza artificiale. È possibile usarlo per l'inferenza batch di intelligenza artificiale e per distribuire agenti o modelli ottimizzati usando la gestione di modelli personalizzati.

• AI Runtime e Databricks Runtime for Machine Learning con supporto GPU possono essere usati per addestrare e perfezionare modelli di machine learning, deep learning e intelligenza artificiale.

• Il rilevamento dell'esperimento MLflow può essere usato per tenere traccia sia degli esperimenti di Machine Learning che dell'intelligenza artificiale classici e delle esecuzioni.
• Databricks Feature Store può essere usato per gestire e gestire i dati strutturati per ML classico e intelligenza artificiale.

Risorse aggiuntive

• Sfide principali per la creazione di app di intelligenza artificiale : sfide principali nell'intelligenza artificiale e soluzioni per l'uso di Databricks
• Pattern di progettazione dei sistemi di agenti - Dagli agenti semplici a quelli complessi, più consigli pratici
• Intelligenza artificiale in Databricks - Casi d'uso, clienti e altre risorse per l'intelligenza artificiale in Databricks