Condividi tramite

Concetti: Intelligenza Artificiale Generativa su Azure Databricks

Un'app GenAI è un'applicazione che usa modelli di intelligenza artificiale generativi (ad esempio modelli linguistici di grandi dimensioni, modelli di generazione di immagini e modelli di sintesi vocale) per creare nuovi output, automatizzare attività complesse o interagire in interazioni intelligenti basate sull'input dell'utente.

Un'app GenAI può essere basata su semplici chiamate a LLMs o ad altri modelli GenAI o da agenti di intelligenza artificiale complessi. Altre informazioni sui livelli di complessità.

Gli agenti, gli strumenti, la valutazione, i modelli e altri aspetti delle app GenAI possono essere personalizzati con i dati proprietari. Questa personalizzazione guidata dai dati porta all'intelligenza dei dati, consentendo di andare oltre l'intelligenza generale offerta dai modelli di intelligenza artificiale in scatola.

Applicazioni GenAI

Un'applicazione GenAI rivolta all'utente può assumere molte forme, ad esempio:

Il successo con le applicazioni GenAI richiede spesso due set di competenze: sviluppo di applicazioni e valutazione dell'intelligenza artificiale. Lo sviluppo di app GenAI è molto simile allo sviluppo di applicazioni non di intelligenza artificiale, che richiedono competenze software che dipendono dal tipo di applicazione. Tuttavia, la valutazione per le applicazioni GenAI richiede strumenti e tecniche specializzati per gestire la complessità e le risposte aperte da GenAI.

Per informazioni sulla creazione di app GenAI specifiche del settore in Azure Databricks, vedere:

Valutazione GenAI

I modelli, gli agenti e le applicazioni GenAI hanno spesso un comportamento complesso e aperto. Gli utenti possono immettere qualsiasi richiesta. Un agente di intelligenza artificiale può essere autorizzato a raccogliere testo, immagini e altro ancora durante l'esecuzione. L'output può essere testo arbitrario, immagini o altri supporti e possono esserci molte risposte "buone".

Queste complicazioni rendono difficile valutare la GenAI. La valutazione corretta richiede:

  • Automazione con intelligenza artificiale per valutare l'intelligenza artificiale
  • Feedback umano di esperti e utenti per raccogliere la verità e calibrare la valutazione automatizzata
  • Approfondimento sugli agenti complessi per comprendere ed eseguire il debug del comportamento

MLflow gestito da Azure Databricks e gli strumenti correlati forniscono le basi per la valutazione GenAI:

Agents

Un agente o sistema agente è un sistema basato sull'intelligenza artificiale che può percepire, decidere e agire in modo autonomo in un ambiente per raggiungere gli obiettivi. A differenza di un modello GenAI autonomo che produce solo un output quando richiesto, un sistema agente possiede un grado di agenzia. Gli agenti di intelligenza artificiale moderni usano un modello GenAI come "cervello" di un sistema che:

  1. Riceve richieste utente o messaggi da un altro agente.
  2. Motivi su come procedere: quali dati recuperare, quale logica applicare, quali strumenti chiamare o se richiedere più input dall'utente.
  3. Esegue un piano e possibilmente utilizza più strumenti o delega a sub-agenti.
  4. Restituisce una risposta o chiede all'utente ulteriori chiarimenti.

Connettendo l'intelligenza generale (le capacità preaddestrate del modello GenAI) e l'intelligenza dei dati (la conoscenza specializzata e le API specifiche per la tua azienda), i sistemi agenti consentono casi d'uso aziendali ad alto impatto, come flussi avanzati di servizio clienti, bot di analisi dei dati ricca e orchestrazione di più agenti per attività operative complesse.

Esiste un continuum dai semplici modelli GenAI agli agenti complessi. Per altre informazioni, vedere Modelli di progettazione del sistema agent.

Azure Databricks offre una gamma di opzioni per la creazione di agenti, da completamente guidato a completamente personalizzato:

  • Agent Brick fornisce generatori di agenti guidati per applicazioni chiave come assistenti alla conoscenza e estrazione di informazioni.
  • AI Playground offre un'interfaccia utente per la creazione di prototipi di agenti che chiamano gli strumenti, da cui è possibile esportare il codice dell'agente generato.
  • Agent Framework consente di compilare e distribuire agenti usando codice personalizzato o librerie di creazione di agenti di terze parti.

Strumenti

Gli agenti di intelligenza artificiale possono chiamare strumenti per raccogliere informazioni o eseguire azioni. Gli strumenti sono funzioni a interazione singola che un LLM può richiamare per eseguire un'attività ben definita. Il modello di intelligenza artificiale genera in genere parametri per ogni chiamata di strumento e lo strumento fornisce un'interazione di input-output semplice.

Le categorie di strumenti comuni includono:

  • Strumenti che recuperano o analizzano i dati
    • Recupero semantico: eseguire una query su un indice vettoriale per individuare il testo pertinente o altri dati non strutturati.
    • Recupero strutturato: eseguire query SQL o usare le API per recuperare informazioni strutturate.
    • Strumento di ricerca Web: eseguire ricerche in Internet o in un corpus Web interno.
    • Modelli di Machine Learning classici: richiamare modelli di Machine Learning per eseguire la classificazione, la regressione o altre stime.
    • Modelli GenAI: generare output specializzati, ad esempio codice o immagini.
  • Strumenti che modificano lo stato di un sistema esterno
    • Richiesta API: effettuare richieste a endpoint CRM, servizi interni o altre integrazioni di terze parti.
    • Integrazione dell'app di posta elettronica o di messaggistica: inviare un messaggio o inviare una notifica.
  • Strumenti che eseguono la logica o eseguono un'attività specifica
    • Esecuzione del codice: eseguire codice fornito dall'utente o generato da LLM in una sandbox.

Gli strumenti possono essere integrati nella logica agentic o accessibili usando interfacce standardizzate come MCP.

Strumenti e agenti:

  • Gli strumenti eseguono una singola operazione ben definita. Gli agenti possono eseguire attività più aperte.
  • Gli strumenti sono in genere senza stato e non mantengono il contesto continuo oltre ogni chiamata. Gli agenti mantengono lo stato man mano che risolvono in modo iterativo le attività.

Gestione degli errori e sicurezza degli strumenti:

Poiché ogni chiamata di strumento è un'operazione esterna, ad esempio una chiamata API, il sistema deve gestire correttamente gli errori. I timeout, le risposte in formato non valido o gli input non validi non devono causare un errore completo dell'agente stesso. Nell'ambiente di produzione, limitare il numero di chiamate agli strumenti consentite, avere una risposta di fallback se le chiamate degli strumenti hanno esito negativo e applicare protezioni per garantire che il sistema dell'agente non tenti ripetutamente la stessa azione non riuscita.

Altre informazioni sugli strumenti di intelligenza artificiale in Databricks:

Modelli GenAI e LLM

I modelli di linguaggio di grandi dimensioni sono modelli di intelligenza artificiale sottoposti a training su set di dati di testo di grandi dimensioni che possono comprendere, generare e ragionare sul linguaggio umano. Llms alimenta applicazioni come chatbot, assistenti di codice e strumenti di generazione di contenuti stimando e producendo testo contestualmente pertinente in base alle richieste di input.

Più in generale, i modelli GenAI o i modelli di base vengono sottoposti a training su testo, immagine, video, audio o altri dati per apprendere le modalità oltre il testo. I modelli multimodali imparano a connettere il linguaggio umano con immagini, audio e altri media. I LLM sono un tipo di modello di base o GenAI, anche se questi termini vengono spesso usati in modo approssimativo e intercambiabile.

I modelli GenAI forniscono l'intelligence dietro agenti e app GenAI. Le app semplici vengono spesso compilate usando un singolo modello personalizzato con la progettazione dei prompt.

Informazioni sull'uso dei modelli GenAI in Azure Databricks:

Progettazione delle richieste

I modelli GenAI in genere accettano richieste o istruzioni che comunicano al modello come gestire l'input dell'utente. I prompt possono essere fortemente personalizzati con passaggi dettagliati, conoscenze di esperti, dati e altre informazioni.

Azure Databricks offre modi flessibili per eseguire la progettazione dei prompt. Per esempio:

  • Agent Brick automatizza l'ingegneria dei prompt sotto il cofano, in base ai dati e ai feedback.

Ottimizzazione dei modelli

I modelli GenAI possono anche essere personalizzati tramite l'ottimizzazione, che personalizza un modello per un dominio o un'applicazione specifica usando i dati personalizzati.

Azure Databricks offre modi flessibili per ottimizzare i modelli. Per esempio:

  • Agent Brick automatizza la personalizzazione basata sui dati, con la possibilità di eseguire l'ottimizzazione sotto le quinte.
  • Il calcolo GPU serverless offre un'infrastruttura di calcolo per la personalizzazione completa della messa a punto. Guarda esempi.

Che cos'è una piattaforma GenAI?

GenAI richiede una piattaforma combinata di dati e intelligenza artificiale. Sia per gli sviluppatori che per gli amministratori, i componenti chiave per GenAI devono essere connessi e regolati in una semplice piattaforma unificata.

I componenti principali includono:

  • Asset di intelligenza artificiale come modelli, agenti e app
  • Asset di dati come file, tabelle, pipeline di elaborazione, indici vettoriali e archivi di funzionalità
  • Implementazioni di intelligenza artificiale, come gli endpoint per modelli e agenti
  • Strumenti per la compilazione e la distribuzione di asset di dati e intelligenza artificiale

Le principali funzionalità di governance includono:

Vedere anche le capacità di Mosaic AI per la Generative AI e l'architettura Databricks.

Ulteriori informazioni

  • Last updated on