Introduzione alle app di intelligenza artificiale generative in Azure Databricks

Mosaic AI supporta applicazioni GenAI semplici e complesse, dai chatbot per Retrieval Augmented Generation (RAG) agli agenti che eseguono chiamate a strumenti. Questa guida utente illustra i concetti chiave relativi alle app GenAI e ai sistemi agente in Databricks e fornisce indicazioni per la creazione, la valutazione e il ridimensionamento delle app GenAI.

Pagina	Description
Introduzione: GenAI senza codice	Provare AI Playground per test e prototipi basati sull'interfaccia utente.
Introduzione: MLflow 3 per GenAI	Provare MLflow per la tracciabilità, la valutazione e il feedback umano su GenAI.
Concetti: GenAI su Databricks	Informazioni su modelli, agenti, strumenti e app GenAI.
Piattaforma: funzionalità principali di GenAI	Informazioni dettagliate sulle funzionalità principali per GenAI in Azure Databricks.

Introduzione alla creazione di app GenAI

Provare genAI basato sull'interfaccia utente e basato su codice in Azure Databricks.

Tutorial	Description
Inizia: Interrogare LLMs e creare dei prototipi di agenti di intelligenza artificiale senza codice	Acquisire familiarità con AI Playground per test e prototipi basati sull'interfaccia utente.
Introduzione: MLflow 3 per GenAI	Provare MLflow per il tracciamento, la valutazione e il feedback umano di GenAI.
Introduzione all'esecuzione di query su LLMs in Databricks	Usare le API del modello foundation per eseguire query sui modelli GenAI usando il codice.

Concetti relativi a GenAI

Acquisire familiarità con i concetti fondamentali di GenAI, ad esempio modelli, agenti, strumenti e app.

Guida	Description
Concetti: Intelligenza Artificiale Generativa su Azure Databricks	Informazioni su modelli, agenti, strumenti e app GenAI.
Sfide principali nella creazione di app GenAI	Informazioni sulle sfide principali di GenAI e sul modo in cui Databricks li affronta.
Modelli di progettazione del sistema agente	Informazioni sulle opzioni e sui compromessi per le progettazioni degli agenti, dalle catene semplici ai sistemi multi-agente complessi.

Usare le funzionalità di Azure Databricks per creare app GenAI

Per gli approcci senza codice o con poco codice, iniziare acquisire familiarità con:

Caratteristica / Funzionalità	Description
Mattoni agente	Creare e ottimizzare sistemi di agenti di intelligenza artificiale di alta qualità specifici del dominio per casi d'uso comuni.
AI Playground	Eseguire query su modelli e agenti GenAI, eseguire richieste di progettazione e creare prototipi di agenti che chiamano gli strumenti in un'interfaccia utente.
Funzioni di intelligenza artificiale	Chiamare le funzioni SQL predefinite per le attività di intelligenza artificiale.

Per gli approcci code-first, iniziare acquisendo familiarità con:

Caratteristica / Funzionalità	Description
MLflow per GenAI	Usare MLflow per tracciare e osservare, valutare e monitorare.
Modelli di base nella gestione dei modelli	Usare gli endpoint del modello GenAI, incluse le API dei modelli di base ospitate in Databricks e i modelli esterni.
Ricerca vettoriale	Creare ed eseguire query sugli indici dei vettori per RAG e altri sistemi ad agenti.
Mosaic AI Agent Framework	Compilare e distribuire agenti di intelligenza artificiale usando il codice.
Gateway di intelligenza artificiale	Gestire e monitorare l'accesso a modelli e endpoint GenAI.

Per un elenco più dettagliato, vedere Funzionalità di Mosaic AI per GenAI.

Intelligence generale e intelligence per i dati

• L'intelligenza generale si riferisce a ciò che l'LLM sa intrinsecamente dal preaddestramento generale su testi diversificati. Questo è utile per la fluenza del linguaggio e il ragionamento generale.
• L'intelligence dei dati si riferisce ai dati e alle API specifiche del dominio dell'organizzazione. Ciò può includere record dei clienti, informazioni sul prodotto, knowledge base o documenti che riflettono l'ambiente aziendale univoco.

I sistemi dell'agente combinano queste due fonti di conoscenza: iniziano con una conoscenza generica e ampia di un LLM e quindi inseriscono dati specifici del dominio o in tempo reale per rispondere a domande dettagliate o eseguire azioni specializzate. Con Azure Databricks, è possibile incorporare funzionalità di intelligence per i dati nelle app GenAI a ogni livello:

• Fonti di dati come indici vettoriali e Genie

• Agenti, inclusi i progetti di agenti personalizzati e i disegni automatizzati di Agent Brick

• Dati di valutazione e metriche
• Ottimizzazione della richiesta basata sui dati di valutazione

• Ottimizzazione del modello, inclusa l'ottimizzazione personalizzata e l'ottimizzazione automatizzata di Agent Bricks

Confronto tra GenAI e Machine Learning e Deep Learning

I limiti tra intelligenza artificiale generativa (GenAI), Machine Learning (ML) e Deep Learning (DL) possono essere fuzzy. Questa guida è incentrata su GenAI, ma le funzionalità della piattaforma Databricks seguenti supportano ML, Deep Learning e GenAI:

• Model Serving supporta modelli di Machine Learning, Deep Learning e GenAI. È possibile usarlo per l'inferenza batch GenAI e per distribuire agenti o modelli ottimizzati usando la gestione di modelli personalizzati.

• Le risorse di calcolo GPU serverless e il runtime di Databricks abilitato per GPU per il Machine Learning possono essere utilizzate per addestrare e perfezionare i modelli di Machine Learning, deep learning e GenAI.

• Il rilevamento dell'esperimento MLflow può essere usato per tenere traccia di esperimenti e esecuzioni di ML e GenAI classici.
• Databricks Feature Store può essere usato per gestire e fornire dati strutturati per ML tradizionale e GenAI.