Studio AI o Azure Machine Learning: quale esperienza scegliere?
Questo articolo aiuta a capire quando usare Studio AI della piattaforma Azure rispetto ad Azure Machine Learning. Anche se c'è qualche sovrapposizione nella funzionalità in ogni esperienza, questo articolo offre una panoramica delle relative funzionalità e degli scenari di sviluppo più adatti per ogni piattaforma.
Studio AI della piattaforma Azure
Azure AI Studio è una piattaforma unificata per lo sviluppo e la distribuzione responsabile di app di intelligenza artificiale generativa e di API di Azure per l'intelligenza artificiale. Offre un set completo di funzionalità di intelligenza artificiale, un'interfaccia utente intuitiva ed esperienze incentrate sul codice, fungendo da sportello unico per la creazione, il test, la distribuzione e la gestione di soluzioni intelligenti.
Studio AI è adatto?
Studio AI della piattaforma Azure è progettato per aiutare sviluppatori e data scientist a creare e distribuire in modo efficiente applicazioni di intelligenza artificiale generativa con la potenza delle ampie offerte di intelligenza artificiale di Azure.
Funzionalità principali di Studio AI della piattaforma Azure
- Creare insieme come un unico team. L’Hub di Studio AI offre sicurezza di livello aziendale e un ambiente collaborativo con risorse condivise e connessioni a modelli, dati e calcolo con training preliminare.
- Organizzare il lavoro. Il progetto di Studio AI contribuisce a salvare lo stato, consentendo di eseguire l'iterazione dalla prima idea, al primo prototipo e quindi alla prima distribuzione di produzione. Inoltre, si può invitare facilmente altri a collaborare in questo percorso.
- Usare la piattaforma e i framework di sviluppo preferiti, tra cui GitHub, Visual Studio Code, LangChain, Semantic Kernel, AutoGen e altro ancora.
- Individuare e eseguire il benchmark da oltre 1.600 modelli.
- Effettuare il provisioning di Models-as-a-Service (MaaS) tramite API serverless e ottimizzazione ospitata.
- Incorporare più modelli, origini dati e modalità.
- Creare la generazione aumentata di recupero (RAG) usando i dati aziendali protetti senza la necessità di ottimizzare.
- Orchestrare e gestire progettazione di richieste e flussi di modelli linguistici di grandi dimensioni (LLM).
- Progettare e proteggere app e API con filtri e controlli configurabili.
- Valutare le risposte dei modelli con flussi di valutazione integrati e personalizzati.
- Distribuire le innovazioni di IA nell'infrastruttura gestita di Azure con monitoraggio e governance continui in ambienti diversi.
- Monitorare costantemente la sicurezza, la qualità e il consumo di token in produzione delle app distribuite.
Studio di Azure Machine Learning
Studio di Azure Machine Learning è una piattaforma di Machine Learning end-to-end gestita per la creazione, l'ottimizzazione, la distribuzione e l'uso di modelli di Azure Machine Learning, in modo responsabile su larga scala.
Studio di Azure Machine Learning è adatto?
Azure Machine Learning è progettato per ingegneri e data scientist di apprendimento automatico.
Funzionalità principali di studio di Azure Machine Learning
- Creare e addestrare un modello di Azure Machine Learning usando qualsiasi tipo di calcolo, inclusi Spark e GPU, per carichi di lavoro di intelligenza artificiale di grandi dimensioni su scala cloud.
- Eseguire Azure Machine Learning (AutoML) automatizzato e interfaccia utente drag-and-drop per Azure Machine Learning con poco codice.
- Implementare Azure Machine LearningOps end-to-end e pipeline ripetibili di Azure Machine Learning.
- Usare dashboard di intelligenza artificiale responsabile per il rilevamento delle distorsioni e l'analisi degli errori.
- Orchestrare e gestire la progettazione delle richieste e i flussi LLM.
- Distribuire modelli con endpoint API REST, inferenza in tempo reale e batch.
Confronto dettagliato delle funzionalità
La tabella seguente confronta le funzionalità principali di Studio AI della piattaforma Azure e studio di Azure Machine Learning:
| Categorie | Funzionalità | Studio AI della piattaforma Azure | Studio di Azure Machine Learning |
|---|---|---|---|
| Archiviazione dei dati | Soluzioni di archiviazione | No | Sì, con l'integrazione del filesystem cloud, l'integrazione di OneLake in Fabric e gli account Archiviazione di Azure. |
| Preparazione dei dati | Integrazione dei dati nell'archiviazione | Sì, con l'archiviazione BLOB, Onelake, Azure Data Lake Storage (ADLS) supportato nell'indice. | Sì, tramite copia e montaggio con account Archiviazione di Azure. |
| Data wrangling | No | Sì, nel codice. | |
| Etichettatura dei dati | No | Sì, con identificazione degli oggetti, segmentazione dell'istanza, segmentazione semantica, Riconoscimento entità denominata (NER) di testo, integrazione con strumenti e servizi di etichettatura 3P. | |
| Archivio delle funzionalità | No | Sì | |
| Derivazione e etichette dei dati | No | Sì | |
| Carichi di lavoro Spark | No | Sì | |
| Carichi di lavoro di orchestrazione dei dati | No | No, anche se sono disponibili pipeline Spark e Azure Machine Learning collegate. | |
| Sviluppo e training dei modelli | Strumento code-first per scienziato dei dati. | Sì, con VS Code. | Sì, con Notebooks, Jupyter, VS Code, R Studio integrati. |
| Lingue | Solo Python. | Python (esperienza completa), R, Scala, Java (esperienza limitata). | |
| Tenere traccia, monitorare e valutare gli esperimenti | Sì, ma solo per le esecuzioni del flusso immediato. | Sì, per tutti i tipi di esecuzione. | |
| Strumenti di creazione della pipeline ML | No | Sì, con la finestra di progettazione, lo strumento di creazione visiva e SDK/interfaccia della riga di comando/API. | |
| AutoML | No | Sì, per regressione, classificazione, regressione, previsione della serie temporale, visione artificiale ed elaborazione del linguaggio naturale (NLP). | |
| Destinazioni di calcolo per il training | Serverless solo per le istanze di calcolo MaaS e il runtime serverless per il flusso immediato. | Cluster Spark, cluster di Azure Machine Learning (MPI) e Azure Arc serverless. | |
| Eseguire il training e ottimizzare modelli di linguaggio di grandi dimensioni e modelli di base | Limitato al catalogo dei modelli. | Sì, con il training distribuito basato su MPI e il catalogo dei modelli. | |
| Valutare ed eseguire il debug di modelli di Azure Machine Learning per equità e spiegabilità. | No | Sì, con il dashboard di intelligenza artificiale responsabile integrato. | |
| Intelligenza artificiale generativa/LLM | Catalogo LLM | Sì, tramite catalogo di modelli, LLM di OpenAI di Azure, Hugging Face e Meta. | Sì, tramite gli LLM del catalogo di modelli da OpenAI di Azure, Hugging Face e Meta. |
| RAG (chat aziendale) | Sì | Sì, tramite il flusso di immediato. | |
| Filtro del contenuto LLM | Sì, tramite la sicurezza dei contenuti di intelligenza artificiale. | Sì, tramite la sicurezza dei contenuti di intelligenza artificiale. | |
| Prompt flow | Sì | Sì | |
| Classifica/benchmark | Sì | No | |
| Esempi di prompt | Sì | No | |
| Flusso di lavoro LLM/LLMOps/MLOps | Playground | Sì | No |
| Richieste di esperimento e test | Sì, tramite playground, scheda modello e flusso immediato. | Sì, tramite la scheda del modello e il flusso immediato. | |
| Sviluppare un flusso di lavoro | Sì, tramite flusso immediato, integrazione con LangChain e Semantic Kernel. | Sì, tramite flusso immediato, integrazione con LangChain e Semantic Kernel. | |
| Distribuire il flusso di lavoro come endpoint | Sì, tramite il flusso di immediato. | Sì, tramite il flusso di immediato. | |
| Controllo della versione del flusso | Sì, tramite il flusso di immediato. | Sì, tramite il flusso di immediato. | |
| Valutazione predefinita | Sì, tramite il flusso di immediato. | Sì, tramite il flusso di immediato. | |
| Integrazione con Git | Sì | Sì | |
| CI/CD | Sì, tramite esperienze code-first nel flusso immediato, integrate con Azure DevOps e GitHub. | Sì, tramite esperienze code-first nel flusso immediato, integrate con Azure DevOps e GitHub. | |
| Registro di modello | No | Sì, tramite MIFlow e registri. | |
| Registro del modello di organizzazione | No | Sì, tramite registri. | |
| Distribuzione di modelli | Opzioni di distribuzione per la gestione in tempo reale | Endpoint online Models as a Service (MaaS) per il catalogo MaaP. | No |
| Opzioni di distribuzione per la gestione batch | No | Endpoint batch, supporto gestito e non gestito di Azure Arc. | |
| Sicurezza aziendale | Hub di intelligenza artificiale | Sì, gestire e regolare gli asset di intelligenza artificiale. | Sì, sia per Azure Machine Learning classico sia per LLM. |
| Networking privato | Sì | Sì | |
| Prevenzione della perdita dei dati | Sì | Sì | |
| Classificazione dei dati | No | Sì, attraverso Purview. |