Microsoft Strumenti di individuazione e integrazione dei modelli

Questa guida illustra come funzionano gli strumenti in Microsoft Individuazione e come integrare i modelli nei flussi di lavoro dell'agente. Illustra i tipi di strumenti, i modelli di integrazione e come iniziare.

Che cosa sono gli strumenti?

Gli strumenti consentono agli agenti di eseguire operazioni specifiche in modo ripetibile, coerente ed efficiente. Molte operazioni sono già implementate in modo affidabile sotto forma di Software Development Kit (SDK) o API (Application Programming Interface). Ad esempio, la lettura e la scrittura in un database avviene tramite un'API fornitore, che in genere è ben documentata e ottimizzata. Altri esempi di dove usare uno strumento includono algoritmi complessi o basati sulle prestazioni o simulazioni che non possono tollerare la stocastica. Gli strumenti consentono ai modelli di intelligenza artificiale e ai relativi agenti di indirizzare il flusso di lavoro in modo affidabile ed efficiente per interagire con i sistemi esistenti. Esempi di usi degli strumenti includono:

  • Gli strumenti di calcolo forniscono gli algoritmi necessari per risolvere problemi matematici complessi, simulare fenomeni fisici o sistemi di ingegneria e analizzare set di dati scientifici di grandi dimensioni.

  • Gli strumenti di elaborazione dati gestiscono e affinano i dati raccolti da varie origini. Consentono agli utenti di estrarre informazioni pertinenti, rimuovere i dati non significativi e pre-elaborare i dati per un'ulteriore analisi all'interno della piattaforma di individuazione.

  • Gli strumenti di simulazione possono modellare e simulare processi fisici, chimici o biologici e sistemi di progettazione complessi usando le risorse supercomputer della piattaforma. Questi strumenti sono fondamentali per la sperimentazione che non possono essere condotti in pratica a causa di vincoli quali tempi, costi o problemi di sicurezza.

  • Gli strumenti di visualizzazione interpretano i dati scientifici o i dati di progettazione della progettazione e comunicano graficamente i risultati. Questi strumenti trasformano i dati in rappresentazioni grafiche come grafici, grafici e modelli 3D, semplificando l'esplorazione dei modelli, l'identificazione dei modelli e la scoperta di tendenze e anomalie.

Tipi di strumenti

Microsoft Discovery supporta due tipi di strumenti: action e code-environment based tools.

Strumenti basati su azioni

Gli strumenti basati su azioni vengono usati quando il software richiede un sistema operativo, ad esempio con pacchetti commerciali, proprietari o open source. Questi pacchetti vengono comunemente distribuiti come file binari o hanno requisiti di installazione complessi. Esempi sono simulatori, emulatori, compilatori, visualizzatori, linter, strumenti di automazione di progettazione, pacchetti di modellazione e pacchetti software complessi simili.

Gli strumenti vengono installati in un'immagine Docker che viene quindi archiviata in un registro contenitori. Il profilo di esecuzione di ogni azione che lo strumento deve eseguire, insieme agli argomenti, agli input necessari e agli output previsti, viene annotato nel profilo dello strumento. Le annotazioni della definizione dello strumento forniscono all'agente il contesto dell'esecuzione e dello scopo in modo che possa pianificare efficacemente la chiamata.

Strumenti basati sull'ambiente codice

Uno strumento basato su ambiente di codice consente a un agente di individuazione Microsoft di eseguire codice personalizzato o generare uno strumento su richiesta. È possibile usare qualsiasi linguaggio che l'agente di controllo può generare e un software development kit è accessibile. Gli strumenti basati sull'ambiente del codice consentono a un agente di creare ed eseguire rapidamente il codice. Nuovi algoritmi o strumenti creati dinamicamente generati da un modello sono gli scenari di destinazione più probabili per gli strumenti basati sull'ambiente del codice.

Strumenti ibridi

Gli strumenti basati su codice e sull'ambiente di azione possono essere combinati per creare uno strumento ibrido. Gli strumenti ibridi combinano strumenti basati su azioni nelle immagini del contenitore con gli strumenti dell'ambiente di codice generati dinamicamente dalle funzionalità di intelligenza artificiale della piattaforma. Gli strumenti ibridi creano un ambiente di esecuzione dinamico che consente ai modelli di intelligenza artificiale di generare codice eseguito nell'ambiente strutturato degli strumenti basati su azioni.

Requisiti per gli strumenti di creazione

Gli strumenti basati su azioni devono essere inseriti in un contenitore Docker e archiviati in un registro accessibile al supercomputer di individuazione Microsoft. Una definizione di strumento deve essere scritta con le specifiche necessarie. Anche gli strumenti basati sull'ambiente del codice richiedono una definizione di strumento; Tuttavia, l'azione associata esegue direttamente il codice generato e poco altro.

Cardinalità e profilo di esecuzione

Le definizioni degli strumenti possono essere condivise in un'intera sottoscrizione perché la definizione dello strumento non è un'istanza univoca. Gli strumenti vengono creati solo quando vengono richiamati. Più agenti possono riferirsi tutti allo stesso strumento senza conflitti, poiché ciascun è istanziato in modo isolato. Di conseguenza, è necessario assicurarsi che gli strumenti non abbiano valori o dati incorporati staticamente nel profilo o nel profilo di esecuzione.

Modelli di integrazione dei modelli

Microsoft Discovery offre più modelli flessibili per l'integrazione di modelli di Machine Learning scientifici nei flussi di lavoro. A livello generale, esistono quattro approcci principali, ognuno progettato per supportare diversi livelli di complessità, controllo e integrazione con sistemi esterni:

Modello Come funziona Dove si eseguono i modelli Ideale per
Strumento client basato su contenitori (Python) Eseguire codice personalizzato all'interno di un contenitore Foundry o endpoint esterno Logica personalizzata e orchestrazione
Modello basato su contenitori (Supercomputer) Eseguire i container nell'ambiente HPC Supercomputer Discovery Training/inferenza su larga scala
Basato su OpenAPI Usare le API REST con lo schema Fonderia o servizio esterno API e servizi esistenti
Basato su MCP Scambio di contesto strutturato Foundry o endpoint esterno Flussi di lavoro a più fasi con stato

Strumento client basato su contenitori (Python)

In questo modello, l'agente richiama uno strumento in contenitori che funge da client per un modello già distribuito. Il contenitore non ospita il modello stesso, ma gestisce la comunicazione con il servizio modello, applica qualsiasi logica richiesta e restituisce l'output finale all'agente. Questo approccio è ottimale quando è necessario un controllo preciso sulla pre-elaborazione, la post-elaborazione o la modalità di orchestrazione di più passaggi.

Come funziona

  1. L'agente seleziona lo strumento
  2. Viene avviato un contenitore con i dati di input
  3. Lo script di Python:
    • Convalida e prepara gli input
    • Invia una richiesta all'endpoint del modello distribuito
    • Applica qualsiasi logica di pre-elaborazione o post-elaborazione personalizzata
    • Opzionalmente, orchestra diverse chiamate o esegue ulteriori passaggi
  4. I risultati vengono restituiti all'agente

Come configurarlo

  • Distribuire un modello (ad esempio, in Foundry o in un altro endpoint)
  • Creare un'immagine Docker con il codice Python ed eseguirne il push nel Registro Azure Container (ACR)
  • Configurare l'accesso sicuro (scelta consigliata per l'identità gestita)
  • Registrare il contenitore come strumento in Microsoft Discovery

Modello basato su contenitori (Supercomputer)

Imballa il tuo modello scientifico all'interno di un contenitore e distribuiscilo come servizio scalabile. Questo approccio è ideale quando è necessario il controllo completo sulle dipendenze, il runtime e la logica personalizzata. Scegliere questa opzione quando il modello richiede un calcolo a prestazioni elevate, ad esempio training su larga scala o inferenza pesante.

Idea chiave

  • Il modello viene eseguito all'interno di un contenitore nel supercomputer Discovery
  • Gli agenti non lo chiamano direttamente: è possibile accedervi tramite uno strumento o un livello di servizio

Come configurarlo

  • Creare un pacchetto del modello e delle dipendenze in un contenitore
  • Carica l'immagine nel Registro dei Container di Azure (Registro Azure Container)
  • Registrarlo come uno strumento in Microsoft Discovery

Basato su OpenAPI

Pubblicare il modello tramite un'interfaccia API standardizzata e connetterlo a Discovery usando una specifica OpenAPI. Ciò è utile quando il modello è già ospitato come servizio e si vuole un'integrazione standard basata su schema.

Come funziona

  • Il modello o il servizio viene esposto tramite un endpoint HTTP
  • Si definisce una specifica OpenAPI (Swagger)
  • Gli agenti usano la specifica per individuare e chiamare le operazioni

Come configurarlo

  • Distribuire il modello dietro un endpoint API
  • Scrivere una specifica OpenAPI (richieste, risposte, autenticazione)
  • Registrare l'API come strumento in Foundry

Basato su MCP

Scegliere questa opzione per scenari avanzati che richiedono interazioni avanzate, con riconoscimento del contesto in più passaggi.

Come funziona

  • Lo strumento implementa il protocollo MCP (Model Context Protocol)
  • Gli agenti inviano e ricevono un contesto strutturato
  • Supporta flussi di lavoro con stato a turni multipli

Come configurarlo

  • Distribuire il modello dietro un endpoint
  • Usare o compilare un server MCP
  • Registrare lo strumento MCP in Foundry

Come scegliere il modello giusto

Usare queste indicazioni rapide:

  • Usare gli strumenti basati su contenitori → quando è necessaria una logica personalizzata per i modelli
  • Usare → Supercomputer (HPC) quando la scala di calcolo è il vincolo principale
  • Usare gli strumenti OpenAPI → quando si dispone già di API REST
  • Usare gli strumenti MCP → quando i flussi di lavoro richiedono memoria e contesto in tutti i passaggi

Annotazioni

È possibile combinare più modelli in un singolo flusso di lavoro.

Procedure consigliate per la sicurezza

Indipendentemente dal modello scelto, attenersi alla seguente procedura:

  • Usare identità gestite e il controllo degli accessi in base ai ruoli (evitare di impostare come hardcoded le credenziali)
  • Usare immagini del contenitore immutabili (controllane la versione e analizzale)
  • Usare la crittografia (HTTPS + archiviazione crittografata)
  • Abilitare la registrazione e il monitoraggio per tutte le chiamate di strumenti e modelli

Contenuti correlati

  • Ultimo aggiornamento: