Monitorare le operazioni dell'agente e del modello in Microsoft Foundry (anteprima)

Per vedere con quale frequenza vengono eseguiti gli agenti e i modelli in una sottoscrizione di Azure e con quale affidabilità, vai a Gestisci>Operazioni nel portale Microsoft Foundry. La pagina Operations mostra le esecuzioni dell'agente, le richieste di modello, le chiamate degli strumenti, i token, gli errori e la latenza per l'ambito e l'intervallo di date selezionato. Classifica anche gli agenti e i modelli dietro ogni numero.

Gli amministratori e gli operatori della piattaforma usano Operazioni per individuare le modifiche apportate, ad esempio un agente le cui esecuzioni sono state saltate, un modello con più errori o esecuzioni più lente dell'agente. La pagina non mostra i costi. Per vedere i costi di utilizzo, consulta Visualizzare i costi di sottoscrizione nel portale Foundry. Per visualizzare insieme attività, costi e violazioni dei criteri, inizia da Fleet. Per altre informazioni, vedere Monitora la flotta degli agenti.

Importante

Operazioni nel portale Foundry è in anteprima pubblica ed è soggetta alle Condizioni supplementari per l'utilizzo per le anteprime Microsoft Azure. Questa anteprima viene fornita senza un contratto di servizio e Microsoft non lo consiglia per i carichi di lavoro di produzione. Alcune funzionalità potrebbero non essere supportate o potrebbero avere funzionalità limitate.

Prerequisiti

Importante

I ruoli RBAC di Foundry sono stati recentemente rinominati. Foundry User, Foundry Owner, Foundry Account Owner e Foundry Project Manager erano precedentemente denominati Azure AI User, Azure AI Owner, Azure AI Account Owner e Azure AI Project Manager. È possibile che i nomi precedenti vengano visualizzati in alcune posizioni durante l'esecuzione della ridenominazione. Gli ID ruolo e le autorizzazioni di base sono invariati dalla ridenominazione.

Apri la pagina Operazioni

  1. Accedere a Microsoft Foundry. Assicurarsi che l'interruttore New Foundry sia attivato. Questi passaggi fanno riferimento a Foundry (nuovo).These steps refer to Foundry (new).
  2. Selezionare Gestisci nel riquadro di spostamento in alto a destra.
  3. Nel riquadro sinistro selezionare Operazioni. È anche possibile selezionare Visualizza operazioni nella pagina Flotta , che mantiene l'intervallo di date selezionato.
  4. In Sottoscrizione selezionare la sottoscrizione da visualizzare. Facoltativamente, per concentrarsi su di esso, selezionare gruppi di risorse in Gruppo di risorse e progetti in Project.
  5. Selezionare un intervallo di date: Ultimo giorno, 7D, 1M o 3M. Per impostare date personalizzate, selezionare il selettore dell'intervallo di date. Un intervallo personalizzato può coprire fino a tre mesi.

Leggi il riepilogo

La scheda di riepilogo mostra quattro totali per l'ambito e l'intervallo di date selezionato. Ogni totale mostra la modifica rispetto al periodo precedente della stessa lunghezza. Gli intervalli personalizzati non mostrano un confronto.

Total Cosa conta
Esecuzioni dell'agente Esecuzioni avviate dagli agenti
Richieste al modello Richieste alle distribuzioni del modello, incluse le chiamate di modello effettuate dagli agenti.
Chiamate agli strumenti Chiamate degli strumenti effettuate dagli agenti.
Token totali Token provenienti dagli agenti e dalle chiamate dirette al modello.

Il grafico accanto al riepilogo mostra una metrica nel tempo, per il totale e per ogni asset.

  1. Selezionare una scheda:

    • Chiamate: le esecuzioni dell'agente, le richieste di modello o le chiamate agli strumenti. Per scegliere la metrica da visualizzare, usare l'elenco a discesa sotto il titolo del grafico.
    • Tokens: uso dei token.
    • Errori: incidenti di errore.
    • Latenza: latenza di esecuzione dell'agente.
  2. Per visualizzare un valore, passare il puntatore su un punto del grafico. La legenda mostra il totale e ogni asset.

  3. Per ingrandire il grafico, selezionare il pulsante a schermo intero nell'angolo superiore destro.

Trovare gli agenti e i modelli dietro una modifica

Tre elenchi sotto il grafico classificano le risorse per l'ambito e l'intervallo di date selezionati:

  • Chiamate principali: gli agenti e i modelli con la maggior parte delle chiamate, con il conteggio e la modifica rispetto al periodo precedente.
  • Eventi imprevisti di errore più elevati: gli agenti e i modelli con la maggior parte degli eventi imprevisti di errore, con la frequenza degli errori e il numero di eventi imprevisti.
  • Latenza di esecuzione dell'agente più elevata: gli agenti le cui esecuzioni richiedono il tempo più lungo, in secondi.

Per confrontare tutti gli asset, usa Asset con invocazioni:

  1. Scorri fino a Asset con invocazioni.
  2. Selezionare Agenti o Modelli.
  3. Esaminare le chiamate, l'utilizzo dei token, gli errori e la latenza di ogni asset.
  4. Per analizzare un asset, selezionarne il nome.

Verificare la qualità dell'agente

Le metriche di qualità dell'agente mostrano le tendenze di qualità delle valutazioni ricorrenti. Rimane vuoto fino a quando un progetto nell'ambito non ha una valutazione ricorrente. Per configurarne uno, selezionare Apri monitoraggio progetto. Per i passaggi, vedere Creare una valutazione ricorrente.

Connettere l'utilizzo ai costi

Operations mostra l'utilizzo, non i costi. L'utilizzo viene visualizzato entro pochi minuti e il relativo costo viene visualizzato nella pagina Costo da 8 a 24 ore dopo. Per trovare quanto costa una modifica dell'utilizzo:

  1. Prendere nota degli agenti o dei modelli il cui utilizzo è stato modificato e l'ambito e l'intervallo di date.
  2. Nel riquadro sinistro selezionare Costo. Selezionare lo stesso ambito e lo stesso intervallo di date.
  3. Confrontare le risorse con la spesa più elevata e la tabella dei costi raggruppata per Agente o Modello. Se la modifica è recente, controllare di nuovo dopo che il costo è stato visualizzato. Per altre informazioni, vedere Visualizzare i costi di sottoscrizione nel portale foundry.

Troubleshoot

Sintomo Cause Correzione
La pagina indica che è necessaria l'autorizzazione Monitoring Reader per visualizzare queste metriche. Non si dispone dell'autorizzazione per leggere le metriche di utilizzo nell'ambito. Chiedere a un amministratore un ruolo Foundry oppure il ruolo Monitoring Reader nella sottoscrizione e quindi aggiornare la pagina.
I totali hanno un aspetto inferiore al previsto per un ambito con molte risorse. Non è possibile leggere le metriche per alcune risorse nell'ambito, quindi i totali coprono solo le risorse a cui è possibile accedere. Restringi l'ambito oppure chiedi a un amministratore il ruolo Monitoring Reader per la sottoscrizione.
Le metriche di qualità dell'agente è vuota. Nessun progetto nell'ambito ha una valutazione ricorrente. Selezionare Apri monitoraggio progetto e creare una valutazione ricorrente.
I grafici e gli elenchi sono vuoti. Non esiste alcun utilizzo dell'agente o del modello nell'ambito e nell'intervallo di date. Selezionare un intervallo di date più lungo o un ambito diverso.