Ottimizzare gli agenti per ridurre al minimo la latenza

Questo articolo condivide alcune procedure chiave e consente di ottimizzare gli agenti che dipendono dalle informazioni provenienti da origini esterne, per ridurre il tempo di attesa per i clienti durante le conversazioni.

Impostare un ritardo di timeout massimo per le variabili globali impostate esternamente. Per gli agenti con variabili globali configurate per ricevere il contesto da origini esterne, impostare il valore di timeout facoltativo in modo che gli agenti non si blocchino per più tempo.

Informare l'utente che l'agente ha bisogno di un momento. L'agente non risponde per oltre un paio di secondi può fare in modo che l'utente si chiesta se il sistema funziona o meno. Prendere in considerazione l'invio di un breve messaggio all'inizio dell'argomento applicabile che indica che l'agente sta cercando informazioni. In questo modo, l'utente sa che l'operazione potrebbe richiedere qualche istante e che le operazioni funzionano.

Ridurre al minimo e ottimizzare le operazioni di off-agent lunghe. La chiamata di sistemi esterni per cercare informazioni per personalizzare una richiesta può offrire un'esperienza ottimale, ma può richiedere molto tempo. Se questa personalizzazione è necessaria, assicurarsi che la chiamata sia ottimizzata e che il sistema chiamato sia scalabile.

Usare i nodi della richiesta HTTP per le richieste rapide. L'uso di un flusso di Power Automate consente di completare facilmente operazioni sofisticate, ma può comportare un notevole sovraccarico. Se è necessaria una singola chiamata di ricerca fuori casella, il nodo Richiesta HTTP può essere un'opzione di peso più leggero per tali operazioni semplici.

Per le chiamate di Power Automate, usare il dashboard di Power Automate per esaminare le durate delle richieste. Copilot Studio non fornisce informazioni dettagliate sulla durata delle operazioni fuori agente, ad esempio chiamate di Power Automate. Pertanto, può essere difficile capire dove si sta spendendo il tempo. In Copilot Studio queste chiamate off-box sono sincrone, ovvero non si verificano altre attività nella conversazione fino al completamento di un flusso di Power Automate. È consigliabile usare il dashboard di Power Automate per il flusso. Questo dashboard potrebbe fornire informazioni dettagliate sulle percentuali di esito positivo e negativo delle operazioni e sul tempo necessario.