Optimiser les assistants pour minimiser la latence

Cet article présente quelques pratiques clés et vous aide à optimiser les assistants qui dépendent d’informations provenant de sources externes, afin de réduire le temps d’attente des clients lors des conversations.

Définissez un délai d’expiration maximal pour les variables globales configurées en externe. Pour les agents dont les variables globales sont configurées pour recevoir du contexte de sources externes, définissez la valeur de délai optionnelle afin que vos assistants ne restent pas en attente plus longtemps.

Faites savoir à l’utilisateur que l’assistant a besoin d’un moment. Si l’assistant ne répond pas pendant plus de quelques secondes, cela peut amener l’utilisateur à se demander si le système fonctionne ou non. Envisagez d’envoyer un bref message au début de la rubrique en question indiquant que l’assistant recherche des informations. Ainsi, l’utilisateur sait que l’opération peut prendre un moment, et tout fonctionne.

Minimiser et optimiser les longues opérations hors assistant. Appeler des systèmes externes pour rechercher des informations afin de personnaliser une demande peut offrir une excellente expérience, mais cela peut aussi prendre un temps inconfortablement long. Si cette personnalisation est nécessaire, assurez-vous que l’appel est optimisé et que le système appelé est évolutif.

Utilisez les nœuds de requête HTTP pour des requêtes rapides. L’utilisation d’un flux Power Automate permet d’effectuer facilement des opérations sophistiquées ; cependant, cela peut entraîner une surcharge considérable. Si vous n’avez besoin que d’un seul appel de recherche externe au système, le nœud Requête HTTP peut être une option plus légère pour ces opérations simples.

Pour les appels Power Automate, utilisez le tableau de bord Power Automate pour vérifier la durée des requêtes. Copilot Studio ne fournit pas d’informations sur la durée des opérations externes à l’assistant, telles que les appels Power Automate. Par conséquent, il peut être difficile de comprendre à quoi le temps est consacré. Dans Copilot Studio, ces appels hors plateforme sont synchrones, ce qui signifie qu’aucune autre activité n’a lieu dans la conversation tant qu’un flux Power Automate n’est pas terminé. Envisagez d’utiliser le tableau de bord Power Automate pour votre flux. Ce tableau de bord peut vous donner des informations sur les taux de réussite et d’échec des opérations, ainsi que sur la durée de leur exécution.