Optimización de agentes para minimizar la latencia

En este artículo se comparten algunas prácticas clave y le ayuda a optimizar los agentes que dependen de información de orígenes externos para reducir el tiempo de espera de los clientes durante las conversaciones.

Establezca un retraso máximo de tiempo de espera para las variables globales establecidas externamente. Para los agentes con variables globales configuradas para recibir contexto de orígenes externos, establezca el valor de tiempo de espera opcional para que los agentes no se bloquee durante más tiempo.

Indíquele al usuario que el agente necesite un momento. El agente que no responde durante más de un par de segundos puede hacer que el usuario se pregunte si el sistema funciona o no. Considere la posibilidad de enviar un breve mensaje al principio del tema aplicable que indica que el agente busca información. De este modo, el usuario sabe que la operación puede tardar un momento y que las cosas funcionan.

Minimice y optimice las operaciones largas fuera del agente. Llamar a sistemas externos para buscar información para personalizar una solicitud puede realizar una gran experiencia, pero también puede tardar mucho tiempo. Si esta personalización es necesaria, asegúrese de que la llamada está optimizada y de que el sistema al que se llama es escalable.

Use nodos de solicitud HTTP para solicitudes rápidas. El uso de un flujo de Power Automate puede hacer posible completar operaciones sofisticadas fácilmente, pero puede implicar una sobrecarga considerable. Si solo necesita una sola llamada de búsqueda fuera de caja, el nodo Solicitud HTTP puede ser una opción de peso más ligero para estas operaciones sencillas.

En el caso de las llamadas de Power Automate, use el panel de Power Automate para revisar las duraciones de la solicitud. Copilot Studio no proporciona información sobre cuánto tiempo tardan las operaciones fuera del agente, como las llamadas de Power Automate. Por lo tanto, puede ser difícil entender dónde se está gastando el tiempo. En Copilot Studio, estas llamadas no integradas son sincrónicas, lo que significa que no se produce ninguna actividad adicional en la conversación hasta que se completa un flujo de Power Automate. Considere la posibilidad de usar el panel de Power Automate para el flujo. Este panel puede proporcionar información sobre las tasas de éxito y error de las operaciones y el tiempo que tardan.