Optimización de agentes para minimizar la latencia

En este artículo se comparten algunas prácticas clave y le ayuda a optimizar los agentes que dependen de información de orígenes externos para reducir el tiempo de espera de los clientes durante las conversaciones.

Establezca un tiempo máximo de espera para las variables globales configuradas externamente. Para los agentes con variables globales configuradas para recibir contexto de orígenes externos, establezca el valor de tiempo de espera opcional para que los agentes no se bloqueen durante más tiempo.

Indíquele al usuario que el agente necesite un momento. El agente que no responde durante más de un par de segundos puede hacer que el usuario se pregunte si el sistema funciona o no. Considere la posibilidad de enviar un breve mensaje al principio del tema aplicable que indica que el agente busca información. De este modo, el usuario sabe que la operación puede tardar un momento y que las cosas funcionan.

Minimice y optimice las operaciones largas fuera del agente. Llamar a sistemas externos para buscar información con el fin de personalizar una solicitud puede ofrecer una gran experiencia, pero también puede tardar un tiempo incómodamente largo. Si esta personalización es necesaria, asegúrese de que la llamada está optimizada y de que el sistema al que se llama es escalable.

Use nodos de solicitud HTTP para solicitudes rápidas. El uso de un flujo de Power Automate puede hacer posible completar operaciones sofisticadas fácilmente, pero puede implicar una sobrecarga considerable. Si solo necesita una llamada de búsqueda externa, el nodo Solicitud HTTP puede ser una opción más ligera para estas operaciones sencillas.

En el caso de las llamadas de Power Automate, use el panel de Power Automate para revisar la duración de las solicitudes. Copilot Studio no proporciona información sobre cuánto tiempo tardan las operaciones externas al agente, como las llamadas de Power Automate. Por lo tanto, puede ser difícil entender dónde se está gastando el tiempo. En el Copilot Studio, estas llamadas externas son sincrónicas, lo que significa que no se produce ninguna actividad adicional en la conversación hasta que se completa un flujo de Power Automate. Considere usar el panel de Power Automate para tu flujo. Este panel puede proporcionar información sobre las tasas de éxito y error de las operaciones y el tiempo que tardan.