Preguntas frecuentes sobre uso de orquestación generativa

Estas preguntas frecuentes (P+F) describen el impacto de la IA de la orquestación generativa para agentes personalizados integrados en Copilot Studio.

¿Qué es la orquestación generativa?

La orquestación generativa permite al agente personalizado responder a consultas de usuario con temas, herramientas, otros agentes y orígenes de conocimiento pertinentes y responder a desencadenadores de eventos.

La orquestación generativa permite conversaciones más naturales al completar las entradas con detalles del historial de la conversación. Por ejemplo, si un usuario pregunta por la tienda más cercana en Kirkland y luego pregunta por el clima allí, la orquestación infiere que quiere preguntar por el clima en Kirkland.

Los agentes desencadenados pueden usar la orquestación generativa para determinar la mejor herramienta, tema o agente para invocar en respuesta a eventos externos, lo que permite funcionalidades autónomas. Por ejemplo, un agente puede comprobar y conciliar cuentas duplicadas cuando una tabla Dataverse para cuentas de ventas recibe una nueva entrada. Para obtener más información sobre cómo crear desencadenadores de eventos para agentes autónomos, consulte Agregar un desencadenador de eventos.

El sistema también puede encadenar varias funcionalidades, respondiendo a consultas como "Necesito obtener horas de almacenamiento y encontrar mi tienda más cercana" y formular preguntas de seguimiento si faltan detalles necesarios o son ambiguos.

¿Qué puede hacer la orquestación generativa?

La orquestación generativa crea un plan para abordar una consulta de usuario o un activador de eventos utilizando el nombre, la descripción, las entradas y las salidas de temas, herramientas, agentes y conocimientos disponibles.

En el caso de las conversaciones, el sistema hace referencia a los últimos 10 turnos del historial de conversaciones para rellenar las entradas y determinar las funcionalidades más relevantes que se van a invocar. Sigue con el usuario los detalles que faltan o no están claros, ejecuta el plan seleccionado y, a continuación, genera una respuesta basada en la salida, incluidas las instrucciones del agente personalizado.

En el caso de los desencadenadores de eventos, la orquestación usa datos de eventos, instrucciones de nivel de desencadenador e instrucciones del agente para decidir qué tema, herramienta o agente invocar y cómo responder.

¿Cuáles son los usos previstos de la orquestación generativa?

Puede usar la orquestación generativa para crear agentes que respondan a las consultas y eventos del usuario mediante el razonamiento sobre temas, herramientas, otros agentes y conocimientos, mediante el contexto y los metadatos disponibles. Un agente puede delegar partes de una tarea a otros agentes que son más adecuados para controlar un dominio o una función concretos, lo que permite diseños modulares y escalables.

¿Cómo se evalúa la orquestación generativa? ¿Qué métricas miden el rendimiento?

Se evalúa la orquestación generativa en todo el proceso de un extremo a otro: cómo identifica un plan adecuado y lo ejecuta para resolver una consulta o responder a un desencadenador. Los revisores humanos evalúan la calidad de diferentes prompts, entradas y configuraciones.

Se evalúa la capacidad del sistema para seleccionar herramientas, temas, agentes u orígenes de conocimiento adecuados, cómo interpreta con precisión la intención del usuario y cómo filtra de forma eficaz contenido malintencionado o dañino de usuarios o creadores.

¿Cuáles son las limitaciones de la orquestación generativa? ¿Cómo pueden los usuarios minimizar su impacto?

Para obtener los mejores resultados, asegúrate de que los temas, herramientas, fuentes de conocimiento y agentes tengan nombres y descripciones de alta calidad. Obtenga información sobre cómo escribir metadatos efectivos.

Los agentes invocados a través de la orquestación, ya sea interno o externo, deben configurarse correctamente y ser capaces de controlar las consultas o eventos que se les pasan. Si el agente receptor no está diseñado para procesar una tarea determinada, puede devolver respuestas incompletas o irrelevantes.

Actualmente, los agentes con desencadenadores de eventos solo usan las credenciales del creador para la autenticación. Las herramientas llamadas por un agente en respuesta a un desencadenador también deben usar las credenciales del creador. Para más información, consulte Protección de datos para agentes con activadores.

¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de la orquestación generativa?

La orquestación generativa solo admite inglés. Prueba su rendimiento usando el panel de prueba directamente en Copilot Studio. También puede agregar instrucciones personalizadas para dar forma a cómo el sistema selecciona y usa temas, herramientas, otros agentes o conocimientos.

Cuando delegas tareas a otros agentes, prueba los flujos de interacción para asegurarte de que el contexto se transmite claramente y que las transferencias se comportan como se espera.

¿Qué son las herramientas y cómo usan los agentes con orquestación generativa?

Las herramientas permiten a un agente realizar operaciones específicas o recuperar datos para responder a consultas de usuario o controlar eventos. Su organización, Microsoft y otros asociados pueden crear herramientas. Puedes configurar qué herramientas están disponibles y personalizar sus metadatos para soportar orquestación generativa.

¿Qué datos pueden aportar las herramientas de Copilot Studio? ¿Qué permisos tienen las herramientas de Copilot Studio?

Cuando un agente llama a una herramienta, el sistema envía los valores de entrada necesarios. Esta información puede incluir elementos del historial de conversaciones o datos de desencadenadores de eventos. Cuando el sistema orquesta a través de agentes, promueve la continuidad al pasar el contexto pertinente al agente receptor.

¿Qué tipo de problemas pueden surgir cuando un agente utiliza herramientas y otros agentes?

Note

Para ejecuciones activadas por eventos u otras ejecuciones autónomas, una llamada a herramienta generada puede fallar cuando no está disponible la entrada necesaria porque no hay un usuario presente para responder a una pregunta de seguimiento. Utiliza descripciones claras de herramientas y entradas, configura la validación cuando sea apropiado y prueba la herramienta con cargas útiles representativas de eventos.

Los errores pueden producirse cuando el agente prepara entradas o genera salidas, o si selecciona la herramienta, el tema o el agente incorrectos. Para evitar estos problemas, asegúrese de que los metadatos sean precisos y sin ambigüedades en todos los elementos disponibles para la orquestación.

La información de desencadenadores o consultas de usuario puede incluir datos no deseados o confidenciales. Enrutar esta información a un tema, herramienta u otro agente puede generar resultados no deseados. Para obtener más información, consulte Solución de problemas y limitaciones.

¿Qué protecciones tiene Copilot Studio implementadas para la IA responsable?

Copilot Studio incluye una serie de medidas de seguridad:

  • Los agentes solo utilizan conocimientos, herramientas, temas y agentes que el creador configura explícitamente.
  • Los administradores pueden restringir qué herramientas y agentes están disponibles.
  • Los creadores pueden requerir confirmación del usuario antes de ejecutar herramientas que modifiquen los datos.
  • Los desencadenadores y la orquestación funcionan con la autenticación del creador y están sujetos a permisos configurados.
  • La inspección del contenido de la carga útil, los clasificadores y los filtros de contenido detectan instrucciones malintencionadas o dañinas en la entrada del usuario, datos desencadenantes, salidas de herramientas y contenido informativo.
  • La validación de entidades con expresiones de Power Fx puede restringir los valores de entrada (por ejemplo, limitar los destinatarios de correo electrónico a un dominio específico).
  • Puede configurar si se pasa el historial de conversaciones completo y la tarea que se va a completar cuando el agente delega a otros agentes externos.

Si el sistema detecta un posible ataque (por ejemplo, en cargas útiles de disparo o salidas de herramientas), bloquea la ejecución y muestra un error filtrado por contenido en el mapa de actividad.

Para mantener la transparencia, los agentes incluyen el mensaje predeterminado: "Solo para que lo sepas, a veces uso IA para responder a tus preguntas".

¿Cómo puedo dar mi opinión sobre la orquestación generativa?

Puede proporcionar comentarios para Copilot Studio.

  • Última actualización o