Preguntas frecuentes sobre IA responsable para Microsoft Agent 365

Un sistema de IA incluye no solo la tecnología, sino también las personas que la usan, las personas afectadas por ella y el entorno en el que se implementa. Las preguntas frecuentes sobre la IA responsable de Microsoft están destinadas a ayudarle a comprender cómo funciona la tecnología de inteligencia artificial, las elecciones que pueden hacer los propietarios y usuarios del sistema que influyen en el rendimiento y el comportamiento del sistema, y la importancia de pensar en todo el sistema, incluida la tecnología, las personas y el medio ambiente. Puede usar las preguntas frecuentes sobre IA responsable para comprender mejor los sistemas y las características de IA específicos que desarrolla Microsoft.

Las preguntas frecuentes sobre IA responsable son parte de un esfuerzo más amplio para poner en práctica los principios de IA de Microsoft. Para obtener más información, consulte Principios de IA de Microsoft.

¿Qué es Microsoft Agent 365?

Agent 365 es la iniciativa estratégica de Microsoft para habilitar, gestionar y escalar agentes de IA en toda la empresa.

¿Qué puede hacer Agent 365?

Al ampliar la infraestructura que utiliza para gestionar personas a agentes, Agent 365 equipa a sus agentes con las mismas aplicaciones y protecciones, adaptadas a las necesidades de los agentes, ahorrando tiempo y esfuerzo de TI en la integración de los agentes en los procesos empresariales. El Agente 365 incluye soluciones líderes de seguridad y productividad de Microsoft: Defender, Entra y Purview para proteger y controlar los agentes; Microsoft 365 aplicaciones y Work IQ para acelerar su productividad y Microsoft 365 centro de administración para administrar agentes.

• Registro: obtenga la vista completa de todos los agentes de su organización, incluidos los agentes con ID de agente, los agentes que usted mismo registra y los agentes sombra.

• Control de acceso: incorpore agentes bajo administración y limite su acceso solo a los recursos que necesitan. Impedir que los agentes comprometan la seguridad con políticas de acceso condicional basadas en riesgos.

• Visualización: explore las conexiones entre agentes, personas y datos y supervise el comportamiento y el rendimiento del agente en tiempo real para evaluar su impacto en su organización.

• Interoperabilidad: Equipar a cualquier agente con aplicaciones y datos para simplificar los flujos de trabajo humanos y de agentes. Conéctelos a Work IQ para proporcionar contexto de trabajo e incorporarlos a los procesos empresariales.

• Seguridad: proteja los agentes frente a amenazas y vulnerabilidades, detecte, investigue y corrija los ataques que tienen como destino los agentes. Proteja los datos que los agentes crean y usan frente a la exposición excesiva, las filtraciones y el comportamiento arriesgado de los agentes.

¿Cuáles son los usos previstos de Agent 365?

• Los empleados de la empresa pueden utilizar agentes de IA como entidades autónomas capaces de actuar, colaborar y ofrecer resultados a través de los flujos de trabajo empresariales.

• CTOS y administradores de TI responsables de permitir que sus organizaciones se conviertan en pioneras y deben hacerlo de forma segura, manteniendo a los agentes bajo control.

¿Cómo se evaluó Agent 365? ¿Qué métricas se utilizan para medir el rendimiento?

Evaluamos XPIA y riesgos no fundamentados utilizando diversas actividades de evaluación, incluyendo la formación de equipos rojos y evaluaciones con IA, donde se identificaron (si hubo) y racionalizaron las tasas de defectos.

¿Cuáles son las limitaciones de Agent 365? ¿Cómo pueden los usuarios minimizar el impacto de las limitaciones de Agent 365 cuando usan el sistema?

Human in the loop (HITL), etiquetas de confidencialidad y permisos de compartir son limitaciones conocidas que se abordarán en el futuro. El reconocimiento de esto se indica en varios puntos táctiles: al agregar este agente, los archivos o chats que comparta se pueden resumir e incluir en las respuestas del agente a cualquier usuario, incluso aquellos sin permisos para los archivos o chats e independientemente de la etiqueta de confidencialidad.

¿Qué factores operativos y configuraciones permiten un uso eficaz y responsable de Agent 365?

• Para administrar la configuración de las colaboraciones externas para los agentes de Microsoft Teams, los administradores deben configurar directivas tenant en el Centro de administración de Teams.

¿Cómo puedo facilitar comentarios en Agent 365?

Cualquier comentario sobre Agent 365 debe proporcionarse en la superficie en la que se experimenta, incluyendo, pero no limitado a, el centro de administración de Microsoft 365, el centro de administración de Teams, la Tienda de Teams, la Tienda de Agentes, Copilot, Purview y Defender.