Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
A medida que las plataformas sin código o código bajo se vuelven cada vez más accesibles, las organizaciones se enfrentan a nuevos tipos de riesgos de seguridad. Estas plataformas permiten a los usuarios no técnicos crear e implementar agentes personalizados sin controles ni revisión de seguridad centralizados. Los atacantes pueden intentar manipular estos agentes mediante:
- Inserción de mensajes malintencionados
- Desencadenamiento de ejecuciones de herramientas no intencionadas
- Aprovechar los orígenes de datos para escalar privilegios o filtrar datos.
Características de protección del agente de inteligencia artificial
Microsoft Defender aborda las brechas de seguridad críticas con una protección completa del agente de inteligencia artificial que incluye la exposición proactiva, la búsqueda de amenazas, la protección en tiempo real y las alertas. Con la protección contra agentes de inteligencia artificial, Microsoft Defender:
- Detecta todos los agentes de inteligencia artificial personalizados creados con Microsoft Copilot Studio e integra sus datos en la búsqueda avanzada para la detección proactiva de amenazas. Puede usar estos datos para crear consultas personalizadas y buscar posibles amenazas. Consulte Copilot Studio inventario de agentes de inteligencia artificial (versión preliminar) para obtener información sobre cómo configurar y usar el inventario del agente de inteligencia artificial.
- Recopila registros de auditoría de los agentes de inteligencia artificial personalizados creados con Copilot Studio, supervisa continuamente a los agentes para detectar actividad sospechosa y habilita detecciones y alertas. Para habilitar esta supervisión, asegúrese de que:
- Proporciona protección en tiempo real para bloquear las acciones sospechosas o dañinas iniciadas por los agentes de inteligencia artificial y desencadena una alerta informativa integrada en el entorno de alertas e incidentes de XDR. Consulte Habilitación de la protección en tiempo real para Microsoft Copilot Studio Agentes para obtener información sobre cómo configurar la protección en tiempo real.