Nota:
El acceso a esta página requiere autorización. Puede intentar iniciar sesión o cambiar directorios.
El acceso a esta página requiere autorización. Puede intentar cambiar los directorios.
Los sistemas de inteligencia artificial forman parte del patrimonio tecnológico empresarial principal, incluidas las aplicaciones de inteligencia artificial, los agentes, los modelos y los datos y los servicios que usan. A medida que las organizaciones adoptan inteligencia artificial, estos sistemas introducen nuevas rutas de acceso, dependencias y condiciones de riesgo que deben gestionarse como parte de la arquitectura de seguridad integral.
En el marco de adopción de Seguridad de Microsoft (SAF), el pilar de inteligencia artificial aplica los principios de Confianza cero a las cargas de trabajo y las operaciones de inteligencia artificial: compruebe explícitamente, use los privilegios mínimos y asuma una vulneración. Esta guía le ayuda a proteger las funcionalidades de inteligencia artificial al tiempo que admite resultados empresariales, confiabilidad operativa y mejora continua.
Qué cubre este pilar de tecnología
Este pilar se centra en proteger los sistemas de inteligencia artificial como cargas de trabajo y recursos críticos para la empresa, entre los que se incluyen:
- Aplicaciones y sistemas de inteligencia artificial
- Agentes de inteligencia artificial y entornos de ejecución de agentes
- Identidades de IA y de agentes
- Modelos, prompts y contexto
- Datos usados para la fundamentación, el entrenamiento y la inferencia
- Herramientas, complementos, conectores y dependencias externas
- Comunicaciones de agente a agente y agente a servicio
- Infraestructura de inteligencia artificial y entornos de hospedaje
Áreas de control principales de Confianza cero para la inteligencia artificial
Use este pilar para planear e implementar controles en estas áreas, alineadas con las áreas de implementación del AI security workshop:
-
Mapee y evalúe el riesgo de IA
- Detectar e inventariar aplicaciones, agentes y servicios de INTELIGENCIA ARTIFICIAL.
- Priorice los riesgos y establezca la asignación de responsabilidades, la gobernanza y las directrices de uso aceptable.
- Supervise continuamente las señales de riesgo y ajuste las prioridades a medida que evoluciona el uso.
-
Registrar agentes y aplicar la gobernanza del ciclo de vida
- Registrar agentes en un inventario centralizado.
- Clasificar agentes por propósito, importancia empresarial y riesgo.
- Defina los controles de propiedad, publicación, certificación y ciclo de vida.
-
Seguridad de la autenticación y el acceso a la inteligencia artificial
- Exija autenticación y autorización sólidas para usuarios, servicios y agentes.
- Aplique permisos delegados y privilegios mínimos para las acciones del agente.
- Evalúe continuamente las señales de identidad, dispositivo y riesgo antes y durante el acceso.
-
Acceso seguro a la red y al servicio de IA
- Controlar cómo se alcanzan los servicios de INTELIGENCIA ARTIFICIAL a través de rutas de acceso de red y límites de servicio.
- Aplique la segmentación, el filtrado y la inspección para las interacciones de IA.
- Reduzca la exposición a la inyección de prompts y rutas de acceso no autorizadas.
-
Protección del acceso y el uso de datos de IA
- Clasifique y proteja los datos usados en mensajes, contexto, anclaje y salidas.
- Aplique controles de uso y prevención de pérdida de datos para reducir el riesgo de sobreexposición de datos y filtración.
- Aplique directivas de gobernanza y cumplimiento para la gestión de datos de IA.
-
Compile e implemente agentes de forma segura
- Protege aplicaciones de IA, las API, conectores y dependencias de cadena de herramientas.
- Valide los límites de confianza y los controles en tiempo de ejecución antes del uso de producción.
- Aplique controles seguros de desarrollo, pruebas y lanzamiento para sistemas habilitados para IA.
-
Detectar y responder para la IA
- Supervisar la actividad de IA, los flujos de solicitud, los patrones de acceso y el uso de herramientas.
- Detectar el uso incorrecto, el comportamiento anómalo y las infracciones de políticas.
- Integrar la telemetría de IA en los flujos de trabajo de detección, investigación y respuesta de incidentes.
Cómo se conecta este pilar a SAF
La seguridad de la inteligencia artificial se basa en otras tecnologías de SAF y materias de seguridad:
- Tecnologías: identidad, puntos de conexión, aplicaciones, datos, infraestructura y red.
- Disciplinas de seguridad: desarrollo para prácticas de ingeniería seguras y SecOps para operaciones de detección y respuesta.
- Escenarios empresariales: Adopte y proteja la inteligencia artificial.