Protección de los datos generados por la inteligencia artificial y procesados por ia

  • 4 minutos

A medida que Contoso adopta servicios con tecnología de inteligencia artificial, surgen nuevos riesgos en torno a cómo se usa, genera y expone información confidencial a través de interacciones de IA. Los equipos de seguridad deben asegurarse de que las herramientas de inteligencia artificial procesan los datos de forma segura, aplican protecciones de forma coherente y evitan que el contenido confidencial se use incorrectamente.

Riesgos introducidos por los servicios de inteligencia artificial

Las herramientas de inteligencia artificial aumentan la eficacia, pero también crean nuevos riesgos de exposición:

  • Es posible que la información confidencial aparezca en las respuestas generadas por IA.
  • Las solicitudes enviadas a los modelos de IA pueden incluir datos sensibles o confidenciales.
  • El contenido generado por ia puede compartirse, almacenarse o usarse sin controles adecuados.

Las directivas de seguridad deben abordar cómo los servicios de inteligencia artificial controlan los datos de entrada y salida para evitar la divulgación no intencionada.

Protecciones de Microsoft Purview para interacciones con IA

Microsoft Purview incluye controles de protección que se extienden a los servicios de IA:

  • Prevención de pérdida de datos (DLP) para los servicios de inteligencia artificial: las directivas DLP pueden evaluar las solicitudes y respuestas enviadas a los servicios de inteligencia artificial compatibles, aplicando protecciones para evitar la exposición de información confidencial.
  • Etiquetas de confidencialidad y cifrado: el contenido generado por ia almacenado en los servicios de Microsoft 365 puede heredar etiquetas de confidencialidad y aplicar el cifrado, lo que garantiza que los datos permanecen protegidos incluso después de procesarlos.
  • Administración de riesgos internos: las directivas pueden supervisar la actividad de riesgo que implica servicios de inteligencia artificial, como enviar datos confidenciales a herramientas de inteligencia artificial públicas o no administradas.

Al ampliar estas protecciones a las interacciones de ia, Contoso garantiza que la información confidencial permanece protegida incluso a medida que las herramientas de inteligencia artificial forman parte de los flujos de trabajo cotidianos.