Compartir a través de

Uso de Microsoft Purview para administrar el cumplimiento de & de seguridad de datos para aplicaciones de inteligencia artificial registradas en Entra

Guía de licencias de Microsoft 365 para el cumplimiento de la seguridad &

Use las secciones siguientes para identificar las funcionalidades de Microsoft Purview compatibles con las interacciones de IA para aplicaciones de inteligencia artificial personalizadas registradas con Entra para la autenticación de usuarios e integradas con el SDK de Microsoft Purview. A continuación, consulte las recomendaciones de introducción para administrar estas interacciones de inteligencia artificial para la seguridad y el cumplimiento.

La administración de estas interacciones de inteligencia artificial con Microsoft Purview requiere que habilite la facturación de pago por uso en su organización.

Funciones admitidas

Use la tabla siguiente para ver de un vistazo las funcionalidades de Microsoft Purview compatibles con las aplicaciones de inteligencia artificial registradas en Entra.

Funcionalidad o solución en Microsoft Purview Compatible con interacciones de IA
DSPM para la inteligencia artificial ✓
Auditoría ✓
Clasificación de datos ✓
Etiquetas de confidencialidad ✓
Cifrado sin etiquetas de confidencialidad ✓
Prevención de pérdida de datos ✓
Administración de riesgos internos ✓
Cumplimiento de las comunicaciones ✓
Exhibición de documentos electrónicos (eDiscovery) ✓
Administración del ciclo de vida de los datos ✓
Administrador de cumplimiento ✓

Administración de postura de seguridad de datos para IA

Use Administración de postura de seguridad de datos de Microsoft Purview (DSPM) para la inteligencia artificial como puerta principal para detectar, proteger y aplicar controles de cumplimiento para el uso de inteligencia artificial en toda la empresa. Esta solución usa controles existentes de la administración de cumplimiento y protección de la información de Microsoft Purview con herramientas gráficas e informes fáciles de usar para obtener rápidamente información sobre el uso de la inteligencia artificial dentro de su organización. Con recomendaciones personalizadas, las directivas de un solo clic le ayudan a proteger los datos y a cumplir los requisitos normativos.

Para obtener más información, consulte Más información sobre Administración de postura de seguridad de datos (DSPM) para la inteligencia artificial.

Información específica de la aplicación de IA:

  • Recomendación Obtener asistencia guiada a las regulaciones de inteligencia artificial, que usa plantillas de regulación de asignación de controles del Administrador de cumplimiento.

  • Directivas de un solo clic disponibles:

    • DSPM para la inteligencia artificial: capture las interacciones de las aplicaciones de inteligencia artificial empresarial a partir de la recomendación Proteger las interacciones de las aplicaciones empresariales.
    • DSPM para la inteligencia artificial: detecte información confidencial compartida con la inteligencia artificial a través de la red de la recomendación Ampliar información sobre la información confidencial en las interacciones de aplicaciones de inteligencia artificial.

Interacciones de auditoría e inteligencia artificial

Auditoría de Microsoft Purview soluciones proporcionan herramientas completas para buscar y administrar registros de auditoría de actividades realizadas en varios servicios de Microsoft por usuarios y administradores, y ayudan a las organizaciones a responder de forma eficaz a eventos de seguridad, investigaciones forenses, investigaciones internas y obligaciones de cumplimiento.

Al igual que otras actividades, los mensajes y las respuestas se capturan en el registro de auditoría unificado. Los eventos incluyen cómo y cuándo interactúan los usuarios con la aplicación de inteligencia artificial, y pueden incluir en qué servicio de Microsoft 365 tuvo lugar la actividad y referencias a los archivos almacenados en Microsoft 365 a los que se accedió durante la interacción. Si estos archivos tienen una etiqueta de confidencialidad aplicada, también se captura.

Estos eventos fluyen al explorador de actividad en Administración de postura de seguridad de datos para IA, donde se pueden mostrar los datos de las solicitudes y respuestas. También puede usar la solución Auditar desde el portal de Microsoft Purview para buscar y buscar estos eventos de auditoría.

Para obtener más información, consulte Registros de auditoría para las actividades de Copilot e IA.

Clasificación de datos e interacciones de IA

La clasificación de datos de Microsoft Purview proporciona un marco completo para identificar y etiquetar datos confidenciales en varios servicios de Microsoft, incluidos Office 365, Dynamics 365 y Azure. La clasificación de datos suele ser el primer paso para garantizar el cumplimiento de las normativas de protección de datos y la protección contra el acceso, la alteración o la destrucción no autorizados. Puede usar clasificaciones de sistema integradas o crear las suyas propias.

Los tipos de información confidencial y los clasificadores entrenables se pueden usar para buscar datos confidenciales en las solicitudes y respuestas del usuario cuando usan aplicaciones de inteligencia artificial. A continuación, la información resultante aparece en el panel de clasificación de datos y el explorador de actividad en Administración de postura de seguridad de datos para IA.

Etiquetas de confidencialidad e interacciones de IA

Las aplicaciones de inteligencia artificial compatibles con Microsoft Purview usan controles existentes para asegurarse de que los datos almacenados en el inquilino nunca se devuelven al usuario ni los usa un modelo de lenguaje grande (LLM) si el usuario no tiene acceso a esos datos. Cuando los datos tienen etiquetas de confidencialidad de su organización aplicadas al contenido, hay una capa adicional de protección:

  • Cuando un archivo está abierto en Word, Excel, PowerPoint o, de forma similar, un evento de correo electrónico o calendario está abierto en Outlook, la confidencialidad de los datos se muestra a los usuarios de la aplicación con el nombre de la etiqueta y las marcas de contenido (como el encabezado o el texto del pie de página) que se han configurado para la etiqueta. Loop componentes y páginas también admiten las mismas etiquetas de confidencialidad.

  • Cuando la etiqueta de confidencialidad aplica el cifrado, los usuarios deben tener el derecho de uso EXTRACT, así como VIEW, para que las aplicaciones de inteligencia artificial devuelvan los datos.

  • Esta protección se extiende a los datos almacenados fuera del espacio empresarial de Microsoft 365 cuando están abiertos en una aplicación de Office (datos en uso). Por ejemplo, almacenamiento local, recursos compartidos de red y almacenamiento en la nube.

Sugerencia

Si aún no lo ha hecho, se recomienda habilitar las etiquetas de confidencialidad para SharePoint y OneDrive y también familiarizarse con los tipos de archivo y las configuraciones de etiquetas que estos servicios pueden procesar. Cuando las etiquetas de confidencialidad no están habilitadas para estos servicios, los archivos cifrados a los que Copilot y los agentes pueden acceder se limitan a los datos que se usan desde aplicaciones de Office en Windows.

Para obtener instrucciones, vea Habilitar etiquetas de confidencialidad para archivos de Office en SharePoint y OneDrive.

Si aún no usa etiquetas de confidencialidad, consulte Introducción a las etiquetas de confidencialidad.

Cifrado sin etiquetas de confidencialidad e interacciones de inteligencia artificial

Incluso si no se aplica una etiqueta de confidencialidad al contenido, los servicios y productos pueden usar las funcionalidades de cifrado del servicio Azure Rights Management. Como resultado, las aplicaciones de IA todavía pueden comprobar los derechos de uso VIEW y EXTRACT antes de devolver datos y vínculos a un usuario, pero no hay ninguna herencia automática de protección para nuevos elementos.

Sugerencia

Obtendrá la mejor experiencia de usuario cuando use siempre etiquetas de confidencialidad para proteger los datos y una etiqueta aplique el cifrado.

Ejemplos de productos y servicios que pueden usar las funcionalidades de cifrado del servicio Azure Rights Management sin etiquetas de confidencialidad:

  • Cifrado de mensajes de Microsoft Purview
  • Microsoft Information Rights Management (IRM)
  • Conector Microsoft Rights Management
  • Microsoft Rights Management SDK

Para otros métodos de cifrado que no usan el servicio Azure Rights Management:

  • Copilot no devolverá los correos electrónicos protegidos con S/MIME y Copilot no está disponible en Outlook cuando se abre un correo electrónico protegido con S/MIME.

  • Las aplicaciones de inteligencia artificial no pueden acceder a los documentos protegidos con contraseña a menos que el usuario ya los haya abierto en la misma aplicación (datos en uso). Un elemento de destino no hereda las contraseñas.

Al igual que con otros servicios de Microsoft 365, como la exhibición de documentos electrónicos y la búsqueda, los elementos cifrados con la clave de cliente de Microsoft Purview o su propia clave raíz (BYOK) son compatibles y aptos para ser devueltos por Copilot.

Prevención de pérdida de datos e interacciones de inteligencia artificial

Prevención de pérdida de datos de Microsoft Purview (DLP) le ayuda a identificar elementos confidenciales en los servicios y puntos de conexión de Microsoft 365, a supervisarlos y a protegerlos contra la pérdida de esos elementos. Usa la inspección profunda del contenido y el análisis contextual para identificar elementos confidenciales y aplica directivas para proteger datos confidenciales, como registros financieros, información de salud o propiedad intelectual.

Los equipos Windows incorporados a Microsoft Purview se pueden configurar para directivas de prevención de pérdida de datos de punto de conexión (DLP) que advierten o impiden que los usuarios compartan información confidencial con sitios de inteligencia artificial generativos de terceros a los que se accede a través de un explorador. Por ejemplo, se impide que un usuario pegue números de tarjeta de crédito en ChatGPT, o bien ve una advertencia que puede invalidar. Para obtener más información sobre las acciones DLP admitidas y las plataformas que las admiten, consulte las dos primeras filas de la tabla de actividades de punto de conexión en las que puede supervisar y realizar acciones.

Además, una directiva DLP con ámbito en una ubicación de inteligencia artificial puede restringir que las aplicaciones de inteligencia artificial procesen contenido confidencial. Por ejemplo, una directiva DLP puede restringir Microsoft 365 Copilot de resumir archivos en función de etiquetas de confidencialidad como "Extremadamente confidencial". Después de activar esta directiva, Microsoft 365 Copilot y los agentes no resumirán los archivos con la etiqueta "Extremadamente confidencial", pero pueden hacer referencia a ella con un vínculo para que el usuario pueda abrir y ver el contenido mediante Word. Para obtener más información que incluya qué aplicaciones de inteligencia artificial admiten esta configuración DLP, consulte Información sobre la ubicación de la directiva de Microsoft 365 Copilot.

Información específica de la aplicación de IA:

Interacciones de inteligencia artificial y administración de riesgos internos

Administración de riesgos internos de Microsoft Purview ayuda a detectar, investigar y mitigar riesgos internos, como el robo de IP, la pérdida de datos y las infracciones de seguridad. Aprovecha los modelos de aprendizaje automático y varias señales de los indicadores de Microsoft 365 y de terceros para identificar posibles actividades internas malintencionadas o involuntariamente. La solución incluye controles de privacidad, como la seudónimo y el acceso basado en roles, lo que garantiza la privacidad del nivel de usuario y permite a los analistas de riesgo tomar las medidas adecuadas.

Use la plantilla de directiva de uso de IA de riesgo para detectar un uso de riesgo que incluye ataques por inyección de mensajes y acceso a materiales protegidos. La información de estas señales se integra en Microsoft Defender XDR para proporcionar una visión completa de los riesgos relacionados con la inteligencia artificial.

Información específica de la aplicación de IA:
  • Para las solicitudes y respuestas, requiere una directiva de recopilación, como DSPM para IA: captura de interacciones para aplicaciones de inteligencia artificial empresarial desde la recomendación de DSPM para IA Proteger interacciones de aplicaciones empresariales.

Cumplimiento de comunicaciones e interacciones de inteligencia artificial

Cumplimiento de comunicaciones de Microsoft Purview proporciona herramientas para ayudarle a detectar y administrar infracciones de cumplimiento normativo y de conducta empresarial en varios canales de comunicación, entre los que se incluyen solicitudes y respuestas del usuario para las aplicaciones de inteligencia artificial. Está diseñado con privacidad de forma predeterminada, seudónimo de nombres de usuario e incorporación de controles de acceso basados en roles. La solución ayuda a identificar y corregir comunicaciones inapropiadas, como compartir información confidencial, acoso, amenazas y contenido para adultos.

Para más información sobre el uso de directivas de cumplimiento de comunicaciones para aplicaciones de inteligencia artificial, consulte Configuración de una directiva de cumplimiento de comunicaciones para detectar interacciones de IA generativas.

Información específica de la aplicación de IA:
  • Para las solicitudes y respuestas, requiere una directiva de recopilación, como DSPM para IA: captura de interacciones para aplicaciones de inteligencia artificial empresarial desde la recomendación de DSPM para IA Proteger interacciones de aplicaciones empresariales.

Interacciones de eDiscovery e IA

Microsoft Purview eDiscovery le permite identificar y entregar información electrónica que se puede usar como evidencia en casos legales. Las herramientas de exhibición de documentos electrónicos de Microsoft Purview admiten la búsqueda de contenido en equipos de Exchange Online, OneDrive para la Empresa, SharePoint Online, Microsoft Teams, Grupos de Microsoft 365 y Viva Engage. A continuación, puede impedir que la información se elimine y exportar la información.

Dado que las solicitudes y respuestas del usuario para las aplicaciones de inteligencia artificial se almacenan en el buzón de un usuario, puede crear un caso y usar la búsqueda cuando se selecciona el buzón de un usuario como origen de una consulta de búsqueda. Por ejemplo, seleccione y recupere estos datos del buzón de origen; para ello, seleccione en el generador de consultas Agregar condición>Tipo>igual a cualquiera de las interacciones de>CopilotAgregar o quitar más opciones>.

Una vez que se haya refinado la búsqueda, puede exportar los resultados o agregarlos a un conjunto de revisión. Puede revisar y exportar información directamente desde el conjunto de revisión.

Para más información sobre cómo identificar y eliminar datos de interacción de IA de usuario, consulte Búsqueda y eliminación de datos de Copilot en eDiscovery.

Información específica de la aplicación de IA:
  • Para las solicitudes y respuestas, requiere una directiva de recopilación, como DSPM para IA: captura de interacciones para aplicaciones de inteligencia artificial empresarial desde la recomendación de DSPM para IA Proteger interacciones de aplicaciones empresariales.

Administración del ciclo de vida de datos e interacciones de inteligencia artificial

Administración del ciclo de vida de Microsoft Purview proporciona herramientas y funcionalidades para administrar el ciclo de vida de los datos de la organización mediante la retención del contenido necesario y la eliminación de contenido innecesario. Estas herramientas garantizan el cumplimiento de los requisitos empresariales, legales y normativos.

Use directivas de retención para conservar o eliminar automáticamente las solicitudes y respuestas del usuario para las aplicaciones de inteligencia artificial. Para obtener información detallada sobre este trabajo de retención, consulte Información sobre la retención para las aplicaciones de Copilot & IA.

Al igual que con todas las directivas de retención y retenciones, si se aplica más de una directiva para la misma ubicación a un usuario, los principios de retención resuelven los conflictos. Por ejemplo, los datos se conservan durante el tiempo más largo de todas las directivas de retención aplicadas o retenciones de exhibición de documentos electrónicos.

Información específica de la aplicación de IA:

  • Para las directivas de retención, seleccione la opción para aplicaciones de inteligencia artificial empresarial.

  • Para las solicitudes y respuestas, requiere una directiva de recopilación, como DSPM para IA: captura de interacciones para aplicaciones de inteligencia artificial empresarial desde la recomendación de DSPM para IA Proteger interacciones de aplicaciones empresariales.

Interacciones del Administrador de cumplimiento e IA

Microsoft Purview Compliance Manager es una solución que le ayuda a evaluar y administrar automáticamente el cumplimiento en el entorno multinube. El Administrador de cumplimiento puede ayudarle a lo largo del proceso de cumplimiento, desde realizar un inventario de los riesgos de protección de datos hasta administrar las complejidades de la implementación de controles, estar al corriente de las normativas y certificaciones e informar a los auditores.

Para ayudarle a cumplir con las regulaciones de IA, el Administrador de cumplimiento proporciona plantillas normativas que le ayudarán a evaluar, implementar y reforzar los requisitos de cumplimiento para todas las aplicaciones de IA generativas. Por ejemplo, supervisar las interacciones de IA y evitar la pérdida de datos en las aplicaciones de inteligencia artificial. Para obtener más información, consulte Evaluaciones de las regulaciones de inteligencia artificial.

Siga estos pasos para empezar a administrar la seguridad de los datos & el cumplimiento de las interacciones de inteligencia artificial que usan aplicaciones de inteligencia artificial registradas en Entra.

Dado que Administración de postura de seguridad de datos para IA es la puerta principal para proteger y administrar las interacciones de inteligencia artificial, la mayoría de las instrucciones siguientes usan esa solución:

  1. En DSPM páginade recomendacionesde IA>, busque y seleccione Proteger interacciones de aplicaciones empresariales, lo que crea una directiva de un solo clic para capturar mensajes y respuestas de aplicaciones de inteligencia artificial empresarial.

  2. Espere al menos un día para obtener datos y, a continuación, vaya a la página Informes para ver los resultados de la directiva. Seleccione la categoría de aplicación de IA de aplicaciones de inteligencia artificial empresarial y vea información como:

    • Interacciones totales a lo largo del tiempo (aplicaciones de inteligencia artificial empresarial)
    • Interacciones confidenciales por aplicación de inteligencia artificial
    • Gravedad del riesgo interno
    • Gravedad del riesgo interno por aplicación de inteligencia artificial

  3. Seleccione Ver detalles para cada uno de los gráficos de informe para ver actividades detalladas en el explorador de actividades.

    En los filtros, seleccione la categoría de aplicación de inteligencia artificial de aplicaciones de inteligencia artificial empresarial con el filtro Aplicación de ?? y, a continuación, use los demás filtros si necesita refinar aún más los datos mostrados. Explore en profundidad cada actividad para ver los detalles que incluyen la visualización de los mensajes y la respuesta cuando es miembro del grupo de roles Visor de contenido del Explorador de contenido de Microsoft Purview. Para obtener más información sobre este requisito, consulte Permisos para Administración de postura de seguridad de datos para IA.

  4. Si necesita asegurarse de que las interacciones de las aplicaciones de inteligencia artificial registradas en Entra se conservan por motivos de cumplimiento:

    En el portal de Microsoft Purview, vaya a Directivas deretención dedirectivas>de administración> del ciclo de vida de datos y cree una directiva de retención para conservar las interacciones con las aplicaciones de inteligencia artificial registradas por Entra seleccionando la ubicación Aplicaciones de inteligencia artificial empresarial y especifique el período de retención necesario. Para obtener más información, consulte Creación y configuración de directivas de retención.

  5. Si necesita conservar, recopilar, analizar, revisar o exportar interacciones de aplicaciones de IA registradas por Entra:

    En el portal de Microsoft Purview, vaya a eDiscovery>Cases>Create case (Crear caso). En el caso, cree una búsqueda y use la propiedad ItemClass y el IPM.SkypeTeams.Message.ConnectedAIApp.Entra.<AppID> valor para buscar estas interacciones en su organización.

Revise de forma rutinaria los informes de DSPM para la inteligencia artificial para determinar si necesita realizar cambios y use el explorador de actividad y los eventos para un análisis más profundo de cómo interactúan los usuarios con las aplicaciones de inteligencia artificial registradas en Entra.