Compartir a través de

Datos, privacidad y seguridad para el servicio Azure OpenAI

Importante

Las traducciones no en inglés solo se proporcionan para mayor comodidad. Consulte la EN-US versión de este documento para la versión vinculante.

En este artículo se proporcionan detalles sobre cómo se procesan, usan y almacenan los datos proporcionados por usted al servicio Azure OpenAI. Azure OpenAI almacena y procesa los datos para proporcionar el servicio y supervisar los usos que infringen los términos de producto aplicables. Consulte también el Anexo de protección de datos de productos y servicios de Microsoft, que rige el procesamiento de datos por el servicio Azure OpenAI. Azure OpenAI es un servicio de Azure; Obtenga más información sobre las ofertas de cumplimiento de Azure aplicables.

Importante

Las indicaciones (entradas) y finalizaciones (salidas), las inserciones y los datos de entrenamiento:

  • NO están disponibles para otros clientes.
  • NO están disponibles para OpenAI.
  • NO se usan para mejorar los modelos de OpenAI.
  • NO se usan para entrenar, volver a entrenar o mejorar los modelos base de Azure OpenAI Service.
  • NO se usan para mejorar cualquier producto o servicio de Microsoft o de terceros sin su permiso ni instrucción.
  • Los modelos de Azure OpenAI ajustados están disponibles exclusivamente para su uso.

El servicio Azure OpenAI está operado por Microsoft como servicio de Azure; Microsoft hospeda los modelos de OpenAI en el entorno de Azure de Microsoft y el servicio no interactúa con ningún servicio operado por OpenAI (por ejemplo, ChatGPT o la API de OpenAI).

¿Qué datos procesa el servicio Azure OpenAI?

Azure OpenAI procesa los siguientes tipos de datos:

  • Solicita y genera contenido. El usuario envía indicaciones y el servicio genera contenido mediante las finalizaciones, las finalizaciones de chat, las imágenes y las operaciones de incrustación.
  • Datos cargados. Puede proporcionar sus propios datos para su uso con determinadas características de servicio (por ejemplo, ajuste preciso, API de asistentes, procesamiento por lotes) mediante la API de archivos o el almacén de vectores.
  • Datos de entidades con estado. Cuando se usan determinadas características opcionales del servicio Azure OpenAI, como la característica Subprocesos de la API assistants y las finalizaciones almacenadas, el servicio crea un almacén de datos para conservar el historial de mensajes y otro contenido, de acuerdo con cómo se configura la característica.
  • Datos aumentados incluidos con o mediante indicaciones. Cuando usas datos asociados a entidades con estado, el servicio recupera los datos pertinentes de un almacén de datos configurado y amplía el aviso para producir resultados que se fundamenten en tus datos. Las sugerencias también se pueden enriquecer con datos recuperados de una fuente incluida en la propia sugerencia, como una dirección URL.
  • Datos de entrenamiento y validación. Puede proporcionar sus propios datos de entrenamiento que constan de pares de finalización rápida con el fin de ajustar un modelo de OpenAI.

¿Cómo procesa Azure OpenAI Service los datos?

En el diagrama siguiente se muestra cómo se procesan los datos. En este diagrama se tratan varios tipos de procesamiento:

  1. Cómo el servicio Azure OpenAI procesa tus indicaciones mediante inferencia para la generación de contenido (incluido cuando se agregan datos adicionales de un origen de datos designado a una indicación utilizando Azure OpenAI sobre tus datos, asistentes o procesamiento en lotes).
  2. Cómo la característica Asistentes almacena los datos en conexión con mensajes, subprocesos y ejecuciones.
  3. Cómo procesa la característica Batch los datos cargados.
  4. Cómo crea el servicio Azure OpenAI un modelo ajustado (personalizado) con los datos cargados.
  5. Cómo el servicio Azure OpenAI y el personal de Microsoft analizan las solicitudes y finalizaciones (texto e imagen) para el contenido dañino y para patrones que sugieren el uso del servicio de una manera que infringe el Código de conducta u otros términos de producto aplicables.

Diagrama de flujo de datos para el servicio.

Como se muestra en el diagrama anterior, los clientes administrados pueden aplicarse para modificar la supervisión de abusos.

Generación de finalizaciones, imágenes o inserciones mediante inferencia

Los modelos (base o ajustados) implementados en su recurso procesan las indicaciones de entrada y generan respuestas con texto, imágenes o incrustaciones. Las interacciones del cliente con el modelo están aisladas y protegidas lógicamente mediante medidas técnicas, entre las que se incluyen, entre otras, el cifrado de transporte de TLS1.2 o superior, el perímetro de seguridad de proceso, la tokenización del texto y el acceso exclusivo a la memoria GPU asignada. Las solicitudes y finalizaciones se evalúan en tiempo real para los tipos de contenido dañinos y la generación de contenido se filtran en función de los umbrales configurados. Obtenga más información en Filtrado de contenido del servicio OpenAI de Azure.

Las solicitudes y respuestas se procesan dentro de la geografía especificada por el cliente (a menos que use un tipo de implementación global), pero se pueden procesar entre regiones dentro de la geografía con fines operativos (incluida la administración de rendimiento y capacidad). Consulte a continuación para obtener información sobre la ubicación del procesamiento al usar un tipo de implementación global.

Los modelos no tienen estado: no se almacenan mensajes ni generaciones en el modelo. Además, las indicaciones y generaciones no se usan para entrenar, volver a entrenar o mejorar los modelos base.

Descripción de la ubicación del procesamiento para los tipos de implementación "Global" y "Data zone"

Además de las implementaciones estándar, Azure OpenAI Service ofrece opciones de implementación etiquetadas como "Global" y "DataZone". Para cualquier tipo de implementación etiquetada como "Global", las indicaciones y respuestas se pueden procesar en cualquier zona geográfica en la que se implemente el modelo de Azure OpenAI pertinente (obtenga más información sobre la disponibilidad de región de los modelos). Para cualquier tipo de implementación etiquetado como "DataZone", las solicitudes y respuestas se pueden procesar en cualquier geografía dentro de la zona de datos especificada, tal como se define en Microsoft. Si crea una implementación de DataZone en un recurso de Azure OpenAI ubicado en Estados Unidos, las solicitudes y respuestas se pueden procesar en cualquier parte de Estados Unidos. Si crea una implementación de DataZone en un recurso de Azure OpenAI ubicado en una nación miembro de la Unión Europea, las solicitudes y respuestas se pueden procesar en esa o en cualquier otra nación miembro de la Unión Europea. Para los tipos de implementación Global y DataZone, los datos almacenados en reposo, como los datos cargados, se almacenan en la geografía designada por el cliente. Solo la ubicación del procesamiento se ve afectada cuando un cliente usa un tipo de implementación global o un tipo de implementación de DataZone en Azure OpenAI Service; los compromisos de cumplimiento y procesamiento de datos de Azure siguen siendo aplicables.

Aumento de indicaciones para "fundamentar" resultados generados "en sus datos"

La característica de Azure OpenAI "en tus datos" le permite conectar orígenes de datos para fundamentar los resultados generados con tus datos. Los datos permanecen almacenados en el origen de datos y la ubicación que designe; El servicio Azure OpenAI no crea un almacén de datos duplicado. Cuando se recibe un mensaje de usuario, el servicio recupera los datos pertinentes del origen de datos conectado y aumenta el mensaje. El modelo procesa este mensaje aumentado y el contenido generado se devuelve como se ha descrito anteriormente. Obtenga más información sobre cómo usar la característica En sus datos de forma segura.

Almacenamiento de datos para las características del servicio Azure OpenAI

Algunas características de Azure OpenAI Service almacenan datos en el servicio. El cliente carga estos datos, mediante la API de archivos o el almacén de vectores, o se almacenan automáticamente en conexión con determinadas entidades con estado, como la característica Subprocesos de la API del asistente y las Finalizaciones almacenadas. Datos almacenados para las características de Azure OpenAI Service:

  • Se almacenan en reposo en el recurso de Azure OpenAI en el inquilino de Azure del cliente, dentro de la misma geografía que el recurso de Azure OpenAI;
  • Siempre se cifra en reposo con el cifrado AES-256 de Microsoft de forma predeterminada, con la opción de usar una clave administrada por el cliente (es posible que algunas características en versión preliminar no admitan claves administradas por el cliente).
  • El cliente puede eliminarlo en cualquier momento.

Nota:

Es posible que las características de Azure OpenAI en versión preliminar no admitan todas las condiciones anteriores.

Los datos almacenados se pueden usar con las siguientes características o funcionalidades de servicio:

  • Creación de un modelo personalizado (ajustado). Obtenga más información sobre cómo funciona el ajuste preciso. Los modelos optimizados están disponibles exclusivamente para el cliente cuyos datos se usaron para crear el modelo optimizado, se cifran en reposo (cuando no se implementan para la inferencia) y el cliente puede eliminarlos en cualquier momento. Los datos de entrenamiento cargados para el ajuste preciso no se usan para entrenar, volver a entrenar ni mejorar ningún modelo base de Microsoft o de terceros.
  • Procesamiento por lotes. Obtenga más información sobre cómo funciona el procesamiento por lotes. El procesamiento por lotes es un tipo de implementación global; Los datos almacenados en reposo permanecen en la geografía de Azure designada hasta que la capacidad de procesamiento esté disponible; El procesamiento puede producirse en cualquier zona geográfica en la que se implemente el modelo de Azure OpenAI pertinente (obtenga más información sobre la disponibilidad de regiones de los modelos).
  • API de asistentes (versión preliminar). Obtenga más información sobre cómo funciona la API assistants. Algunas características de los asistentes, como Subprocesos, almacenan el historial de mensajes y otro contenido.
  • Finalizaciones almacenadas (versión preliminar). Las finalizaciones almacenadas almacenan pares de entrada-salida de los modelos de Azure OpenAI implementados del cliente, como GPT-4o a través de la API de finalizaciones de chat y muestran los pares en el Portal de la Fundición de IA de Azure. Esto permite a los clientes crear conjuntos de datos con sus datos de producción, que se pueden usar para evaluar o ajustar modelos (según lo permitido en los Términos de producto aplicables).

Prevención de abusos y generación de contenido perjudicial

Para reducir el riesgo de uso perjudicial del servicio Azure OpenAI, el servicio Azure OpenAI incluye características de filtrado de contenido y supervisión de abusos. Para más información sobre el filtrado de contenido, consulte Filtrado de contenido del servicio OpenAI de Azure. Para más información sobre la supervisión de abusos, consulte Supervisión de abusos.

El filtrado de contenido se produce de forma sincrónica a medida que el servicio procesa los mensajes para generar contenido como se describe anteriormente y aquí. No se almacenan avisos ni contenido generado en los modelos de clasificador de contenido, y no se utilizan avisos ni resultados para entrenar, volver a entrenar o mejorar los modelos clasificadores sin su consentimiento.

Las evaluaciones de seguridad de los modelos ajustados evalúan un modelo optimizado para respuestas potencialmente perjudiciales mediante las métricas de riesgo y seguridad de Azure. El servicio registra solo la evaluación resultante (implementable o no implementable).

El sistema de supervisión de abusos de Azure OpenAI está diseñado para detectar y mitigar instancias de contenido periódico o comportamientos que sugieren el uso del servicio de una manera que pueda infringir el código de conducta u otros términos de producto aplicables. Como se describe aquí, el sistema emplea algoritmos y heurística para detectar indicadores de posibles abusos. Cuando se detectan estos indicadores, se puede seleccionar una muestra de las indicaciones y finalizaciones del cliente para su revisión. LlM realiza la revisión de forma predeterminada, con revisiones adicionales por parte de los revisores humanos según sea necesario. La información detallada sobre la IA y la revisión humana está disponible en monitoreo de abuso del servicio Azure OpenAI.

Para la revisión de IA, el sistema no almacena las indicaciones y finalizaciones del cliente ni las usa para entrenar el LLM u otros sistemas. Para la revisión humana, el almacén de datos donde se almacenan las solicitudes y finalizaciones se separa lógicamente por recurso de cliente (cada solicitud incluye el identificador de recurso del recurso de Azure OpenAI del cliente). Un almacén de datos independiente se encuentra en cada zona geográfica en la que está disponible el servicio Azure OpenAI y los mensajes de un cliente y el contenido generado se almacenan en la geografía de Azure donde se implementa el recurso del servicio Azure OpenAI del cliente, dentro del límite del servicio Azure OpenAI. Los revisores humanos que evalúan el posible abuso pueden acceder a las indicaciones y a los datos de finalización solo cuando esos datos ya se ha marcado mediante el sistema de supervisión de abusos. Los revisores humanos son empleados autorizados de Microsoft que acceden a los datos a través de consultas puntuales mediante identificadores de solicitud, estaciones de trabajo de acceso seguro (SAW) y aprobación de solicitudes Just-In-Time (JIT) concedidas por los administradores del equipo. Para el servicio Azure OpenAI implementado en el Área Económica Europea, los empleados autorizados de Microsoft se encuentran en el Espacio Económico Europeo.

Si el cliente se ha aprobado para la supervisión de abusos modificados (obtenga más información en Supervisión del abuso del servicio OpenAI de Azure), Microsoft no almacena las solicitudes y finalizaciones asociadas a las suscripciones de Azure aprobadas y el proceso de revisión humana descrito anteriormente no es posible y no se realiza. Sin embargo, es posible que se realice una revisión de IA, aprovechando los modelos de lenguaje grandes que revisan las indicaciones y las finalizaciones en el momento proporcionado o generado, según corresponda.

Nota:

Las características de la versión preliminar de Azure, incluidos los modelos de Azure OpenAI en versión preliminar, pueden emplear diferentes prácticas de privacidad, entre las que se incluyen la supervisión de abusos. Las versiones preliminares pueden estar sujetas a términos complementarios en: Términos de uso complementarios para las versiones preliminares de Microsoft Azure.

¿Cómo puede un cliente comprobar si el almacenamiento de datos para la supervisión de abusos está desactivado?

Hay dos maneras de que los clientes, una vez aprobados para desactivar la supervisión de abusos, comprueben que el almacenamiento de datos para la supervisión de abusos se ha desactivado en su suscripción de Azure aprobada:

  • Uso de Azure Portal o
  • CLI de Azure (o cualquier API de administración).

Nota:

El valor de "false" para el atributo "ContentLogging" solo aparece si el almacenamiento de datos para la supervisión de abuso está desactivado. De lo contrario, esta propiedad no aparecerá en Azure Portal ni en la salida de la CLI de Azure.

Prerrequisitos

  1. Inicio de sesión en Azure
  2. Seleccione la suscripción de Azure que hospeda el recurso de Azure OpenAI Service.
  3. Vaya a la página Información general del recurso del servicio Azure OpenAI.

  1. Vaya a la página Información general del recurso.

  2. Haga clic en el vínculo de vista JSON de la esquina superior derecha, como se muestra en la imagen siguiente.

    Vista del estado de registro JSON en el portal de Azure.

Habrá un valor en la lista Funcionalidades denominada "ContentLogging", que aparecerá y se establecerá en FALSE cuando se desactive el registro de la supervisión de abusos.

{ 
    "name":"ContentLogging",
    "value":"false"
}

Para obtener más información sobre los compromisos de privacidad y seguridad de Microsoft, consulte el Centro de confianza de Microsoft.

Registro de cambios

Fecha Cambios
17 de diciembre de 2024 Se ha agregado información sobre el procesamiento y el almacenamiento de datos en conexión con la nueva característica Finalizaciones almacenadas; se ha agregado un lenguaje que aclara que es posible que las características de Azure OpenAI en versión preliminar no admitan todas las condiciones de almacenamiento de datos; se quitó la designación de "versión preliminar" para el procesamiento por lotes
18 de noviembre de 2024 Se ha agregado información sobre la ubicación del procesamiento de datos para los nuevos tipos de implementación de "Zona de datos"; se ha agregado información sobre la nueva revisión de inteligencia artificial de avisos y finalizaciones como parte de la prevención del abuso y la generación de contenido dañino.
4 de septiembre de 2024 Se ha agregado información (y se ha revisado el texto existente en consecuencia) sobre el procesamiento de datos para nuevas características, como Assistants API (versión preliminar), Batch (versión preliminar) e Implementaciones globales; se ha revisado el lenguaje relacionado con la ubicación del procesamiento de datos, de acuerdo con los principios de residencia de datos de Azure; se ha agregado información sobre el procesamiento de datos para las evaluaciones de seguridad de modelos ajustados; se han aclarado los compromisos relacionados con el uso de indicaciones y completaciones; revisiones menores para mejorar la claridad.
23 de junio de 2023 Se ha agregado información sobre el procesamiento de datos para la nueva característica de Azure en sus datos; se ha quitado información sobre la supervisión de abusos que ahora está disponible en Supervisión de abusos de Azure OpenAI Service. Se ha agregado una nota de resumen. Contenido actualizado y optimizado y diagramas actualizados para mayor claridad. se ha agregado el registro de cambios

Consulte también