Compartir a través de

Inicio rápido: Detección de contenido protegido en el texto

La característica Material protegido para texto proporciona una solución completa para administrar los riesgos asociados con el contenido generado por IA (solo contenido en inglés). Al detectar y evitar la visualización de material protegido, las organizaciones pueden garantizar el cumplimiento de las leyes de propiedad intelectual, mantener la originalidad del contenido y proteger su reputación. El material protegido hace referencia al contenido que coincide con texto conocido de fuentes protegidas por derechos de autor, como letras de canciones, artículos, recetas u otro contenido web seleccionado.

Los objetivos clave de la característica Detección de materiales protegidos para texto para el contenido generado por IA son:

  • Para detectar y evitar la visualización del contenido protegido generado por los modelos de IA.
  • Para permitir que las organizaciones administren los riesgos asociados con el contenido generado por IA.
  • Para asegurarse de que el contenido generado por IA cumple con las directrices legales, éticas y de directivas de contenido.

Para obtener más información sobre la detección de materiales protegidos, consulte la Página de concepto de detección de materiales protegidos. Para conocer los límites de entrada de API, consulte la sección Requisitos de entrada de la Información general.

Requisitos previos

Configuración

Siga estos pasos para usar la página de prueba de seguridad del contenido:

  1. Vaya a Azure AI Foundry y diríjase a su proyecto o centro. A continuación, seleccione la pestaña Guardrails + controls (Límites de protección y controles ) en el panel de navegación izquierdo y seleccione la pestaña Pruébelo .
  2. En la página Pruébelo , puede experimentar con varias características de protección y controles, como el contenido de texto e imagen, usando umbrales ajustables para filtrar por contenido inapropiado o dañino.

Recorte de pantalla de la página de prueba para los controles y barreras de protección.

Uso de la detección de materiales protegidos

Esta característica examina el texto generado por IA en busca de contenido de texto conocido (por ejemplo, letras de canciones, artículos, recetas, contenido web seleccionado).

  1. Seleccione el panel Detección de material protegido para texto o Detección de material protegido para código.
  2. Seleccione un texto de muestra en la página o introduzca su propio contenido de prueba.
  3. Haga clic en Ejecutar prueba. El servicio devuelve el resultado del contenido protegido.

Para más información, consulte la guía conceptual sobre material protegido.

Requisitos previos

  • Una suscripción a Azure: cree una cuenta gratuita.
  • Una vez que tenga la suscripción de Azure, cree un recurso de Content Safety en el portal de Azure para obtener su clave y el punto de conexión. Escriba un nombre único para el recurso, seleccione la suscripción y, después, un grupo de recursos, una región admitida (consulte Región de disponibilidad) y el plan de tarifa admitido. Seleccione Crear.
    • El recurso tarda unos minutos en implementarse. Cuando termine, seleccione Ir al recurso. En el panel de la izquierda, en Administración de recursos, seleccione Clave y punto de conexión de la suscripción. El punto de conexión y cualquiera de las claves se usan para llamar a las API.
  • cURL instalado

Análisis de texto para la detección de materiales protegidos

En la sección siguiente se muestra una solicitud de ejemplo con cURL. Pegue el comando siguiente en un editor de texto y realice los cambios siguientes.

  1. Reemplace <endpoint> por la dirección URL del punto de conexión asociada con el recurso.
  2. Reemplace <your_subscription_key> por una de las claves que vienen con el recurso.
  3. Opcionalmente, reemplace el campo "text" del cuerpo por su propio texto que le gustaría analizar.

    Sugerencia

    Consulte Requisitos de entrada para ver las limitaciones máximas de longitud de texto. La detección de materiales protegidos está pensada para ejecutarse en finalizaciones de LLM, no en solicitudes de usuario.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Los campos siguientes deben incluirse en la dirección URL:

Nombre ¿Necesario? Descripción Tipo
Versión de la API Obligatorio Esta es la versión de la API que se va a comprobar. La versión actual es: api-version=2024-09-01. Ejemplo: <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 Cadena

Los parámetros del cuerpo de la solicitud se definen en esta tabla:

Nombre ¿Necesario? Descripción Tipo
Mensaje de texto Obligatorio Este es el texto en bruto que se va a comprobar. Se pueden incluir caracteres que no sean ASCII. Cadena

Consulte el siguiente cuerpo de solicitud de ejemplo:

{
  "text": "string"
}

Abra una ventana del símbolo del sistema y ejecute el comando cURL.

Interpretación de la respuesta de la API

Debería ver los resultados de detección de materiales protegidos como datos JSON en la salida de la consola. Por ejemplo:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Los campos JSON de la salida se definen aquí:

Nombre Descripción Tipo
protectedMaterialAnalysis Cada clase de salida que predice la API. Cadena
detectado Si se detectó o no material protegido. Booleana

Limpieza de recursos

Si quiere limpiar y eliminar una suscripción de servicios de Azure AI, puede eliminar el recurso o el grupo de recursos. Al eliminar el grupo de recursos, también se elimina cualquier otro recurso que esté asociado a él.

Contenido relacionado