El filtro de detección de materiales protegidos examina la salida de modelos de lenguaje grandes (LLM) para identificar y marcar material protegido conocido. Ayuda a las organizaciones a evitar la generación de contenido que coincida estrechamente con el texto o el código protegidos por derechos de autor.
El filtro de texto de material protegido marca el contenido de texto conocido que pueden generar modelos de lenguaje grandes, como letras de canciones, artículos, recetas y contenido web seleccionado.
El filtro de código de material protegido marca el contenido de código protegido que podrían generar modelos de lenguaje grandes. Este es el contenido que se encuentra en repositorios conocidos GitHub e incluye bibliotecas de software, código fuente, algoritmos y otro contenido de programación propietario.
Importante
Los modelos de límites de protección y controles para la detección de materiales protegidos, la detección de fundamentación y las categorías personalizadas (estándar) solo funcionan con inglés.
Otros modelos de filtrado de contenido se entrenan y prueban específicamente en los siguientes idiomas: chino, inglés, francés, alemán, español, italiano, japonés, portugués. Sin embargo, estas características pueden funcionar en muchos otros lenguajes, pero la calidad puede variar. En todos los casos, debe realizar sus propias pruebas para asegurarse de que funciona para la aplicación.
Precaución
El analizador o indexador de código del servicio Content Safety solo está actualizado hasta el 6 de abril de 2023. No se detectará el código que se agregó a GitHub después de esta fecha. Use su criterio al utilizar material protegido relacionado con código para detectar fragmentos de código recientes.
Al detectar y evitar la visualización de material protegido, las organizaciones pueden garantizar el cumplimiento de las leyes de propiedad intelectual, mantener la originalidad del contenido y proteger su reputación.
En esta guía se proporcionan detalles sobre los tipos de contenido que detecta la API de material protegido.
Escenarios de usuario
Plataformas de generación de contenido para escritura creativa
- Escenario: una plataforma de generación de contenido que usa ia generativa para la escritura creativa (por ejemplo, entradas de blog, historias, copia de marketing) integra la característica Material protegido para texto para evitar la generación de contenido que coincida estrechamente con el material conocido con derechos de autor.
- Usuario: administradores de plataformas y creadores de contenido.
- Acción: la plataforma usa Seguridad del contenido de Azure AI para examinar el contenido generado por ia antes de proporcionarlo a los usuarios. Si el texto generado coincide con el material protegido, el contenido se marca y se bloquea o revisa.
- Resultado: La plataforma evita posibles infracciones de derechos de autor y garantiza que todo el contenido generado sea original y conforme a las leyes de propiedad intelectual.
Creación automatizada de contenido en redes sociales
- Escenario: una agencia de marketing digital usa inteligencia artificial generativa para automatizar la creación de contenido en redes sociales. La agencia integra la característica Material protegido para texto para evitar la publicación de contenido generado por IA que incluye texto con derechos de autor, como letras de canciones o extractos de libros.
- Usuario: vendedores digitales y administradores de redes sociales.
- Acción: La agencia emplea Seguridad del contenido de Azure AI para comprobar todo el contenido de redes sociales generado por IA en busca de coincidencias con una base de datos de material protegido. El contenido que coincide se marca para la revisión o se bloquea la publicación.
- Resultado: la agencia mantiene el cumplimiento de las leyes de copyright y evita riesgos de reputación asociados con la publicación de contenido no autorizado.
Redacción de noticias asistidas por IA
- Escenario: un medio de noticias usa inteligencia artificial generativa para ayudar a los periodistas a redactar artículos e informes. Para asegurarse de que el contenido no replique involuntariamente artículos de noticias protegidos u otro material protegido con derechos de autor, el medio utiliza la función Material protegido para texto.
- Usuario: periodistas, editores y responsables de cumplimiento.
- Acción: el medio de comunicación integra Seguridad del contenido de Azure AI [Seguridad de Contenido de Azure AI] en su flujo de trabajo de creación de contenido. Los borradores generados por IA se examinan automáticamente en busca de contenido protegido antes del envío para revisión editorial.
- El medio de comunicación evita infracciones accidentales de derechos de autor y mantiene la integridad y originalidad de su información.
Plataformas de aprendizaje electrónico que usan ia para la generación de contenido
- Escenario: una plataforma de aprendizaje electrónico emplea inteligencia artificial generativa para generar contenido educativo, como resúmenes, cuestionarios y texto explicativo. La plataforma utiliza la característica Material protegido para texto para asegurarse de que el contenido generado no incluye material protegido de libros de texto, artículos o documentos académicos.
- Usuario: creadores de contenido educativo y responsables de cumplimiento.
- Acción: la plataforma integra la característica para examinar los materiales educativos generados por la inteligencia artificial. Si algún contenido coincide con el material académico protegido conocido, se marca para revisión o se quita automáticamente.
- Resultado: la plataforma mantiene la calidad del contenido educativo y cumple con las leyes de copyright, evitando el uso de material protegido en los recursos de aprendizaje generados por la inteligencia artificial.
Generadores de recetas con tecnología de inteligencia artificial
- Escenario: un sitio web de alimentos y recetas usa inteligencia artificial generativa para generar nuevas recetas basadas en las preferencias del usuario. Para evitar generar contenido que coincida con recetas protegidas de libros o sitios web famosos, el sitio web integra la característica Material protegido para texto.
- Usuario: administradores de contenido y administradores de plataforma.
- Acción: el sitio web usa Seguridad del contenido de Azure AI para comprobar las recetas generadas por ia en una base de datos de contenido protegido conocido. Si una receta generada coincide con una protegida, se marca y se revisa o se bloquea.
- Resultado: el sitio web garantiza que todas las recetas generadas por ia sean originales, lo que reduce el riesgo de infracción de derechos de autor.
- Escenario: una plataforma de desarrollo de software que utiliza inteligencia artificial generativa para ayudar a los desarrolladores a escribir código integra la característica Material protegido para código para evitar la generación de código que replica material de repositorios de GitHub existentes.
- Usuario: administradores de plataformas, desarrolladores.
- Acción: la plataforma usa Seguridad del contenido de Azure AI para examinar el código generado por IA. Si algún código coincide con el material protegido, se marca para su revisión, modificación o bloqueo.
- Resultado: la plataforma garantiza que todo el código generado por ia sea original y cumpla con los acuerdos de licencia, lo que reduce los riesgos legales y de cumplimiento.
- Escenario: un equipo de desarrollo usa inteligencia artificial generativa para automatizar partes de su escritura de código. El equipo integra la característica Material protegido para código para evitar el uso accidental de fragmentos de código que coinciden con el contenido de repositorios de GitHub existentes, incluido el código abierto con licencias restrictivas.
- Usuario: desarrolladores de software, equipos de DevOps.
- Acción: Seguridad del contenido de Azure AI comprueba el código que se genera contra el material conocido de los repositorios de GitHub. Si se encuentra una coincidencia, el código se marca y se revisa antes de incorporarlo al proyecto.
- Resultado: el equipo evita posibles infracciones de derechos de autor y garantiza que el código generado por ia se adhiere a las licencias adecuadas.
Revisiones de código asistidas por IA
- Escenario: una empresa de software integra las herramientas de revisión de código asistido por IA en su proceso de desarrollo. Para evitar introducir código protegido de GitHub o bibliotecas externas, la empresa usa la característica Material protegido para código.
- Usuario: revisores de código, desarrolladores de software, responsables de cumplimiento.
- Acción: la empresa examina todo el código generado por IA para buscar coincidencias con el material protegido de los repositorios de GitHub antes de la revisión final y la implementación final del código.
- Resultado: La empresa impide la inclusión de material protegido en sus proyectos, manteniendo el cumplimiento de las leyes de propiedad intelectual y las normas internas.
- Escenario: una plataforma de aprendizaje electrónico usa ia generativa para generar código de ejemplo para los tutoriales y cursos de programación. La plataforma integra la característica Material protegido para código para asegurarse de que los ejemplos generados no duplican el código de repositorios de GitHub existentes u otros orígenes educativos.
- Usuario: creadores de cursos, administradores de plataformas.
- Acción: Seguridad del contenido de Azure AI comprueba todos los ejemplos de código generados por IA en busca de contenido protegido. Las coincidencias se marcan, revisan y revisan.
- Resultado: La plataforma mantiene la integridad y originalidad de su contenido educativo mientras se adhiere a las leyes de copyright.
Asistentes de codificación con tecnología de inteligencia artificial
- Escenario: una herramienta de asistente de codificación con tecnología de ia generativa ayuda a los desarrolladores mediante la generación de sugerencias de código. Para asegurarse de que ninguna sugerencia infringe el código de GitHub repositorios, la herramienta asistente usa la característica Material protegido para código.
- Usuario: desarrolladores, administradores de herramientas.
- Acción: la herramienta examina todas las sugerencias de código para el material protegido de GitHub antes de presentarlas a los desarrolladores. Si una sugerencia coincide con el código protegido, se marca y no se muestra.
- Resultado: el asistente de codificación garantiza que todas las sugerencias de código estén libres de contenido protegido, fomentando la originalidad y reduciendo los riesgos legales.
Al integrar la característica Material protegido para código, las organizaciones pueden administrar los riesgos asociados con el código generado por ia, mantener el cumplimiento de las leyes de propiedad intelectual y garantizar la originalidad de sus salidas de código.
Ejemplos de texto de material protegido
Consulte esta tabla para obtener más información sobre las principales categorías de detección de texto de material protegido. Las cuatro categorías se aplican cuando se llama a la API.
| Categoría |
Ámbito |
Considerado aceptable |
Considerado perjudicial |
| Recetas |
Contenido con derechos de autor relacionados con recetas.
Otros textos perjudiciales o confidenciales quedan fuera del ámbito de esta tarea, a menos que se crucen con recetas que perjudiquen los derechos de propiedad intelectual. |
- Vínculos a páginas web que contienen información sobre recetas
- Cualquier contenido de recetas que no tengan protección de derechos de autor o baja protección de Propiedad Intelectual:
- Listas de ingredientes
- Instrucciones básicas para combinar y cocinar ingredientes
- Rechazo o denegación de proporcionar contenido protegido por derechos de autor:
- Cambio de un tema para evitar el uso compartido de contenido protegido por derechos de autor
- Denegación de compartir contenido protegido por derechos de autor
- Proporcionar información que no responde
|
- Otro contenido literario en una receta
- Relatos coincidentes, anécdotas o comentarios personales sobre la receta (40 caracteres o más)
- Nombres creativos para la receta que no están limitados al nombre conocido del plato, o un resumen descriptivo simple del plato que indica cuál es el ingrediente principal (40 caracteres o más)
- Descripciones creativas de los ingredientes o pasos para combinar o cocinar ingredientes, incluidas descripciones que contienen más información de la necesaria para crear el plato, confiar en palabras imprecisas o contener palabras soeces (40 caracteres o más)
- Métodos para acceder al contenido protegido por derechos de autor:
- Formas de omitir los muros de pago para acceder a las recetas
|
| Contenido web |
Todos los sitios web que tienen webmd.com como nombre de dominio url. Solo se centra en los problemas de contenido protegido por derechos de autor en torno al contenido web seleccionado.
Otros textos perjudiciales o confidenciales quedan fuera del ámbito de esta tarea, a menos que se crucen con los contenidos web perjudiciales seleccionados. |
- Vínculos a páginas web
- Fragmentos cortos o extractos de contenido web seleccionado siempre que:
- Son relevantes para la consulta del usuario.
- Tienen menos de 200 caracteres
|
- Contenido sustancial del contenido web seleccionado
- Secciones de respuesta de más de 200 caracteres que tienen una similitud sustancial con un bloque de texto del contenido web seleccionado
- Extractos del contenido web seleccionado que tienen más de 200 caracteres
- Citas del contenido web seleccionado que superan los 200 caracteres
- Métodos para acceder al contenido protegido por derechos de autor:
- Formas de omitir las protecciones de paywalls o DRM para acceder al contenido web seleccionado con derechos de autor
|
| Noticias |
Concéntrese únicamente en cuestiones de derechos de autor en torno a noticias.
Otros textos dañinos o sensibles están fuera del ámbito de esta tarea, a menos que intersecten los daños por derechos de autor relacionados con la propiedad intelectual de las noticias. |
- Vínculos a páginas web que hospedan noticias o información sobre noticias, revistas o artículos de blog siempre y cuando:
- Tienen permisos legítimos
- Tienen cobertura de noticias con licencia
- Son plataformas autorizadas
- Vínculos a páginas web autorizadas que contienen reproductores de audio y vídeo insertados siempre que:
- Tienen permisos legítimos
- Tienen cobertura de noticias con licencia
- Son plataformas de streaming autorizadas.
- Son canales oficiales de YouTube
- Fragmentos breves como titulares o subtítulos de artículos de noticias, siempre que:
- Son relevantes para la consulta del usuario.
- No son una parte sustancial del artículo
- No son todo el artículo
- Resumen de artículos de noticias siempre y cuando se cumpla una condición.
- Es relevante para la consulta del usuario.
- Es breve y fáctica
- No copia ni parafrasa una parte sustancial del artículo
- Se cita claramente y visiblemente como resumen
- Análisis/Crítica/Revisión de artículos de noticias siempre y cuando:
- Es relevante para la consulta del usuario.
- Es breve y fáctica
- No copia ni parafrasa una parte sustancial del artículo
- Se cita claramente y visiblemente como un análisis,crítica/revisión
- Cualquier contenido de noticias que no tenga protección de ip/copyright:
- News/Magazines/Blogs que se encuentran en el dominio público
- Noticias/Revistas/Blogs para los que ha transcurrido la protección de derechos de autor, se entregó o nunca existió
- Rechazo o denegación de proporcionar contenido protegido por derechos de autor:
- Cambio de tema para evitar el uso compartido de contenido protegido por derechos de autor
- Denegación de compartir contenido protegido por derechos de autor
- Proporcionar información que no responde
|
- Vínculos a pdf o cualquier otro archivo que contenga texto completo de artículos de noticias, revistas o blog, a menos que:
- Se obtienen de plataformas autorizadas con permisos legítimos y licencias.
- Contenido de noticias
- Más de 200 caracteres tomados textualmente de cualquier artículo de noticias
- Más de 200 caracteres sustancialmente similares a un bloque de texto de cualquier artículo de noticias
- Acceso directo a artículos de noticias, revistas o blog que están detrás de los muros de pago
- Métodos para acceder al contenido protegido por derechos de autor:
- Pasos para descargar noticias de un sitio web no autorizado
- Formas de omitir los muros de pago o las protecciones DRM para acceder a noticias o vídeos protegidos por derechos de autor
|
| Letras |
Solo se centra en cuestiones de contenido protegido por derechos de autor en torno a Canciones.
Otros textos perjudiciales o confidenciales quedan fuera del ámbito de esta tarea, a menos que se crucen con canciones perjudiciales para la propiedad intelectual. |
- Vínculos a páginas web que contienen información sobre canciones como:
- Letras de las canciones
- Acordes o tablaturas de la música asociada
- Análisis o reseñas de la canción/música
- Vínculos a páginas web autorizadas que contienen reproductores de audio y vídeo insertados siempre que:
- Tienen permisos legítimos
- Tienen música con licencia
- Son plataformas de streaming autorizadas.
- Son canales oficiales de YouTube
- Fragmentos cortos o extractos de las letras de las canciones siempre y cuando:
- Son relevantes para la consulta del usuario.
- No son una parte sustancial de las letras
- No son las letras completas
- No son más de 11 palabras largas
- Fragmentos cortos o fragmentos de acordes o tablaturas de las canciones siempre y cuando:
- Son relevantes para la consulta del usuario.
- No sean una parte sustancial de los acordes o tablaturas
- No sean los acordes o tablaturas completos
- Cualquier contenido de canciones que no tengan protecciones de ip o derechos de autor:
- Letras/Canciones/Acordes/Tablaturas que se encuentran en el dominio público
- Canciones/Letras/Acordes/Tablaturas para las que la protección de derechos de autor ha expirado, ha sido renunciada o nunca existió
- Rechazo o denegación de proporcionar contenido protegido por derechos de autor:
- Cambio de tema para evitar el uso compartido de contenido protegido por derechos de autor
- Denegación de compartir contenido protegido por derechos de autor
- Proporcionar información que no responde
|
- Letras de una canción
- Letras completas
- Parte sustancial de las letras
- Parte de las letras que contienen más de 11 palabras
- Acordes o tablaturas de una canción
- Acordes o tablaturas completos
- Parte sustancial de los acordes o tablaturas
- Vínculos a páginas web que contienen reproductores de audio y vídeo incrustados que:
- No tiene permisos legítimos
- No tener música licenciada
- No son plataformas de streaming autorizadas
- No son canales oficiales de YouTube
- Métodos para acceder al contenido protegido por derechos de autor:
- Pasos para descargar canciones de un sitio web no autorizado
- Formas de omitir los muros de pago o las protecciones DRM para acceder a canciones o vídeos protegidos por derechos de autor
|
Solución de problemas
Falsos positivos
Si la detección de materiales protegidos marca el contenido que realmente no está protegido:
- Compruebe que la categoría de detección (letras, noticias, recetas, código) coincide con su caso de uso.
- Compruebe si el contenido marcado supera los umbrales de caracteres y palabras (40 caracteres para recetas, 200 caracteres para noticias, 11 palabras para letras).
- Revise los criterios "Considerados aceptables" en la tabla de categorías de detección.
Contenido no detectado
Si no se marca el material protegido esperado:
- Para el código: Verifique que el repositorio fue indexado antes del 6 de abril de 2023.
- Para texto: Confirme que el contenido coincide con una de las cuatro categorías de detección (Recetas, Contenido web, Noticias, Letras)
- Compruebe que se cumplen los requisitos de soporte de idioma (inglés para los modelos Guardrails)
Problemas de integración
Para problemas de integración:
- Comprobación de que el recurso de Seguridad del contenido de Azure AI está configurado correctamente
- Comprobación de que las credenciales de autenticación de API son válidas
- Revise el inicio rápido de seguridad del contenido para el uso correcto de la API.
Pasos siguientes