Partage via

Démarrage rapide : détection de matériel protégé pour le texte

  • Article

La fonctionnalité « Matériel protégé pour le code » offre une solution complète pour gérer les risques associés au contenu généré par l’IA (en anglais uniquement). La détection et la prévention de l’affichage du code protégé permet aux organisations de garantir la conformité aux lois sur la propriété intellectuelle, de respecter l’originalité du code et de protéger leur réputation. Le contenu protégé fait référence au contenu qui correspond au texte connu provenant de sources protégées, telles que des paroles de chanson, des articles, des recettes ou d’autres contenus web sélectionnés.

Les principaux objectifs de la fonction de détection de matériel protégé pour le texte dans les contenus générés par l’IA sont les suivants :

  • Détecter et empêcher l’affichage du contenu protégé généré par des modèles IA.
  • Permettre aux organisations de gérer les risques associés au contenu généré par l’IA.
  • Veiller à ce que le contenu généré par l’IA soit conforme aux directives juridiques, éthiques et de politique de contenu.

Pour plus d’informations sur la détection de matériel protégé, consultez la page de concept de la détection de matériel protégé. Pour connaître les limites d’entrée d’API, consultez la section Configuration requise pour les entrées de la vue d’ensemble.

Prérequis

  • Un abonnement Azure - En créer un gratuitement
  • Une fois que vous avez votre abonnement Azure, créez une ressource Content Safety dans le portail Azure pour obtenir votre clé et votre point de terminaison. Entrez un nom unique pour votre ressource, sélectionnez votre abonnement, puis sélectionnez un groupe de ressources, une région prise en charge (voir disponibilité région) et le niveau tarifaire pris en charge. Sélectionnez ensuite Créer.
    • Le déploiement de la ressource prend quelques minutes. Une fois qu’il est terminé, sélectionnez Accéder à la ressource. Dans le volet gauche, sous Gestion des ressources, sélectionnez Clé et point de terminaison de l’abonnement. Le point de terminaison et l’une des clés sont utilisés pour appeler les API.
  • Installation de cURL

Analyser du texte pour y détecter des textes protégés

La section suivante décrit en détail un exemple de requête avec cURL. Collez la commande ci-dessous dans un éditeur de texte et effectuez les modifications suivantes :

  1. Remplacez <endpoint> par l’URL de point de terminaison associée à votre ressource.
  2. Remplacez <your_subscription_key> par l’une des clés qui viennent avec votre ressource.
  3. Si vous le souhaitez, remplacez le champ "text" dans le corps par votre propre texte que vous souhaitez analyser.

    Conseil

    Consultez les exigences d’entrée pour connaître les limites de longueur de texte maximales. La détection de textes protégés est conçue pour être exécutée sur les complétions LLM, pas sur les invites utilisateur.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Les champs ci-dessous doivent être inclus dans l’URL :

Nom Requis ? Description Type
API Version Obligatoire Il s’agit de la version de l’API à vérifier. La version actuelle est : api-version=2024-09-01. Exemple : <endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01 String

Les paramètres dans le corps de la requête sont définis dans ce tableau :

Nom Requis ? Description Type
text Obligatoire Il s’agit du texte brut à vérifier. D’autres caractères non-ascii peuvent être inclus. Chaîne

Examinez l’exemple de corps de requête suivant :

{
  "text": "string"
}

Ouvrez une fenêtre d’invite de commandes et exécutez la commande cURL.

Interpréter la réponse de l’API

Vous devriez voir les résultats de la détection de textes protégés sous la forme de données JSON dans la sortie de la console. Par exemple :

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Les champs JSON dans la sortie sont définis ici :

Nom Description Type
protectedMaterialAnalysis Chaque classe de sortie prédite par l’API. Chaîne
détecté Indique si des textes protégés ont été détectés ou non. Booléen

Nettoyer les ressources

Si vous souhaitez nettoyer et supprimer un abonnement Azure AI services, vous pouvez supprimer la ressource ou le groupe de ressources. La suppression du groupe de ressources efface également les autres ressources qui y sont associées.

Contenu connexe