Catégories personnalisées (préversion)

Azure AI Sécurité du Contenu vous permet de créer et de gérer vos propres catégories de contenu pour améliorer la modération et le filtrage qui correspondent à vos stratégies ou cas d’utilisation spécifiques.

Types de personnalisation

Vous pouvez définir et utiliser des catégories personnalisées via plusieurs méthodes. Cette section détaille et compare ces méthodes.

API Fonctionnalités
API (standard) Catégories personnalisées Utilisez un modèle Machine Learning personnalisable pour créer, obtenir, interroger et supprimer une catégorie personnalisée. Vous pouvez également répertorier toutes vos catégories personnalisées pour d’autres tâches d’annotation.
API (rapide) Catégories personnalisées Utilisez un grand modèle de langage (LLM) pour inculquer rapidement des modèles de contenu spécifiques dans le cadre de nouveaux incidents de contenu.

API (standard) Catégories personnalisées

L’API Catégories personnalisées (standard) vous permet de définir des catégories spécifiques à vos besoins, de fournir des exemples de données, d’entraîner un modèle Machine Learning personnalisé et de l’utiliser pour classifier le nouveau contenu en fonction des catégories apprises.

Cette API fournit le flux de travail standard pour la personnalisation avec les modèles Machine Learning. Selon la qualité des données d’entraînement, le modèle peut atteindre de très bons niveaux de performances, mais plusieurs heures d’entraînement peuvent être nécessaires.

Cette implémentation se base sur le contenu du texte, et non sur le contenu de l’image.

API Catégories personnalisées (rapide)

L’API Catégories personnalisées (rapide) est plus rapide et plus flexible que la méthode standard. Utilisez-le pour identifier, analyser, contenir, éradiquer et récupérer des cyber incidents impliquant du contenu inapproprié ou dangereux sur des plateformes en ligne.

Un incident peut impliquer un ensemble de modèles de contenu émergents (texte, image ou autres modalités) qui violent les directives de la communauté Microsoft ou les propres stratégies et attentes des clients. Vous devez atténuer ces incidents rapidement et avec précision pour éviter les éventuels problèmes de site en direct ou de dommages aux utilisateurs et aux communautés.

Cette implémentation se base sur le contenu du texte ainsi que sur celui de l’image.

Conseil

Une autre façon de traiter les incidents de contenu émergents consiste à utiliser des listes de blocs, mais cette option autorise uniquement la correspondance de texte exacte et aucune correspondance d’image. L’API (rapide) Catégories personnalisées offre les fonctionnalités avancées suivantes :

  • reconnaissance de texte sémantique à l’aide de la recherche incorporée avec un classifieur léger
  • correspondance d’image avec un modèle de suivi d’objet léger et incorporation de la recherche

Fonctionnement

La fonctionnalité catégories personnalisées Azure AI Content Safety utilise un processus multistep pour la création, l’entraînement et l’utilisation de modèles de classification de contenu personnalisés. Voici le flux de travail :

Étape 1 : Définition et configuration

Lorsque vous définissez une catégorie personnalisée, vous devez inculquer à l’IA le type de contenu que vous souhaitez identifier. Cette étape implique de fournir un nom de catégorie clair et une définition détaillée qui encapsule les caractéristiques du contenu.

Ensuite, vous collectez un jeu de données équilibré avec des exemples positifs et (facultatif) négatifs pour aider l’IA à apprendre les nuances de votre catégorie. Ces données doivent représenter la variété de contenu rencontré par le modèle dans un scénario réel.

Étape 2 :Entraînement du modèle

Après avoir préparé votre jeu de données et défini des catégories, le service Azure AI Sécurité du Contenu entraîne un nouveau modèle de Machine Learning. Ce modèle utilise vos définitions et votre jeu de données chargé pour effectuer l’augmentation des données à l’aide d’un modèle de langage volumineux. Par conséquent, le jeu de données d’entraînement est de plus en plus grande et de meilleure qualité. Pendant l’entraînement, le modèle IA analyse les données et apprend à différencier le contenu qui s’aligne sur la catégorie et le contenu spécifiés.

Étape 3 : évaluation de modèle

Après l’entraînement, évaluez le modèle pour vous assurer qu’il répond à vos exigences de précision. Testez le modèle avec un nouveau contenu qu’il n’a pas reçu lors de l’entraînement. La phase d’évaluation vous permet d’identifier les ajustements potentiels que vous devez effectuer avant de déployer le modèle dans un environnement de production.

Étape 4 : Utilisation du modèle

Utilisez l’API analyzeCustomCategory pour analyser le contenu du texte et déterminer s’il correspond à la catégorie personnalisée que vous avez définie. Le service retourne une valeur booléenne indiquant si le contenu s’aligne sur la catégorie spécifiée.

Limites

Disponibilité de la langue

Les API de catégories personnalisées prennent en charge toutes les langues prises en charge par la modération du texte Content Safety. Consultez Prise en charge des langues.

Limites d’entrée

Consultez le tableau suivant pour connaître les limitations des entrées de l’API (standard) Catégories personnalisées :

Object Limitation
Langues prises en charge Anglais seulement
Nombre de catégories par utilisateur 3
Nombre de versions par catégorie 3
Nombre de générations simultanées (processus) par catégorie 1
Opérations d’inférence par seconde 5
Nombre d’exemples dans une version de catégorie Exemples positifs (requis) : minimum 50, maximum 5 000
Total (exemples négatifs et positifs) : 10 000
Aucun doublon d’exemple n’est autorisé.
Taille de fichier de l’exemple 128 000 octets au maximum
Longueur d’un exemple de texte maximum 125 000 caractères
Longueur d’une définition de catégorie maximum 1 000 caractères
Longueur d’un nom de catégorie maximum 128 caractères
Longueur d’une URL d’objet blob maximum 500 caractères

Disponibilité dans les régions

Pour utiliser cette API, devez créer votre ressource Azure AI Sécurité du Contenu dans une des régions prises en charge. Pour plus d’informations, consultez disponibilité de la région.

Étape suivante

Suivez un guide pratique relatif à l’utilisation des API Azure AI Sécurité du Contenu pour créer des catégories personnalisées.

  • Last updated on