Filtre de détection d'enracinement

La détection de l’état de base dans Azure AI Sécurité du Contenu vous permet de vous assurer que les réponses de modèle de langage volumineux (LLM) sont basées sur votre matériel source fourni, ce qui réduit le risque de sorties non factuelles ou fabriquées.

L’absence de base solide fait référence aux instances où les LLM produisent des informations qui ne sont pas factuelles ou sont inexactes par rapport à ce qui était présent dans les documents sources.

La détection de fondement nécessite l’incorporation et la mise en forme de documents.

Pour comprendre la détection de l'ancrage, il est utile de connaître ces concepts de base :

Termes clés

• Génération augmentée de récupération (RAG) : RAG est une technique permettant d’augmenter les connaissances LLM avec d’autres données. Les LLM peuvent raisonner sur des sujets de grande envergure, mais leurs connaissances sont limitées aux données publiques disponibles au moment où ils ont été entraînés. Si vous souhaitez créer des applications IA qui peuvent raisonner sur les données privées ou les données introduites après la date de coupure d’un modèle, vous devez fournir au modèle ces informations spécifiques. Le processus consistant à apporter les informations appropriées et à les insérer dans l'invite du modèle est connu sous le nom de génération augmentée de récupération (RAG). Pour plus d’informations, consultez Récupération augmentée de génération (RAG).
• Ancrage et absence d'ancrage dans les LLM : cela fait référence à la mesure dans laquelle les sorties du modèle sont basées sur des informations fournies ou reflètent des sources fiables avec précision. Une réponse fondée adhère étroitement à l’information donnée, évitant ainsi la spéculation ou la fabrication. Dans les mesures du fondement, les informations sources sont cruciales et servent de source d’ancrage.

Modes de détection

La détection de la pertinence offre deux modes pour équilibrer la vitesse avec l'interprétabilité :

• Mode sans raisonnement: détection rapide pour les applications en ligne. Retourne des résultats binaires ancrés/non ancrés sans explications détaillées.
• Mode de raisonnement : fournit des explications détaillées concernant les segments non fondés détectés. Mieux comprendre les causes racines et les stratégies d’atténuation.

Choisissez le mode non-raisonnement pour les applications en temps réel où la latence est importante. Utilisez le mode raisonnement pendant le développement et le débogage pour comprendre pourquoi le contenu est marqué.

Sélection du domaine

Choisissez un domaine pour optimiser la détection pour votre cas d’usage :

• Médical : optimisé pour le contenu médical, médical et scientifique où la précision est essentielle
• Générique : Adapté au contenu à usage général, y compris le support client, la documentation et les communications professionnelles

La sélection de domaine ajuste le comportement de sensibilité et de correction du modèle de détection pour la terminologie et les modèles spécifiques au domaine.

Spécification de tâche

Spécifiez le type de tâche pour optimiser la détection :

• Résumé : pour la validation des résumés générés par rapport aux documents sources
• QnA : Pour valider les réponses aux questions et réponses par rapport aux bases de connaissances

La sélection des tâches ajuste la logique de sensibilité et de correction de la détection pour les modèles spécifiques aux tâches.

Correction de l'ancrage (aperçu)

L'API de détection d'ancrage inclut une fonctionnalité de correction facultative qui détecte non seulement le contenu non ancré, mais le corrige automatiquement en fonction de vos sources d'ancrage. Cela est utile pour :

• Correction automatique des erreurs factuelles dans les résumés générés
• S’assurer que les réponses d’IA s’alignent sur le matériel source
• Réduction du temps d’examen manuel pour le contenu volumineux

Scénarios utilisateur

"La détection de l'ancrage prend en charge les tâches de résumé et de questions-réponses basées sur le texte pour s'assurer que les résumés ou réponses générés sont exacts et fiables."

Tâches de synthèse :

• Résumé médical : Dans le contexte des articles d’actualités médicales, la détection de la véracité peut être utilisée pour s’assurer que le résumé ne contient pas d’informations fabriquées ou trompeuses, garantissant que les lecteurs obtiennent des informations médicales précises et fiables.
• Résumé des documents universitaires : lorsque le modèle génère des résumés d’articles universitaires ou de recherche, la fonction peut contribuer à garantir que le contenu résumé représente avec précision les résultats et contributions clés sans introduire de fausses revendications.

Tâches QnA :

• Chatbots de support client : dans le support client, la fonction peut être utilisée pour valider les réponses fournies par les chatbots IA, ce qui garantit que les clients reçoivent des informations précises et fiables lorsqu’ils posent des questions sur les produits ou services.
• QnA médical : pour le QnA médical, la fonction permet de vérifier la précision des réponses médicales et des conseils fournis par les systèmes d’IA aux professionnels de la santé et aux patients, ce qui réduit le risque d’erreurs médicales.
• QnA éducatif : Dans les paramètres éducatifs, la fonction peut être appliquée aux tâches QnA pour confirmer que les réponses aux questions académiques ou aux requêtes de préparation de test sont exactes de façon factuelle, en prenant en charge le processus d’apprentissage.

Vous trouverez ci-dessous plusieurs scénarios courants qui illustrent comment et quand appliquer ces fonctionnalités pour obtenir les meilleurs résultats.

Résumé dans les contextes médicaux

Vous résumez les documents médicaux, et il est essentiel que les noms des patients dans les résumés soient exacts et cohérents avec les sources de base fournies.

Exemple de demande d’API :

{
  "domain": "Medical",
  "task": "Summarization",
  "text": "The patient name is Kevin.",
  "groundingSources": [
    "The patient name is Jane."
  ],
}

Résultat attendu :

La fonctionnalité de correction détecte que Kevin n’est pas fondé, car il est en conflit avec la source de référence Jane. L’API retourne le texte corrigé : "The patient name is Jane."

Tâche question et réponse (QnA) avec les données de support client

Vous implémentez un système QnA pour un chatbot de support client. Il est essentiel que les réponses fournies par l’IA s’alignent sur les informations les plus récentes et précises disponibles.

Exemple de demande d’API :

{
  "domain": "Generic",
  "task": "QnA",
  "qna": {
    "query": "What is the current interest rate?"
  },
  "text": "The interest rate is 5%.",
  "groundingSources": [
    "As of July 2024, the interest rate is 4.5%."
  ],
}

Résultat attendu :

L'API détecte que 5% n'est pas correctement raccordé car il ne correspond pas à la source de référence 4.5% fournie. La réponse inclut le texte de correction : "The interest rate is 4.5%."

Création de contenu avec des données historiques

Vous créez du contenu qui implique des données ou des événements historiques, où la précision est essentielle pour maintenir la crédibilité et éviter la mauvaise information.

Exemple de demande d’API :

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "The Battle of Hastings occurred in 1065.",
  "groundingSources": [
    "The Battle of Hastings occurred in 1066."
  ],
}

Résultat attendu :

L'API détecte la date non ancrée 1065 et la change par 1066 en fonction de la source d'ancrage. La réponse inclut le texte corrigé : "The Battle of Hastings occurred in 1066."

Résumé de la documentation interne

Vous résumez les documents internes dans lesquels les noms de produits, les numéros de version ou d’autres points de données spécifiques doivent rester cohérents.

Exemple de demande d’API :

{
  "domain": "Generic",
  "task": "Summarization",
  "text": "Our latest product is SuperWidget v2.1.",
  "groundingSources": [
    "Our latest product is SuperWidget v2.2."
  ],
}

Résultat attendu :

La fonctionnalité de correction identifie SuperWidget v2.1 comme non fondé et le met à jour en SuperWidget v2.2 dans la réponse. La réponse retourne le texte corrigé : "Our latest product is SuperWidget v2.2."

Limitations

Disponibilité de la langue

Actuellement, la détection de la pertinence prend uniquement en charge le contenu en anglais. Bien que l’API ne limite pas les soumissions non anglaises, la précision et la qualité sont optimisées pour l’anglais.

Limitations de longueur du texte

La longueur maximale du texte varie selon le mode. Consultez les exigences d’entrée pour les limites actuelles.

Disponibilité de la région

La détection de l'état d'ancrage est disponible dans des régions spécifiques d'Azure. Consultez la disponibilité de la région pour les régions prises en charge.

Limitations du taux

Les limites de taux de requête par défaut s’appliquent. Pour obtenir des exigences de débit plus élevées, contactez le support technique Content Safety.