Teilen über

Groundedness-Erkennung

  • Artikel

Die Groundedness-Erkennungs-API erkennt, ob die Textantworten großer Sprachmodelle (LLMs) von den durch Benutzer bereitgestellten Quellmaterialien gestützt werden. Ungroundedness bezieht sich auf Fälle, in denen die LLMs Informationen erzeugen, die nicht sachlich oder ungenau im Bezug auf die Quellmaterialien sind.

Schlüsselbegriffe

  • Retrieval Augmented Generation (RAG): RAG ist eine Technik zur Erweiterung von LLM-Wissen mit anderen Daten. LLMs können über umfangreiche Themen nachdenken, aber ihre Kenntnisse sind auf die öffentlichen Daten beschränkt, die zum Zeitpunkt des Trainings verfügbar waren. Wenn Sie KI-Anwendungen erstellen möchten, die über private Daten oder Daten, die nach dem Ablaufdatum eines Modells eingeführt wurden, verfügen sollen, müssen Sie das Modell mit diesen spezifischen Informationen bereitstellen. Der Prozess, die entsprechenden Informationen einzufügen und in die Modellaufforderung einzufügen, wird als Retrieval Augmented Generation (RAG) bezeichnet. Weitere Informationen finden Sie unter Retrieval-Augmented Generation (RAG).

  • Groundedness und Ungroundedness in LLMs: Dies bezieht sich auf den Umfang, in dem die Ausgaben des Modells auf bereitgestellten Informationen basieren oder zuverlässige Quellen genau wiedergeben. Eine gestützte Antwort hält sich eng an die gegebenen Informationen, um Spekulationen oder Fabrikationen zu vermeiden. Bei Messungen der Groundedness sind Quellinformationen von entscheidender Bedeutung und dienen als Quelle der Groundedness.

Groundedness-Erkennungsfeatures

  • Domänenauswahl: Benutzer können eine etablierte Domäne auswählen, um eine maßgeschneiderte Erkennung sicherzustellen, die den spezifischen Anforderungen ihres Felds entspricht. Derzeit sind die verfügbaren Domänen MEDICAL und GENERIC.
  • Vorgangsspezifikation: Mit diesem Feature können Sie die Aufgabe auswählen, die Sie ausführen, z. B. QnA (Frage und Antwort) und Zusammenfassung mit anpassbaren Einstellungen entsprechend dem Aufgabentyp.
  • Geschwindigkeit und Interpretationsfähigkeit: Es gibt zwei Modi, welche die Geschwindigkeit mit der Ergebnisinterpretierbarkeit abhandeln.
    • Nicht-Reasoning-Modus: Bietet schnelle Erkennungsfunktionen; einfach einzubetten in Online-Anwendungen.
    • Reasoning-Modus: Bietet detaillierte Erläuterungen für erkannte Ungrounded-Segmente; besser für das Verständnis und die Risikominderung.

Anwendungsfälle

Die Groundedness-Erkennung unterstützt textbasierte Zusammenfassungs- und QnA-Aufgaben, um sicherzustellen, dass die generierten Zusammenfassungen oder Antworten präzise und zuverlässig sind. Hier sind einige Beispiele für jeden Anwendungsfall:

Sammelvorgänge:

  • Medizinische Zusammenfassung: Im Zusammenhang mit medizinischen Nachrichtenartikeln kann die Groundedness-Erkennung verwendet werden, um sicherzustellen, dass die Zusammenfassung keine fabrizierten oder irreführenden Informationen enthält, um sicherzustellen, dass Leser genaue und zuverlässige medizinische Informationen erhalten.
  • Zusammenfassung der wissenschaftlichen Arbeit: Wenn das Modell Zusammenfassungen von akademischen Veröffentlichungen oder Forschungsartikeln generiert, kann die Funktion sicherstellen, dass der zusammengefasste Inhalt die wichtigsten Ergebnisse und Beiträge korrekt darstellt, ohne falsche Behauptungen einzuführen.

QnA-Aufgaben:

  • Kundensupport-Chatbots: Im Kundensupport kann die Funktion verwendet werden, um die Antworten von KI-Chatbots zu validieren, um sicherzustellen, dass Kunden genaue und vertrauenswürdige Informationen erhalten, wenn sie Fragen zu Produkten oder Dienstleistungen stellen.
  • Medizinische QnA: Für medizinische QnA hilft die Funktion dabei, die Genauigkeit medizinischer Antworten und Beratungen zu überprüfen, die von KI-Systemen für Medizinische Fachkräfte und Patienten bereitgestellt werden, um das Risiko von medizinischen Fehlern zu verringern.
  • Bildungs-QnA: In Bildungseinrichtungen kann die Funktion auf QnA-Aufgaben angewendet werden, um zu bestätigen, dass Antworten auf akademische Fragen oder Testvorfragen sachlich genau sind und den Lernprozess unterstützen.

Begrenzungen

Verfügbarkeit der Sprache

Derzeit unterstützt die Groundedness-Erkennungs-API englischen Sprachinhalt. Während unsere API die Übermittlung von nicht englischen Inhalten nicht einschränkt, können wir bei der Analyse anderer Sprachinhalte nicht die gleiche Qualität und Genauigkeit garantieren. Es wird empfohlen, dass Benutzer Inhalte in erster Linie in Englisch übermitteln, um die zuverlässigsten und genausten Ergebnisse aus der API sicherzustellen.

Textlängenbeschränkungen

Informationen zu Beschränkungen der maximalen Textlänge finden Sie unter Eingabeanforderungen.

Regions

Um diese API zu verwenden, müssen Sie Ihre Azure KI Inhaltssicherheit-Ressource in den unterstützten Regionen erstellen. Weitere Informationen finden Sie unter Regionale Verfügbarkeit.

TPS-Einschränkungen

Weitere Informationen finden Sie unter Abfrageraten.

Wenn Sie eine höhere Rate benötigen, wenden Sie sich an uns, um sie anzufordern.

Nächste Schritte

Folgen Sie der Schnellstartanleitung, um die Verwendung von Azure KI Inhaltssicherheit zu verwenden, um Groundedness zu erkennen.

Schnellstart zur Groundedness-Erkennung