Erklärbarkeit von Rückschlüssen
Wichtig
Ab dem 20. September 2023 können Sie keine neuen Personalisierungsressourcen mehr erstellen. Der Personalisierungsdienst wird am 1. Oktober 2026 eingestellt.
Die Personalisierung hilft Ihnen dabei, nachzuvollziehen, welche Merkmale einer ausgewählten Aktion beim Rückschließen den größten bzw. geringsten Einfluss auf das Modell haben. Wenn diese Option aktiviert ist, schließt die Erklärbarkeit von Rückschlüssen Merkmalsbewertungen aus dem zugrunde liegenden Modell in die Antwort der Rangfolge-API ein, sodass Ihre Anwendung diese Informationen zum Zeitpunkt des Rückschließens erhält.
Durch Merkmalsbewertungen können Sie die Beziehung zwischen Merkmalen und die von der Personalisierung getroffenen Entscheidungen besser nachvollziehen. Sie können verwendet werden, um Ihren Endbenutzern Einblick darin zu geben, warum eine bestimmte Empfehlung gemacht wurde, oder um zu analysieren, ob Ihr Modell Einseitigkeiten im Hinblick auf bestimmte Kontexteinstellungen, Benutzer und Aktionen zeigt.
Gewusst wie: Aktivieren der Erklärbarkeit von Rückschlüssen
Durch Festlegen des Dienstkonfigurationsflags „IsInferenceExplainabilityEnabled“ in Ihrer Dienstkonfiguration kann die Personalisierung Merkmalswerte und Gewichtungen in die Antwort der Rangfolge-API einschließen. Verwenden Sie zum Aktualisieren Ihrer aktuellen Dienstkonfiguration die API zum Aktualisieren der Dienstkonfiguration. Fügen Sie im JSON-Anforderungstext Ihre aktuelle Dienstkonfiguration hinzu, und fügen Sie den zusätzlichen Eintrag hinzu: „IsInferenceExplainabilityEnabled“: true. Sollte Ihnen Ihre aktuelle Dienstkonfiguration nicht bekannt sein, können Sie sie mithilfe der API zum Abrufen der Dienstkonfiguration abrufen.
{
"rewardWaitTime": "PT10M",
"defaultReward": 0,
"rewardAggregation": "earliest",
"explorationPercentage": 0.2,
"modelExportFrequency": "PT5M",
"logMirrorEnabled": true,
"logMirrorSasUri": "https://testblob.blob.core.windows.net/container?se=2020-08-13T00%3A00Z&sp=rwl&spr=https&sv=2018-11-09&sr=c&sig=signature",
"logRetentionDays": 7,
"lastConfigurationEditDate": "0001-01-01T00:00:00Z",
"learningMode": "Online",
"isAutoOptimizationEnabled": true,
"autoOptimizationFrequency": "P7D",
"autoOptimizationStartDate": "2019-01-19T00:00:00Z",
"isInferenceExplainabilityEnabled": true
}
Hinweis
Durch die Aktivierung von Erklärbarkeit von Rückschlüssen wird die Latenz der Aufrufe an die Rangfolge-API erheblich erhöht. Wir empfehlen, mit dieser Funktion zu experimentieren und die Latenz in Ihrem Szenario zu messen, um zu sehen, ob die Latenzanforderungen Ihrer Anwendung erfüllt sind.
Wie werden Merkmalsbewertungen interpretiert?
Durch Aktivieren der Erklärbarkeit von Rückschlüssen wird der JSON-Antwort der Rangfolge-API eine Auflistung namens inferenceExplanation hinzugefügt. Sie enthält eine Liste von Merkmalsnamen und Werten, die in der Rangfolgeanforderung übermittelt wurden – zusammen mit Merkmalsbewertungen aus dem zugrunde liegenden Modell der Personalisierung. Die Merkmalsbewertungen geben Aufschluss darüber, wie stark die einzelnen Merkmale die Wahl der Aktion im Modell beeinflusst haben.
{
"ranking": [
{
"id": "EntertainmentArticle",
"probability": 0.8
},
{
"id": "SportsArticle",
"probability": 0.15
},
{
"id": "NewsArticle",
"probability": 0.05
}
],
"eventId": "75269AD0-BFEE-4598-8196-C57383D38E10",
"rewardActionId": "EntertainmentArticle",
"inferenceExplanation": [
{
"id”: "EntertainmentArticle",
"features": [
{
"name": "user.profileType",
"score": 3.0
},
{
"name": "user.latLong",
"score": -4.3
},
{
"name": "user.profileType^user.latLong",
"score" : 12.1
},
]
]
}
Im obigen Beispiel werden in der Rangfolgeauflistung drei Aktions-IDs sowie ihre jeweiligen Wahrscheinlichkeitsbewertungen zurückgegeben. Die Aktion mit der höchsten Wahrscheinlichkeit ist die beste Aktion (gemäß dem Modell, das mit Daten trainiert wurde, die an die Personalisierungs-APIs gesendet wurden – in diesem Fall: "id": "EntertainmentArticle"). Die Aktions-ID wird auch in der Auflistung inferenceExplanation angezeigt – zusammen mit den Merkmalsnamen und den Bewertungen, die vom Modell für diese Aktion bestimmt wurden, sowie den an die Rangfolge-API gesendeten Merkmalen und Werten.
Wie bereits erwähnt, gibt die Personalisierung entweder die beste Aktion oder eine Sondierungsaktion zurück, die von der Sondierungsrichtlinie ausgewählt wird. Die beste Aktion ist die Aktion, bei der die Wahrscheinlichkeit, die durchschnittliche Relevanz zu maximieren, laut Modell am höchsten ist. Sondierungsaktionen werden dagegen aus allen möglichen Aktionen ausgewählt, die im Aufruf der Rangfolge-API bereitgestellt wurden. Aktionen, die im Rahmen der Sondierung ausgeführt werden, nutzen die Featurescores nicht, um die auszuführende Aktion zu bestimmen. Featurescores für Sondierungsaktionen sollten daher nicht herangezogen werden, um zu ermitteln, warum die Aktion ausgeführt wurde. Weitere Informationen zur Sondierung finden Sie hier.
Für die besten Aktionen, die von der Personalisierung zurückgegeben werden, können die Merkmalsbewertungen allgemeine Erkenntnisse liefern. Dabei gilt:
- Bei höheren positiven Bewertungen ist es wahrscheinlicher, dass das Modell diese Aktion wählt.
- Bei höheren negativen Bewertungen ist es wahrscheinlicher, dass das Modell diese Aktion nicht wählt.
- Bewertungen nahe null haben nur wenig Einfluss auf die Entscheidung, ob eine bestimmte Aktion ausgewählt wird.
Wichtige Überlegungen zur Erklärbarkeit von Rückschlüssen
Längere Wartezeit. Die Aktivierung der Erklärbarkeit von Rückschlüssen kann die Wartezeit bei Aufrufen der Rangfolge-API aufgrund der Verarbeitung der Merkmalsinformationen erheblich erhöhen. Führen Sie Experimente durch, und messen Sie die Wartezeit in Ihrem Szenario, um zu ermitteln, ob sie die Wartezeitanforderungen Ihrer Anwendung erfüllt.
Korrelierte Merkmale. Hochkorrelierte Merkmale können die Nützlichkeit von Merkmalsbewertungen beeinträchtigen. Ein Beispiel: Angenommen, Merkmal A und Merkmal B sind hochkorreliert, und Merkmal A wird mit einem hohen positiven Wert bewertet, während Merkmal B mit einem hohen negativen Wert bewertet wird. In diesem Fall können sich die beiden Merkmale gegenseitig neutralisieren und wenig bis keine Auswirkungen auf das Modell haben. Die Personalisierung ist in puncto hochkorrelierte Merkmale zwar sehr robust, bei Verwendung der Erklärbarkeit von Rückschlüssen muss jedoch sichergestellt werden, dass an die Personalisierung gesendete Merkmale nicht hochkorreliert sind.
Nur Standardsondierung. Die Erklärbarkeit von Rückschlüssen unterstützt nur den Standardsondierungsalgorithmus.