Was ist Content Moderator?
Die Inhaltsmoderation ist ein Prozess, der aus einfachen Schritten besteht. Überprüfen, Überwachen und Interpretieren von Inhalten, bevor sie für die Allgemeinheit angezeigt oder freigegeben werden Es kann jedoch zeitaufwändig sein, eine große Menge von Inhalten zu prüfen. Wenn Sie einen Dienst wie Content Moderator verwenden, können Sie einen Großteil dieses Prozesses automatisieren und je nach Bedarf einrichten, dass die Inhalte auch manuell überprüft werden können.
Der Content Moderator-Dienst ist eine API, die von künstlicher Intelligenz unterstützt und in Azure ausgeführt wird. Der Dienst ist in der Lage, Text-, Bild- und Videoinhalte auf potenziell bedenkliche, anstößige oder unerwünschte Aspekte zu überprüfen. Zwar werden Inhaltsflags automatisch angewendet, aber der Dienst wird ebenfalls in das Überprüfungstool integriert. Das Überprüfungstool ist eine Onlinemoderationsumgebung, die verwendet wird, um die manuelle Überprüfung von gekennzeichneten Inhalten zu vereinfachen.
APIs
In Content Moderator sind unterschiedliche Arten von APIs verfügbar. In der folgenden Tabelle werden die einzelnen aktuellen APIs beschrieben.
| API | Funktionalität |
|---|---|
| Textmoderation | Überprüft Text auf anstößige, eindeutig sexuelle, anzügliche oder obszöne Inhalte und personenbezogene Daten. |
| Bildmoderation | Überprüft Bilder auf nicht jugendfreie oder anstößige Inhalte. Außerdem kann diese API Text in Bildern mithilfe der optischen Zeichenerkennung (Optical Character Recognition, OCR) überprüfen und Gesichter in Bildern erkennen. |
| Videomoderation | Überprüft Videodateien auf nicht jugendfreie oder anstößige Inhalte. Die API gibt Zeitmarker für die gefundenen Inhalte zurück. |
| Benutzerdefinierte Begriffslisten | Überprüft Text mithilfe einer von Ihnen erstellten Liste von Begriffen. Sie können die Liste verwenden, um Inhalte basierend auf den Inhaltsrichtlinien Ihrer Organisation zu blockieren oder zuzulassen. |
| Benutzerdefinierte Bildlisten | Überprüft Bilder anhand Ihrer benutzerdefinierten Bildlisten. Sie können die Liste verwenden, um häufig verwendete Inhalte herauszufiltern, die Sie nicht noch einmal klassifizieren möchten. |
Überprüfen von Inhalten
Die automatisierte Inhaltsmoderation erfordert möglicherweise noch eine Validierung. Sie können auch festlegen, dass Sie die Leistung des Diensts bei den Moderationsaufgaben überwachen möchten. Der Content Moderator-Dienst unterstützt auch eine Reihe von Überprüfungs-APIs. Mithilfe der Bewertungs-APIs können Sie die manuelle Überprüfung in den Workflow integrieren. Benutzer interagieren mit dem Dienst über das Überprüfungstool. Hierbei handelt es sich um eine webbasierte Schnittstelle, die die Inhaltsüberprüfungen hostet, die Moderatoren bearbeiten und überwachen können.